▲ 과학기술정보통신부는 23일 여성가족부와 함께 ‘디지털 기반 사회현안 해결 프로젝트’의 일환으로 ‘AI 기반 아동ㆍ청소년 온라인 성착취물 선제적 대응 체계 도입’ 과제의 착수보고회를 개최하고 본격적인 사업 추진에 들어갔다(사진=픽사베이).

(커넥트 데일리=최한민 기자) 정부가 인공지능(AI) 기반의 상시 감시체계를 구축해 아동ㆍ청소년 대상 온라인 성착취물을 선제적으로 탐지하고 자동 삭제까지 연계하는 디지털 대응 시스템을 도입한다.

과학기술정보통신부는 23일 여성가족부와 함께 ‘디지털 기반 사회현안 해결 프로젝트’의 일환으로 ‘AI 기반 아동ㆍ청소년 온라인 성착취물 선제적 대응 체계 도입’ 과제의 착수보고회를 개최하고 본격적인 사업 추진에 들어갔다.

이번 과제는 최근 급증하는 디지털 성범죄, 특히 아동ㆍ청소년을 대상으로 한 온라인 성착취물 문제를 해결하기 위한 대응책이다.

기존에는 키워드 기반 수작업 검색이나 수동 삭제 요청에 의존해 온 방식에서 벗어나 인공지능과 데이터 분석 기술을 적용한 지능형 자동 감시 및 삭제 연계 시스템으로 전환한다는 데 큰 의미가 있다.

정부는 AIㆍ빅데이터ㆍ클라우드 등 신기술을 공공 서비스에 선도적으로 적용해 국민 생활과 밀접한 사회문제를 해결하기 위해 이번 프로젝트를 마련했다.

특히 이번 과제는 기술적 요소를 넘어서 디지털 성범죄 피해자의 신속한 보호와 안전한 온라인 환경 조성을 위한 구조적인 대응 체계 설계까지 목표로 한다.

자기학습형 AI 체계를 통해 24시간 365일 실시간 감시가 가능하며 성착취 관련 키워드나 이미지 유해성 분석 및 의심정보 탐지 등의 기술이 복합적으로 적용된다.

AI가 탐지한 의심정보는 유형별(촬영물 여부, 성착취물 여부 등)로 위험도에 따라 검토 대기열로 자동 분류되며 이후 체계적 검토 절차를 거쳐 삭제 지원 플랫폼에 자동 요청된다.

또한 API(Application Programming Interface)를 통한 신고 및 삭제 자동화 기능도 도입해 탐지된 불법 게시물이 해당 플랫폼에 실시간으로 삭제 요청되며 처리 결과는 데이터로 체계적으로 관리된다.

이번 사업은 여성가족부가 대표 주관을 맡고 한국여성인권진흥원이 공동 주관기관, 한국지능정보사회진흥원(NIA)이 실무 기관으로 참여하며 피해자 보호 전문가들도 함께 협력한다.

피해자의 신속한 상담 연계와 사후 지원까지 염두에 둔 통합형 대응체계로 설계된 것이 특징이다.

정부는 이번 과제를 통해 피해 접수→삭제 지원→상담 연계로 이어지는 원스톱 대응 체계를 갖추고 보다 정교하고 지속 가능한 디지털 성범죄 대응 모델을 마련할 계획이다.

과학기술정보통신부 디지털사회기획과 이정순 과장은 “앞으로도 인공지능 등 디지털 기술을 공공 서비스에 적극 접목해 사회적 약자를 보호하고 국민이 체감할 수 있는 디지털 안전망을 구축하겠다”고 말했다.