▲ 과학기술정보통신부 박윤규 제2차관이 주재하는 생성형AI 보안 위협 대응방안 토론회가 13일 서울 송파구에 소재한 글루코퍼레이션에서 열렸다(사진=과학기술정보통신부)  © 커넥트 데일리

(커넥트 데일리=김영도 기자) 과기부가 ChatGPT 등 생성형 인공지능 기술의 활용도가 확대되면서 범죄에 악용될 가능성도 커지고 있어 대응책 마련을 위해 관산학연이 참여하는 현장 토론회를 개최했다.

과학기술정보통신부는 13일 정보보호기업 및 학계, 유관기관 전문가들과 함께 ChatGPT 등 생성형 인공지능(AI)의 보안 위협 대응방향 모색을 위해 서울 송파구에 소재한 글루코퍼레이션에서 현장 토론회를 가졌다.

‘생성형AI 보안 위협 대응방안 토론회’는 최근 쟁점 사안으로 떠오르고 있는 ChatGPT 등 생성형 인공지능 서비스 이용 확산에 따른 보안 위협 동향과 산업적 파급 효과 등을 공유하고 국가 차원의 보안 위협 대응 방향을 논의하기 위해 자리가 마련됐다. 

ChatGPT는 언어 처리 인공지능 모델을 기반으로 하는 대화형 인공지능 서비스로서 지난해 11월 출시 이후 약 두 달여 만에 월 이용자 1억 명을 돌파하는 등 지구촌 최대의 화두로 떠올랐다.

특히 인공지능이 스스로 데이터를 학습해 답변을 생성하고 대량의 데이터를 동시에 처리하는데 문장 속의 단어와 데이터 관계를 추적해 창의적인 답변을 제공하면서 각종 문서부터 프로그램까지 만들어 낼 수가 있어 글로벌 기업들이 앞다투어 관련 기술을 접목 중이다.

하지만 최근 ChatGPT 등 생성형 인공지능 기술을 악용해 악성코드나 랜섬웨어, 피싱메일 제작 등 사이버 공격에 활용할 가능성도 커지고 있다. 

보안 전문기업 ‘CHECKPOINT’는 올해 1월 다크웹 등에서 ChatGPT를 사용해 새로운 악성코드나 랜섬웨어, 피싱메일 제작 등을 제작할 수 있는 사이버공격 도구를 생성했다는 시도가 발견됐다고 보고했다.

ChatGPT 이용 과정에서 개인정보와 기업의 영업 기밀 정보가 유출되는 등 크고 작은 보안 문제가 대두되며 우려의 목소리가 제기되고 있다는 것이다.

이미 미국과 유럽연합(EU) 등 해외 주요국에서는 대화 생성형 인공지능 기술에 대한 위험성을 우려해 안전한 사용과 신뢰 환경 구축을 위한 규제 방안을 현실적으로 논의하고 있다.

과기정통부도 선제적으로 정책 대응 방향을 마련하고자 생성형 인공지능 서비스의 안전한 활용과 보안 위협에 대한 전문가 의견을 수렴하는 자리를 마련하게 됐다.

▲ 생성형AI 보안 위협 대응방안 토론회 현장(사진=과학기술정보통신부)     ©커넥트 데일리

이날 토론회에는 인공지능 기술을 정보보안에 접목하고 있는 정보보호기업을 비롯해 인공지능 관련 산업계, 학계, 유관기관 등이 참여해 각 분야 전문가 주제 발표와 심층 토론으로 이어졌다.

먼저, 첫 번째 주제발표자로 고려대학교 이상근 교수가 ‘챗지피티 기술의 진화, 그리고 사이버보안’이라는 주제를 통해 ChatGPT 등 생성형 인공지능 기술의 발전 동향을 소개하고, 생성형 인공지능의 한계와 보안 위협을 분석해 생성형 인공지능 기술의 발전에 대비한 심층 연구의 필요성을 강조했다.

또 두 번째 발표자로 이글루코퍼레이션 정일옥 기술위원이 ‘챗지피티 등 인공지능이 보안 산업에 미치는 영향’을 주제로 국내외 인공지능 활용한 사이버 보안 산업 동향을 분석 보고하고 인공지능을 접목한 사이버 보안 위협ㆍ탐지 기술의 성장 가능성을 발표했다.

특히, 이 자리에서 자체 개발한 인공지능 모델과 ChatGPT를 연계해 사이버 위협 정보를 판단하는 보안 솔루션을 시연해 눈길을 끌었다.

세 번째로 발표자로 한국인터넷진흥원 김정희 미래정책연구실장이 ‘챗지피티의 보안위협 동향분석 및 대응방향‘이라는 주제로 디지털 체계 패러다임 변화에 따른 보안 위협 대응 현황과 생성형 인공지능를 통한 보안위협 현황 및 사례분석, 생성형 인공지능의 보안위협 예방을 위한 대응방안을 발표했다.

이어 열린 자유토론에는 과기정통부 박윤규 제2차관을 비롯해 정창림 정보보호네트워크정책관 및  관련 산학연 전문가 등 약 20여 명이 참석했다.

참석자들은 생성형 인공지능의 보안 위협 대응 필요성에 공감하면서, 생성형 인공지능의 안전한 이용과 인식제고, 생성형 인공지능을 악용한 사이버공격에 대한 예방 및 대응체계, 인공지능을 활용한 사이버보안 대응역량 제고 방안 등에 대해 심도 있게 논의했다.

박윤규 제2차관은 토론회를 주재하면서 “챗지피티 등 생성형 인공지능 기술은 앞으로 더욱 발전하여 우리 일상에 폭넓게 보편적으로 사용될 것인 만큼 보안 위협 우려에 적극적으로 대응해 나갈 필요가 있다”고 강조하면서 “정부는 생성형 인공지능 서비스를 국민이 안심하고 이용하도록 안전한 사이버 환경을 조성하고 갈수록 지능화, 고도화되는 사이버 위협에 대한 대응역랑을 갖추기 위해 최선을 다하겠다”고 밝혔다.