[유레카] 딥페이크 활용 범죄 / 구본권

인공지능이 범죄와 만나고 있다. 지난 3월 영국의 한 에너지기업 대표는 상사인 독일의 모회사 사장으로부터 22만유로(약 2억9천만원)를 헝가리 공급자에게 1시간 안에 송금하라는 전화를 받았다. 상사의 전화는 평소 음색, 독일어 억양, 끊어 말하는 습관 그대로였다. 전자우편으로도 같은 내용이 전달돼 의심 없이 바로 송금했지만 사기였다. 성공한 사기범은 다시 전화를 걸어 추가 이체를 요구했는데 오스트리아 번호인 것을 의심하고 모회사 사장에게 확인한 결과 사기임을 알게 됐다. 송금액은 이미 멕시코를 거쳐 인출됐다. 조사당국은 딥페이크 기술을 활용한 사기로 추정한다. 딥페이크는 인공지능을 이용해 실제와 구별되지 않는 동영상, 음성을 만들어내는 기술이다. 15초 분량의 샘플만으로도 완벽한 가짜를 만들 수 있어 그동안 포르노·가짜뉴스 영상 제작에 쓰였는데 금융사기에 활용된 것이다. 정치인·기업인의 동영상이 넘치는 세상에서 새로운 보안 위협이 나타난 셈이다.

구글은 2018년 5월 연례 개발자대회(I/O)에서 순다르 피차이 최고경영자가 인공지능 음성비서 듀플렉스를 공개했다. 인공지능이 식당과 미용실에 전화를 걸어 직원과 자연스럽게 대화하며 상황에 따라 예약할 수 있는 기술의 시연이었다. 개발자들의 환호와 달리 식별 불가능한 인공지능이 가져올 부작용에 대한 우려와 비판이 쏟아지자 구글은 서비스를 보류했다.

일론 머스크 등이 설립한 미국의 비영리 인공지능 연구기관 ‘오픈에이아이(AI)’는 모든 연구 결과를 공개해왔는데, 지난 2월 자신들이 개발한 글쓰기 인공지능(GPT2)의 비공개를 결정했다. 특정 문장을 입력하면 순식간에 논리적이고 적절한 글쓰기를 완성하는 기술로, 소설·기사·작문 등 모든 분야에서 사람 수준의 글쓰기가 가능하다. 개발진은 악용 가능성을 우려하며 구체 내용은 비공개했다.

딥러닝 인공지능은 멈춤과 퇴보 없이 지속 학습하며 인간의 인지능력을 넘어서고 있다. 기계와 달리 사람은 인지능력을 바뀐 환경에 맞게 업그레이드하기는커녕 유지하기도 벅차다. 인간의 인지적 관행과 인공지능 간의 격차는 갈수록 커지고 있으며, 그 격차는 전에 없던 불평등과 범죄의 공간이다. 인공지능 기술이 가져올 불평등과 범죄 활용 가능성에 대한 논의와 대응이 긴요하다.

구본권 미래팀 선임기자 [e-mail]