(사)한국정치평론학회 회원의 칼럼 기사를 발췌한 것입니다.

https://www.imaeil.com/page/view/2024090516050127784

지난 8월 말 경찰은 딥페이크(인공지능을 기반으로 한 인간 이미지 합성 기술) 성범죄의 정황을 밝혔다. 충격적이었다. 법무부 디지털 성범죄 TF 팀장이었던 서지현 전 검사는 "디지털 성범죄의 지옥문이 열렸다"며 "그 패륜적 행태에 나라 전체가 멸망해 가는 기분이다"고 했다. 지난해 전 세계 성 착취물에 등장하는 개인 53%가 한국인이다. 10대 가해자들은 엄마, 누나, 여동생까지 범죄 대상으로 삼았다.

딥페이크는 인공지능(AI)을 이용한 범죄다. '생성적 적대 신경망'(GAN)이란 딥러닝을 이용해 만든다. 인터넷에 'GAN 가짜 얼굴'을 검색하면 무수한 사진이 나온다. 모두 디지털 세계에만 존재하는 가짜다. GAN은 몬트리올대 대학원생 이언 굿펠로우가 만들었다. 2014년 어느 저녁 친구들과 맥주를 마시다 아이디어가 떠올라 하룻밤 만에 만들었다.

GAN은 선용하면 목소리를 잃은 사람을 도울 수 있다. 루게릭병을 앓은 천재 물리학자 스티븐 호킹은 음성합성기 ACAT (Assistive Context-Aware Toolkit)로 대화하고 강연까지 했다. 하지만 GAN이 악용되면 파괴적이다. 성범죄물은 그 일례일 뿐이다. 가장 근본적인 문제는 현실과 거짓의 경계를 무너뜨려 사회를 지탱하는 근본 규칙을 파괴하는 것이다.

딥페이크를 정치적 선동에 악용하면 어떨까? 미국 영화감독 조던 필에게 오바마 대통령의 모습을 입혀 "트럼프 대통령은 완전히 머저리(dipshit)"라고 비난하는 동영상이 있다. 2018년 멕시코 대선 때는 오브라도르 대통령이 뇌물을 받았다는 4분짜리 딥페이크 음성이 유포됐다.

혼자서도 가짜 콘텐츠를 쉽고, 빠르고, 대량으로 찍어낼 수 있다. 유권자들은 진위를 구분할 수 없게 된다. 선거로 유지되는 민주주의 체제의 근간을 흔드는 문제다. 이제 탱크로 쿠데타를 시도하는 것은 낭만적이다. GAN이라는 값싸고, 더 강력한 무기가 있다.

AI의 위험은 이제 시작이다. 2019년 미 인디애나주의 한 공원에서 살인 사건이 일어났다. 목격자가 휴대전화로 현장을 녹화했다. 범인의 신원 확인에 얼마나 시간이 걸렸을까? 고작 20분이다. 경찰은 '클리어뷰 AI'라는 회사의 얼굴 인식 앱에 녹화물을 올렸을 뿐이다. 범죄자가 숨을 곳은 더 이상 없고, 세상이 더 안전해졌다고 생각하면 순진하다. 프라이버시도 함께 사라지기 때문이다. 클리어뷰를 쓰면 누군가의 집 주소, 직장 등 민감한 정보를 손쉽게 알 수 있다. 악당들에게는 환상적 도구다.

국가도 주요 고객이다. 2023년 현재 중국 CCTV 수는 6억2천600만 대, 2명당 한 대꼴이다. 특히 분리주의 운동이 강한 신장 위구르의 수도 카슈가르에는 대규모 경찰, 검문소, 첨단 기술을 결합해 촘촘한 감시 체제를 구축했다. 수많은 카메라, 얼굴 인식 시스템이 주민의 일거수일투족까지 감시한다. 2022년 유엔 인권탄압보고서에는 "신장에 지옥을 만들었다"고 기록돼 있다. 조지 오웰의 '1984'에 등장하는 전체주의 사회를 연상케 한다.

AI가 본격적으로 지식 노동을 대체하면 대량 실업이 발생하고, 불평등이 극단화될 것이다. 스스로 인간 목표물을 찾아 선택하고 제거하는 자율 무기(Autonomous Weapon)로 몇 명의 테러리스트는 대량 학살을 감행할 수 있다. 일론 머스크는 "AI로 우리는 악마를 소환하고 있다"고 우려했다.

하지만 AI의 마지막 위험은 인간을 능가하는 초인공지능(ASI)의 출현이다. 인류가 지구를 지배할 수 있게 된 건 오직 지능 때문이었다. ASI는 인간의 통제를 따를까? 최악의 경우 인간은 ASI의 노예로 전락할 것이다. 2014년 한 저명한 과학자 그룹은 'ASI가 인류 역사상 최악의 실수'일 수 있다는 공개 서한을 발표했다. 딥러닝으로 AI의 신기원을 연 제프리 힌튼은 지난해 뉴욕타임스와의 인터뷰에서 "나의 일생을 후회한다. 통제 여부를 알 때까지 이 기술을 더 확장하면 안 된다"고 경고했다.

하지만 국가와 기업 사이의 경쟁 때문에 누구도 ASI를 막을 수 없다. AI는 스타트렉처럼 인류의 복음이 될 것인가? 매트릭스처럼 우울한 재앙이 될까? 누구도 그 미래를 모르는 신세계가 인류의 목전에 있다.