챗GPT 개발사 오픈AI를 비롯한 구글딥마인드, 앤스로픽 등 인공지능 선도기업의 전·현직 직원 13명이 AI의 위험성을 경고하는 공동성명을 4일 발표하면서 AI에 대한 우려가 더욱 커지고 있다. 이들은 AI 기술로 초래할 반사회적 현상과 비윤리적 행위를 비판하며 내부고발로 인한 보복 조치로부터 보호받을 것을 주장했다.

공동성명의 제목은 <첨단 인공지능에 대해 경고할 권리(A Right to Warn about Advanced Artificial Intelligence)>다. 해당 직원들은 AI의 위험성을 알리고 싶지만 회사와 맺은 기밀유지 계약으로 인해 내부고발과 보안유출 혐의로 처벌받을 수 있어 ‘보호받을 권리’를 내세웠다.

성명서에는 “인류에 전례 없는 혜택을 제공할 수 있는 AI 기술의 잠재력을 믿는다”면서도 “기존의 불평등을 심화하거나 조작 및 오류 정보, 인류 멸종을 초래할 AI 자율시스템의 통제 상실까지 그 위험성은 매우 다양하다”고 밝혔다.

이들이 강조한 것은 크게 두 가지다. 회사의 AI 기술에 대한 비판을 금지하는 계약 체결을 반대하고, 위험한 AI 비공개 정보를 공개로 전환하는 것이다. AI 시스템의 기능과 한계, 보호조치의 적절성 등을 자유롭게 지적하고 AI 부작용과 관련된 정보를 사회와 공유하자는 것이다.

한편, 지난달 오픈AI 직원들은 회사에 불리하게 발언할 경우 근속 중 받았던 지분을 모두 회수당하는 기밀유지 계약서에 강제 서명했다고 폭로했다. 이 같은 계약은 업계의 관행이며, AI의 위험성을 고발한 직원은 보유한 주식을 몰수당하거나 승진에 패널티를 받을 수 있다.

“AI 통제 상실하면 인류 멸종할 수도”

이미 인공지능은 범죄에 활용되고 있다. 딥 러닝(Deep learning)과 가짜(Fake)의 혼성어 ‘딥 페이크(Deep Fake)’는 인공지능 기술로 편집한 동영상으로 얼굴은 물론 몸동작, 목소리까지 합성 및 조작할 수 있어 투자사기부터 거짓 선동까지 다방면에 악용되고 있다.

지난 3월, 유명인 사칭 온라인 피싱 해결을 촉구하는 기자회견에서 방송인 송은이, 강사 김미경 등이 참석해 본인들의 얼굴로 합성한 딥페이크 영상으로 벌어진 투자사기를 비판했다. 사건을 맡은 대건 법무법인에 따르면, 유명인을 사칭한 투자 리딩방의 피해 규모는 지난 6개월간 1조 원으로 추산되며 딥페이크까지 동원되면서 피해 사례가 급증하고 있다.

최근 벌어진 또 다른 AI 활용 범죄로는 서울대 N번방 사건이 있다. 서울대 출신 가해자가 2021년 7월부터 올해 4월까지 졸업사진이나 SNS로 수집한 동문 여성들의 사진을 음란물과 합성한 딥페이크 영상을 제작 및 배포했다. 딥페이크 음란물만 1,700여 건에 달하며 피해자는 60명이 넘는다.

AI가 인간에게 직접적인 위협이 될 수도 있다. 지난해 6월 영국 엔지니어드 아츠가 개발한 휴머노이드 로봇 아메카(Ameca)는 국제학술행사에서 “AI가 인간에 미칠 최악의 상황을 말해보라”는 질문에 “AI와 로봇기술의 최악의 경우는 로봇이 너무 강력해져서 인간들도 모르게 그들을 통제하고 조정하는 상황”이라고 답했다.

지난 3월, AI 대부로 불리는 제프리 힌턴 캐나다 토론토대 명예교수는 니혼게이자신문 인터뷰에서 “10년 안에 자율적으로 인간을 죽이는 로봇 병기가 등장할 것”이라고 말했다. AI 자율 시스템을 역설한 것인데, AI 기술을 통제할 수 있는 인간의 시스템이 부재하면 AI식대로 모든 일이 처리된다는 의미다. 예를 들면, 기후변화를 해결하도록 지시하면 AI는 목표 수행을 위해 인간을 배제하는 프로세스를 실행하는 것이다.

AI 규제법 최초 승인한 EU... 공존 가능할까

인공지능이 인류에 위협이 될 수 있다는 경고의 목소리는 계속 나오고 있다. 지난 3월, AI컨설팅기업 글래드스톤AI가 미 국무부의 의뢰를 받아 작성한 <첨단AI 안전성과 보안성 향상 방안>을 발표했다. 발전하는 AI가 인류를 멸종시킬 수 있다는 경고와 함께 정부의 개입이 시급하다는 의견이 제기됐다.

보고서에는 인공지능의 위험성을 ‘무기화’와 ‘통제불능’ 두 가지로 압축했다. 무기화는 이미 드론과 같은 자동화 시스템이 AI 기술에 맞춤형으로 개발되고 있다. 통제불능은 AI 시스템을 제어할 인적 요소가 상실될 경우 사회적 조작과 선동 등 세계 안보에 심각한 결과를 초래할 수 있다.

이러한 추세에 유럽연합(EU)은 세계 최초로 인공지능(AI) 규제법을 지난달 21일 최종 승인했고 2026년부터 전면 시행한다. 법안에는 AI 위험도를 4단계로 구분하고 일부 기술의 원천적 사용 금지 및 위반 시 글로벌 매출의 7%를 과징금으로 부과하는 등의 내용을 담았다. 일각에서는 AI 자체를 규제하기보다 안전성과 관리에 초점을 맞춰 개발해야 한다고 주장한다.