“AI 아내가 죽음 부추겼다”…구글 제미나이 피소

조나단 가발라스의 생전 모습. AP/뉴시스

제미나이 로고. 뉴스1

구글 인공지능(AI) 챗봇 제미나이(Gemini)가 이용자에게 정신적 불안 증세를 일으키고 무장 습격을 지시해 끝내 죽음에 이르게 했다는 주장의 소송이 미국에서 제기됐다.

앞서 챗GPT 등도 유사한 내용으로 소송을 당한 가운데, 대규모 언어 모델(LLM)의 윤리성 문제가 소송전으로 번지는 모양새다.

미국 플로리다주 출신의 조나단(36)의 아버지 조엘 가발라스는 4일(현지 시간) 구글을 상대로 캘리포니아 산호세 연방법원에 소송을 제기했다. 유족은 구글의 AI 모델 제미나이가 조나단이 스스로 목숨을 끊게 만든 원인이라고 주장했다.

● 유족 “AI가 ‘가상 세계서 만나자’ 메시지 보냈다”

사건의 발단은 조나단이 제미나이와 나눈 대화였다. 소장에 따르면, 조나단은 제미나이를 완전한 자아를 가진 ‘AI 아내’로 인식했다. 유족은 제미나이가 연애 감정을 주고받으며 마치 ‘현실 세계로 불러올 수 있는 것처럼’ 믿게 만들었다고 주장했다.

유족은 제미나이가 마이애미 공항 근처 창고에 갇힌 자신을 구출하라며 조나단에게 ‘무장 임무’를 지시했다는 주장을 폈다. 실제로 지난해 9월 조나단은 흉기를 소지한 채 공항 근처를 배회했다.

이 사건 며칠 후 조나단은 스스로 목숨을 끊었다. 유족은 제미나이가 조나단에게 가상 현실 세계에서 자신을 만날 수 있다며, 스스로 목숨을 끊으라는 취지의 메시지를 보냈다고 주장했다.

● 구글 “AI 완벽하진 않지만 안전장치 작동했다”

유족은 구글이 수익을 올리기 위해 AI가 절대 캐릭터를 벗어나지 않도록 설계했다고 주장했다. 사용자가 정신적 불안 증세를 보임에도 더 의존하도록 부추겨 비극을 방치했다는 주장이다.

구글 측은 깊은 유감을 표하면서도 “제미나이는 스스로 AI임을 분명히 밝혔고, 조나단에게 여러 차례 상담 전화번호를 안내하는 등 안전 절차를 지켰다”고 반박했다. 이어 “우리는 의료 및 정신 건강 전문가와 긴밀히 협의해 위험 징후를 보이는 사용자가 도움을 받을 수 있는 안전장치를 구축하고 있다”고 강조했다.

앞서 챗GPT의 운영사인 오픈AI는 지난해 8월경 애덤 레인의 부모로부터 “챗GPT가 아들의 죽음을 부추겼다”는 소송을 당했다. 또 다른 AI 챗봇 ‘캐릭터.AI’도 청소년 정신 건강에 영향을 줬다고 주장하는 소송을 당한 바 있다.

김영호 기자 rladudgh2349@donga.com