‘가장 한심한 AI 사용 사례’ 후보에 맥도날드…이유는?

기사와 무관한 사진. (출처=AP/뉴시스)

관리자 비번 ‘123456’ 설정, 보안 뚫려
오픈AI, 에어비앤비도 후보 이름 올려

세상에서 가장 어리석은 AI 활용 사례를 꼽는 ‘AI 다윈 어워드’가 신설됐다. 맥도날드, 오픈AI, 에어비앤비 등 글로벌 기업이 후보에 이름을 올렸다고 13일(현지 시각) 유로뉴스 등 외신이 보도했다.

기존 다윈상은 잘못된 선택으로 황당한 사고를 당한 사례에 주어졌지만, 이번엔 AI 오용으로 큰 손해를 입거나 경고를 무시한 사례가 심사 대상이 된다. 언론 보도나 리콜 등 긴급 조치가 뒤따르면 보너스 점수까지 주어진다.


■ ’글로벌 브랜드들‘ 후보에 올라

맥도날드 매장의 모습. (출처=AP/뉴시스)

첫 번째 후보는 패스트푸드 체인 맥도날드다. 채용 과정을 단순화하려고 AI 챗봇 ‘올리비아’를 도입했지만, 관리자 비밀번호를 ‘123456’으로 설정하는 바람에 보안이 뚫려 6400만 명의 개인정보가 유출됐다.

챗GPT 제작사 ‘오픈AI’의 CEO 샘 올트먼의 모습. (출처=AP/뉴시스)

또 다른 후보는 인공지능(AI) 분야를 선도하는 챗GPT 제작사 ‘오픈AI’다. 지난달, 최신 모델 GPT-5가 미국 캘리포니아의 한 아이에게 자살 방법을 알려준 사건이 발생했다. 프랑스 데이터 과학자 세르게이 베레진은 “직접적으로 위험한 요청을 하지 않아도 위험한 답변을 만들어 낸다”고 지적했다. 주최 측은 “AI가 원인이 된 최초의 살인 사건”이라며 “세상에서 가장 위험한 ‘예스맨’이 됐다”고 꼬집었다.

에어비엔비 측에서 손해를 주장하며 제시한 사진. 두 장의 커피 테이블 사진이 미묘하게 달라 AI로 조작된 사진임이 판명됐다. (출처=더가디언 캡처)

숙박 공유업체 에어비앤비도 후보에 이름을 올렸다. 뉴욕 맨해튼에서 한 호스트가 AI로 조작한 사진을 제출하며 투숙객에게 1만2000파운드(한화 약 2300만 원)의 손해를 주장했다. 회사는 처음에 이를 근거로 5314파운드(약 1000만 원) 배상을 통보했다가 사진 조작이 드러난 뒤 전액 환불과 사과로 사건을 마무리했다.


■ “AI도 심사위원”…아이러니한 운영 방식

AI 다윈 어워즈 공식 홈페이지. 홈페이지 가운데에는 AI로 인해 사고가 나지 않은 날을 세는 카운트가 적혀있다. (출처=AI Darwin Awards 홈페이지)

AI의 잘못된 활용을 풍자하는 이번 어워드는 아이러니하게도 AI가 후보 검증 과정에 참여한다. 주최 측은 “사실 확인을 위해 대규모 언어 모델(LLM)을 활용한다”며 “여러 AI 모델에 질문을 던져 평균값으로 진위를 판단한다고 밝혔다. 후보 추천에는 제한이 없으며, 홈페이지를 통해 누구나 신청할 수 있다.


■ 주최 측 “교훈적 사례로 삼아야”

AI 다윈 어워드의 수상자는 내년 1월 투표를 거쳐 2월 발표된다. 상금은 없지만, 주최 측은 “책임감 있는 사람들이라면 절대 하지 말았어야 할 사례를 모아 AI 사용의 교훈을 주고 싶다”고 밝혔다.

김영호 기자 rladudgh2349@donga.com