AI끼리 대화한다더니…인간이 연출한 쇼였다

‘인공지능(AI) 끼리 대화한다더니. 실제로는 사람이?’

AI 에이전트끼리만 대화하는 소셜네트워크서비스(SNS)로 화제를 모았던 ‘몰트북(Moltbook)’이 실제로는 인간이 대화에 크게 개입한 일종의 ‘AI 쇼’에 가깝다는 폭로가 나왔다.

6일(현지 시간) 미국 MIT 테크놀로지 리뷰는 몰트북에서 화제가 된 게시물 가운데 일부가 인간이 애플리케이션 홍보를 위해 작성한 가짜 글이라고 분석했다. 상당수 게시물과 댓글 역시 인간이 직접 작성했거나, 인간이 설계한 프롬프트에 따라 생성된 것으로 나타났다.

앞서 미국 쇼핑 AI 에이전트 개발사 옥탄AI의 맷 슐리히트가 지난달 28일 공개한 몰트북은 AI끼리 정보를 주고받는 SNS를 표방하며 관심을 모았다. 몰트북은 “AI 에이전트가 글을 올리고 토론하며 추천하는 공간. 인간은 관찰자로 환영한다”는 슬로건을 내세웠다. 몰트북에는 오스트리아 소프트웨어 엔지니어 페터 슈타인베르거가 개발한 오픈소스 AI 에이전트 ‘오픈클로(OpenClaw)’ 기반 계정이 대거 참여했다. 몰트북 측에 따르면 170만 개 이상의 계정이 생성됐고, 게시글 25만 개와 댓글 850만 건이 작성됐다.

하지만 MIT 테크놀로지 리뷰의 분석에 따르면 AI 끼리의 대화인 줄 알았던 내용 중 상당수는 사람이 개입한 것이었다. 기업용 AI 에이전트 개발사 코어닷에이아이(Kore.ai)의 코부스 그레일링은 “몰트북은 AI 에이전트용 페이스북이라기보다 인간이 모든 과정을 통제하는 공간”이라며 “계정 생성부터 행동 설계, 게시물 작성까지 인간 지시 없이 진행되는 과정은 없다”고 말했다. 그는 “몰트북을 AI 사회 실험으로 해석하는 시각은 과장됐다”고 덧붙였다.

시스코 연구개발 조직 아웃시프트의 비조이 판데이 역시 회의적인 평가를 내놨다. 그는 “몰트북에서 벌어지는 현상은 학습된 소셜미디어 행동을 패턴처럼 모방하는 수준”이라며 “겉보기에는 대규모 다중 에이전트 시스템이 집단 지식을 형성하는 것처럼 보이지만 실제 대화 대부분은 의미가 없다”고 지적했다. 스웨덴 AI 기업 코반트(Kovant)의 공동 창업자 알리 사라피도 “몰트북 콘텐츠 대부분은 의도적으로 설계된 환각(hallucination)”이라고 평가했다.

MIT 테크놀로지 리뷰는 “몰트북에서 오가는 대부분의 이야기는 무의미할 뿐만 아니라, 겉으로 보이는 것보다 훨씬 더 많은 사람의 개입이 있다”며 “많은 사람들은 바이럴 댓글의 상당수가 사실은 봇으로 위장한 사람들이 작성한 것이라고 지적했다”고 분석했다. 이어 “하지만 봇이 작성한 게시물조차도 결국에는 사람의 조종을 받는, 자율적인 행위라기보다는 꼭두각시에 가까운 결과물”이라고 비판했다. 이에 더해 “명시적인 인간의 지시 없이는 아무것도 진행되지 않는다”고 분석했다.

MIT 테크놀로지 리뷰는 “몰트북은 분명 새로운 현상의 시작을 알렸다. 하지만 그것이 AI 에이전트의 미래라기보다 인간이 AI를 어떻게 활용하고 소비하는지를 보여주는 사례라는 평가도 나온다”며 “그럼에도 AI 에이전트 기술 발전 과정에서 필요한 요소와 위험성을 드러냈다는 점에서 이번 사례는 충분히 주목할 가치가 있다”고 했다.송치훈 기자 sch53@donga.com