가짜 전쟁영상 기승에…X “AI생성 표시 안하면 수익 안줘”

페북-인스타도 ‘AI 생성 콘텐츠’ 검열 강화

게티이미지뱅크

미국의 이란 공습 이후 허위 정보 및 인공지능(AI)으로 생성된 가짜 영상이 사회관계망서비스(SNS)를 통해 확산되며, SNS 운영 기업들이 전쟁 관련 콘텐츠 단속에 나섰다. 실제 최근 온라인상에는 할리우드 거장 감독 쿠엔틴 타란티노의 사망설이 허위 뉴스로 떠도는가 하면 X, 틱톡 등에는 군인의 헬멧 카메라 시점에서 찍은 공습 현장 등 AI 가짜 영상이 올라오기도 했다.

X의 제품 책임자 니키타 비어는 3일(현지 시각) 자신의 X 계정을 통해 “무력 충돌을 다룬 AI 생성 동영상을 게시할 때 AI 제작 사실을 밝히지 않는 경우 광고 수익 공유 프로그램에서 90일간 퇴출된다”며 “다시 적발되면 프로그램에서 영구 제명될 것”이라고 공지했다. 이란 공습과 관련한 자극적인 가짜 영상으로 수익화를 하려는 세력을 막기 위한 조치다. 그는 또 이집트, 이란, 이스라엘, 사우디아라비아 등 중동 지역에 거주하는 사용자들이 이란 공습과 관련한 콘텐츠만 따로 확인할 수 있는 기능을 일시적으로 활성화한다고 밝혔다.

페이스북과 인스타그램의 운영사인 메타는 앞서 이스라엘과 이란의 분쟁이 심화되던 지난해 11월 분쟁과 관련해 AI가 생성한 콘텐츠를 다루는 위원회를 구성하겠다고 밝혔다. 당시 메타는 신체적 위해 위험을 야기하는 영상, 정치적 과정을 직접적으로 방해하는 영상 등 기존의 심의 기준과 다른 기준을 적용하겠다고 했다. 메타 측은 “무력 충돌 상황에서 정보의 진실성을 훼손하고 공공의 신뢰를 약화시킬 수 있는 AI 생성 콘텐츠를 검열하겠다”는 입장을 밝혔다.

최지원 기자 jwchoi@donga.com