“잘못 판단” 인정한 올트먼…AI 계약에 ‘민간 사찰 금지’ 명문화

오픈AI가 미 국방부와 체결한 AI 기술 공급 계약을 수정해 민간인 사찰 금지를 명문화했다. 샘 올트먼 CEO는 계약 과정의 판단 착오를 인정하며 소통 부족이 있었다고 밝혔다. AP/뉴시스

오픈AI가 미 국방부와 체결한 인공지능(AI) 기술 공급 계약을 수정하기로 했다. 군사 기밀 네트워크에 도입될 AI 모델이 민간인 감시와 사찰에 활용될 수 있다는 비판이 확산되자, 계약 조항에 ‘국내 감시 금지’를 명문화하며 대응에 나선 것이다.

3일(현지 시간) 샘 올트먼 오픈AI 최고경영자(CEO)는 자신의 엑스(X) 계정을 통해 “국방부와 협력해 합의서에 몇 가지 사항을 추가했다”고 밝혔다.

핵심은 ‘민간인 사찰 금지’의 명문화다. 올트먼은 계약 조항에 “본 AI 모델은 미국인에 대한 국내 감시 용도로 사용되지 않는다”는 문구를 추가했다고 설명했다. 또한 수정안에는 국가안보국(NSA) 등 국방부 산하 정보기관이 별도의 합의 없이 AI 서비스를 이용하는 것을 제한하는 내용도 포함됐다.

이번 조치는 오픈AI가 지난 27일 미 국방부와 군사 기밀 네트워크용 AI 모델 공급 계약을 체결하며 불거진 논란에 따른 것이다. 특히 계약 다음 날 미국이 이란을 공격하면서, AI 군사 협력에 따른 윤리적·정치적 부담은 더욱 커진 모양새다.


● 앤스로픽 빈자리 꿰찬 오픈AI…‘기회주의적 행보’ 비판

당초 국방부는 오픈AI의 경쟁사 앤스로픽과 협상을 진행 중이었다. 그러나 앤스로픽이 ‘대규모 감시’와 ‘살상용 자율 무기’ 금지를 원칙으로 명시할 것을 요구했고, 국방부가 이를 수용하지 않으면서 협상이 결렬됐다.

오픈AI는 이 공백을 메우며 빠르게 AI 공급 계약을 체결했다. 업계 안팎에선 이를 두고 ‘기회주의적 행보’라는 비판이 나왔다. AI 기술이 군사 인프라에 본격 편입되는 시점에서, 윤리가 아닌 이익을 우선시했다는 비판이다.


● 올트먼 “서둘렀던 점 인정”…내부 직원·단체 반발은 지속

인공지능(AI) 및 데이터 센터에 반대하는 시위대가 ‘플러그를 뽑아라(Pull the plug)’라고 적힌 현수막을 들고 런던 오픈AI 사무실을 향해 행진하고 있다. 사진=게티이미지코리아

올트먼은 “잘못 판단했다. 계약 성사를 위해 서두르지 말았어야 했다”라며 “매우 복잡하고 명확한 소통을 필요로 하는 사안이었다. 결과적으로 기회주의적이고 허술해 보였다”라고 인정했다. 다만 계약 자체를 철회하지는 않았다.

그러나 비판은 내부로 확산되는 모영새다. 비즈니스 인사이더에 따르면 약 500명의 오픈AI 및 구글 직원이 앤스로픽의 ‘안전상 계약 중지’ 결정을 지지하는 공개 서한에 서명했다. 반AI 시민단체들도 보이콧을 선언하며 오픈AI 사무실 앞에서 항의 시위를 벌이고 있다.

이에 올트먼은 “그 어떤 민간 기업도 세상의 운명을 결정해서는 안 된다”며 “우리는 정부와 협력하지만, 동시에 개인이 더 큰 힘을 갖도록 보장해야 한다”고 밝혔다. 기술이 국가 안보의 핵심 영역으로 들어오면서 ‘사용 범위’와 ‘감시 한계’를 둘러싼 사회적 합의가 더욱 중요해질 전망이다.

김영호 기자 rladudgh2349@donga.com