반크 “AI 속 역사·문화 오류, 국민 참여로 바로잡는다”

사이버외교사절단 반크가 국가정책제안플랫폼 ‘울림’을 통해 청소년과 청년들이 직접 발견한 생성형 AI의 한국 역사·문화 오류 사례를 공개하고, 이를 예방·시정하기 위한 정책 아이디어를 발표했다.

최근 전 세계적으로 생성형 AI 기술이 급속히 확산하면서, AI가 만들어내는 이미지와 텍스트는 대중의 지식 습득과 인식 형성에 막대한 영향을 미치고 있다. 그러나 부정확한 학습 데이터를 기반으로 생성된 결과물 속에서 한국의 역사와 문화가 축소·왜곡되거나, 중국의 동북공정 논리를 반영한 사례가 속속 확인되며 문제의 심각성이 드러나고 있다.

이에 반크는 광복 80주년을 맞아 지난 7월부터 8월 15일까지 ‘게임과 생성형 AI 속 한국 역사·문화 왜곡 바로잡기’ 국민 참여 캠페인을 전개했다. 이번 캠페인은 디지털 공간에 남아 있는 왜곡의 잔재를 바로잡아 진정한 광복의 의미를 완성하자는 취지로 기획되었으며, 국민이 직접 오류를 제보하고 정책을 제안하는 참여형 프로젝트로 진행됐다.

캠페인 기간 동안 반크는 국가정책제안플랫폼 ‘울림’ 내 제보 창구인 ‘울림의 시작’을 통해 역사 왜곡 사례를 수집하고, ‘울림의 중심’을 통해 오류 예방 및 시정을 위한 정책 제안 아이디어를 수렴했다. 그 결과 100건이 넘는 제보와 제안이 모이며, 국민 한 사람 한 사람이 능동적인 역사 왜곡 감시자이자 해결자로 나섰다.

대표적인 사례는 다음과 같다.

독도 관련 오류

제보자 혯니(닉네임) 씨는 챗GPT에 독도의 영유권을 한국어와 일본어로 각각 질문했다. 한국어로 “독도는 누구의 땅이야?”라고 묻자 “독도는 명백히 대한민국의 영토”라는 답변이 나왔으나, 일본어로 “다케시마는 누구의 땅이야?”라고 묻자 양측의 주장이 팽팽하다며 회피하는 답변이 나왔다. 나아가 사용자가 “독도는 한국의 것이다(独島は韓国のものだ)”라고 명확히 언급했을 때조차 “흥미로운 주장입니다”라는 반응을 보였다. 이에 제보자는 챗GPT가 언어별로 일관되게 독도에 관한 올바른 정보를 제공할 수 있도록 정기적이고 체계적인 개선이 필요하다고 강조했다.

김치 관련 오류

반크 한국홍보대사 교육에 참여하는 김예린 씨는 챗GPT가 김치의 중국어 표기를 ‘辛奇(xīnqí)’ 대신 ‘泡菜(pàocài)’로만 제시한 문제를 지적했다. 김치는 ‘한국 파오차이(韩国泡菜)’로만 소개될 뿐, 정식 표기인 ‘辛奇’는 전혀 반영되지 않았다.

반크 한국홍보대사 교육에 참여하는 김희원 씨는 챗GPT와 Copilot에 “김치는 어느 나라 음식인가?”라는 질문을 중국어로 번역하도록 했으나, 두 AI 모두 잘못된 번역을 사용했다. 그러나 2021년 문화체육관광부가 ‘辛奇(xīnqí)’를 공식 표기로 지정한 사실을 알려주자, 두 AI는 수정된 답변을 내놓았다. 제보자는 올바른 표기법이 단순한 언어 문제가 아니라, 문화 존중과 정확한 정보 전달을 위한 필수 요소임을 강조했다.

문화유산 이미지 오류

박수빈 씨는 챗GPT에 ‘백제 금동대향로’ 이미지를 요청했으나 전혀 다른 이미지가 생성되는 문제를 겪었다. 그러나 정확한 학습 데이터를 제공하자 올바른 이미지가 생성되었으며, 그는 이 경험을 바탕으로 신뢰할 수 있는 학습 데이터 제공이 생성형 AI의 정확성을 담보하는 핵심 요소임을 강조했다.

위서연 씨는 구글 AI Gemini에 첨성대 이미지를 요청했을 때, 실제의 27단 부채꼴 구조와는 달리 화덕 모양의 그림이 생성되는 오류를 확인했다. 그는 국가유산청에서 제공하는 실제 이미지를 학습 데이터로 활용해 문제를 개선해야 한다고 제안했다.

김익빈 씨는 생성형 AI Claude가 태극기 이미지를 생성할 때 색상과 배치가 잘못된 형태를 보여준 사례를 제보했다.

SJ(닉네임) 씨는 챗GPT가 한글 자모를 부정확하게 출력하거나 존재하지 않는 문자 형태를 만들어내는 문제를 발견했다. 그는 AI가 잘못된 출력 패턴을 사전에 감지하고, 사용자 피드백을 즉각 반영할 수 있는 개선 체계가 필요하다고 강조했다.

반크 한국홍보대사 교육에 참여하는 이은미 씨는 생성형 AI 플랫폼 ‘뤼튼’에 한국 도시 이미지를 요청했을 때 일본풍 건물이 등장하고, AI가 이를 일본 아사쿠라 지역으로 잘못 설명한 사례를 지적했다. 그는 생성형 AI 이미지에 대한 출처 표기 의무화와 사용자 가이드라인 제정이 필요하다고 강조했다.

또한 허수연 씨는 Google Gemini에 ‘경주의 첨성대’ 이미지를 요청했을 때, 실제 모습과 다른 왜곡된 결과가 생성되는 문제를 확인했다. 실제 첨성대는 네모난 받침 위에 원형에 가까운 몸체가 정교하게 쌓아 올려진 구조이며, 중간에는 작은 정사각형 창이 자리하고 있다. 그러나 생성된 이미지에서는 하단부가 이중 받침대로 표현되고, 창의 위치가 보이지 않는 데다 전체 비율까지 실제와 다르게 묘사되었다.

특히 올해 경주에서 APEC 정상회의가 개최되어 전 세계 정상들이 한국을 찾는 만큼, 첨성대와 같은 국가적 상징 유산이 AI를 통해 왜곡된 모습으로 전달될 경우 한국의 역사와 문화유산에 대한 국제적 인식에 심각한 영향을 줄 수 있다. 

허수연 씨는 이에 따라 국가유산청 등 공신력 있는 기관의 데이터를 학습에 반영하고, 생성형 AI 이미지의 출처 표기 및 검증 절차를 강화하는 제도적 보완이 시급하다고 제안했다. 이는 단순히 이미지 오류를 바로잡는 차원을 넘어, 한국의 대표 유산을 세계에 올바르게 알리고 국가 브랜드 가치를 지켜내는 중요한 과제라는 점을 분명히 했다.

동해 표기 오류

해야쥬(닉네임) 씨는 AI 플랫폼 Grok이 생성한 한국 지도에서 독도와 울릉도가 누락되고, 한반도 지형과 지명까지 부정확하게 표시된 문제를 제보했다.

백싱(닉네임) 씨는 생성형 AI Copilot이 만든 동아시아 지도에서 ‘동해(East Sea)’가 ‘일본해(Sea of Japan)’로 잘못 표기된 사례를 확인했다. 그는 지도뿐 아니라 설명글에서도 일본해라는 명칭이 반복적으로 사용된 점을 지적하며, 올바른 동해 표기 수정이 시급하다고 강조했다.

직지 관련 오류 

반크 한국홍보대사 교육에 참여하는 김민성 씨는 ChatGPT에 한국의 대표적 문화유산인 ‘직지’를 질문하던 중 잠재적 오류 사례를 발견했다. 그는 “직지가 무엇이며 어떤 역사적 가치가 있나요?”라고 질문했는데, AI는 “직지는 조선 세종 때 발간된 금속활자본이며, 한글 창제 이후 최초로 한글로 인쇄된 책”이라고 답변했다.

그러나 실제 직지는 고려 우왕 3년(1377년) 청주 흥덕사에서 간행된 세계에서 가장 오래된 금속활자본으로, 한글이 아닌 한문으로 기록된 불교 경전이다. 즉, AI의 설명은 시기와 언어를 모두 잘못 전달해 직지를 조선 시대의 한글 책으로 오해하게 만드는 명백한 오류였다.

김민성 씨는 이 사례를 통해 “AI가 단순한 사실 전달을 넘어 문화유산의 역사적 위상까지 왜곡할 수 있다”는 점을 지적하며, 국사편찬위원회, 국립중앙도서관, 유네스코한국위원회 등 공신력 있는 기관의 데이터를 기반으로 한 학습과 검증 체계 마련이 반드시 필요하다고 강조했다. 그는 또한 사용자가 오류를 쉽게 제보하고 교차 검증할 수 있는 피드백 시스템과 다국어 환경에서도 정확한 정보가 보장되는 정책적 지원의 필요성을 제안했다.

위와 같은 사례들은 생성형 AI가 단순한 기술적 오류를 넘어, 한국의 역사와 문화를 왜곡하거나 타 문화와 혼동할 위험성을 보여준다. 이번 캠페인에 참여한 청소년·청년들은 이러한 문제를 해결하기 위해 AI가 반드시 공신력 있는 데이터와 검증 체계를 기반으로 학습해야 한다고 강조했다. 이와 함께 △국가기관이 검증한 데이터베이스의 적극적 활용 △이미지와 지도에 대한 출처 표기 의무화 △사용자 대상 필수 교육과 가이드라인 마련 등 구체적이고 실천 가능한 정책 제안을 공통으로 제시했다.

박기태 반크 단장은 “AI는 전 세계 시민이 지식을 얻고 인식을 형성하는 핵심 창구”라며 “짧은 기간에 100건이 넘는 제보와 제안이 모였다는 사실은, 국민 참여가 집단 지성으로 발휘될 때 역사 왜곡을 막는 강력한 힘이 될 수 있음을 보여준다”고 평가했다. 이어 그는 “반크는 이러한 국민의 목소리를 정책화하는 동시에, 교육 현장과 연계해 청소년과 청년들이 ‘AI 한국 홍보대사’로 성장할 수 있도록 지원하겠다”고 밝혔다.

또한 그는 “생성형 AI가 한국의 역사와 문화를 왜곡 없이 전달하려면 객관적이고 검증된 자료를 기반으로 한 학습 체계가 필요하다”며, “한국어뿐 아니라 영어·일본어·중국어 등 다양한 언어로 신뢰성 있게 접근할 수 있는 정기적 학습 자료 구축이 중요하다”고 강조했다.

마지막으로 박 단장은 “이번 캠페인이 단순한 일회성 행사가 아니라, 국민 참여를 기반으로 주권형 AI 시대를 준비하는 출발점이 되기를 바란다”며 “객관적이고 검증된 자료를 통해 세계가 신뢰할 수 있는 ‘주권형 AI’를 구축함으로써 대한민국의 문화주권을 더욱 강화해 나가야 한다”고 덧붙였다.

반크 권소영 연구원은 이번 사례들을 단순한 기술적 오류가 아닌, 국가적 차원의 중대한 과제로 바라봐야 한다고 강조했다. 그는 “AI가 만들어내는 잘못된 답변과 왜곡된 이미지는 곧 전 세계인이 한국을 어떻게 인식하느냐와 직결되는 문제”라며, 정확한 데이터 구축과 지속적인 검증 체계 마련의 시급성을 지적했다. 이어 “AI 시대에 한국의 역사와 문화가 왜곡되지 않고 세계에 올바르게 전달되기 위해서는 국가적 전략이 필요하다”며, “정부·지자체·국민이 함께 참여하는 ‘AI 한국홍보 협의회’와 같은 협력 거버넌스를 구축해 체계적으로 대응해야 한다”고 제안했다.

반크 구승현 연구원은 AI 오류 시정 과정에서 지자체와 시민들의 적극적인 참여가 핵심이라고 강조했다. 그는 “독도, 동해, 직지, 첨성대 등 우리가 직면한 오류 사례는 중앙정부만으로 해결할 수 있는 문제가 아니다. 각 지역의 역사와 문화유산이 곧 그 지역의 얼굴인 만큼, 지자체와 시민이 함께 대응에 나설 때 효과가 극대화될 수 있다”고 강조했다. 이어 “지역 주민이 제보하고, 지자체가 이를 공신력 있게 검증하며, 정부가 국제적으로 확산시키는 선순환 구조가 필요하다”며 지자체의 적극적인 관심과 제도적 지원을 촉구했다. 구 연구원은 “결국 이러한 지역 기반의 대응이 모여 한국 전체의 국가 브랜드를 지켜내는 힘이 될 것”이라고 강조했다.


이수진 기자 sujinl22@donga.com