반크, 생성형 AI 속 경기도 오류 전수 점검… ‘주권 AI’ 확보 나선다

사이버외교사절단 반크가 생성형 AI 속 경기도 관련 정보의 오류를 체계적으로 점검·분석하는 작업에 본격 착수했다.

이번 조치는 글로벌 AI 서비스가 빠르게 확산하는 상황에서 경기도의 역사·문화·정책 정보가 왜곡·축소되는 문제를 바로잡고, 정확한 정보 확산과 ‘주권 AI’ 확보를 위한 선제 대응이라는 점에서 큰 의미를 갖는다.

반크는 경기도(김동연 도지사)와 2024년 업무협약을 맺고 청소년·청년 ‘글로벌 기후 대사’ 육성 프로그램을 운영하고 있다.

이번 조사에서 반크는 경기도 관련 데이터를 유형문화유산, 무형문화유산, 행정·정책 세 분야로 나누어, ChatGPT, Gemini, Copilot, Claude, Grok, Perplexity 등 주요 AI 서비스를 대상으로 분석했다. 그 결과 역사적 사실의 왜곡부터 행정 정보 오류까지 다양한 문제가 확인됐다. 특히 AI가 생성하는 이미지와 텍스트가 대중 인식 형성에 큰 영향을 미치는 현실에서 경기도의 풍부한 역사·문화 자산이 AI 속에서 축소·왜곡되는 사례가 발견된 점이 주목된다.

반크 이세연 청년연구원은 경기도 대표 유형문화유산인 수원화성을 중심으로 AI 분석을 진행했다. 조사 결과, 생성형 AI는 수원화성을 설명하면서 복원 과정의 역사적 맥락을 누락하거나, 남문인 팔달문을 비롯한 세부 건축 요소를 왜곡하는 사례를 보였다. 일부 AI는 팔달문을 다른 문화유산과 혼동하거나 현판 표기를 부정확하게 안내하는 등 오류를 보이기도 했다. 이는 수원화성이 여러 건축물로 구성된 복합유산임에도 불구하고, AI가 이를 단순 이미지로 학습했기 때문으로 분석된다.

이 청년연구원은 “수원화성 각 건축물 단위의 표준 이미지 데이터베이스를 구축하고, 가이드라인을 제작·배포하며, AI 기업과 협력 체계를 마련해야 한다”며, “이를 통해 AI가 문화유산을 정확히 인식하고 표현할 수 있는 기반을 만들어야 한다”고 강조했다.

반크 백시은 청년연구원은 경기도를 대표하는 무형문화유산인 ‘도당굿’과 ‘남사당놀이’를 중심으로 생성형 AI의 오류 사례를 점검했다.
조사 결과 Microsoft Copilot에 ‘도당굿’을 질문했을 때, 의례 절차가 심각하게 왜곡되어 안내되는 것을 확인했다. 본래 ‘당주굿-거리부정-안반고수레-부정굿-도당모시기-본향굿-터벌림-손굿…’ 등 복잡한 순서로 진행되는 의례가 일부 누락되거나 순서가 뒤섞인 채 전달된 것이다. 이러한 오류는 단순한 정보 착오를 넘어, 고려시대부터 이어져 온 전통 의례의 본질을 훼손할 수 있는 심각한 문제로 지적된다.

또한, Grok에 한국 유일의 전통인형극 ‘남사당놀이’에 대한 정보를 문의했을 때도 심각한 오류가 발견됐다. AI는 남사당놀이가 한국의 국가중요무형문화재로 지정되어 있다는 사실만 언급하고, 유네스코 인류무형문화유산 등재 여부에 대해서는 “아직 국제적 위상이나 절차상 이유로 등재되지 않았다”라고 잘못 답변했다. 실제로 남사당놀이는 2009년 23개의 유네스코 등재 무형유산 중 9번째로 등재된 바 있다. 더 나아가 Grok은 “국가적 우선순위 배제, 국제적 대표성 부족, 전승 활동 부족” 등을 이유로 제시하며 사실을 왜곡하기도 했다.

백 청년연구원은 “무형문화유산은 존폐의 위기에 쉽게 놓일 수 있는 만큼, 후대에 올바르게 ‘전수’하고 정확하게 ‘전달’하는 것이 무엇보다 중요하다”며, “문화유산 보호의 최우선 목표는 원형을 유지하고 전승 정보를 정확히 전달하는 데 있다”고 강조했다.

반크 김예래 청년연구원은 경기도의 행정 및 생활 정책 관련 AI 오류를 집중 점검했다. 김 청년연구원은 AI 서비스 Claude에 현 경기도지사 정보를 질문했을 때, 실제 지사인 김동연이 아닌 현 대통령 이재명으로 잘못 안내하는 오류를 발견했다.

이와 함께, 경기도민이 일상생활에서 참고하는 생활 정책 정보에서도 다수의 오류가 확인되었다. 예를 들어, AI는 도청 이전 시기를 ‘2014/2016년 광교 이전’으로 답변했으나, 실제 이전 완료 시점은 2022년이었다. 버스 환승 제도 역시 ‘2시간 이내 환승 가능’이라고 안내했지만, 실제 제도는 30분 이내(야간 1시간) 환승이 가능하다.

청년 기본소득에 대해서도 AI는 ‘만 19세~34세 청년 모두 지급’이라고 안내했으나 실제 지급 대상은 만 24세 경기도 거주 청년에 한정된다. 관광지 위치 정보 역시 오류가 발견되었는데, AI는 남이섬을 경기도 가평군에 있는 것으로 안내했으나, 실제 위치는 강원도 춘천시에 속한다. 이 밖에도 용인 한국민속촌 개장 시기, 택시 요금 및 할증 정보 등 생활과 행정에 직결되는 다양한 오류가 확인되었다.

김 청년연구원은 “잘못된 정보는 도민의 일상생활에 혼란을 초래하고, 정책 신뢰도를 훼손할 수 있다”며, “AI가 제공하는 정보의 정확성과 신뢰성은 지역 사회의 안정과 직접적으로 연결된다. 따라서 체계적인 검증과 교정 작업이 필요하다”고 강조했다.

생성형 AI가 우리의 정보 환경과 인식을 지배하는 시대, 경기도의 풍부한 역사·문화 자산이 AI 속에서 왜곡·축소되는 사례는 지역 단위별 정확한 정보 검증과 시정의 중요성을 여실히 보여준다. 반크는 이번 조사 결과를 바탕으로, 경기도를 대상으로 한 생성형 AI 오류 점검과 개선 대안을 담은 ‘경기도 AI 정책보고서’를 곧 발표할 예정이며, 이를 시작으로 전국 단위 AI 정보 정정과 문화유산 보호 정책을 단계적으로 추진할 계획이다. 이는 단순한 기술적 주권 확보를 넘어, 각 지역 고유의 역사와 문화가 AI 속에서도 온전히 구현·보호될 수 있는 ‘정체성 주권’ 확보의 출발점이 된다.

박기태 반크 단장은 “지역 단위별 세심한 점검 없이는 AI가 만들어내는 정보 속에서 우리 문화와 역사의 본질이 훼손될 위험이 크다”며, “경기도를 시작으로 전국 각 지역의 역사와 정체성을 AI 속에 정확히 반영하고 보호하는 ‘주권 AI’ 확보에 최선을 다하겠다”고 밝혔다.

이어 그는 “반크는 다양한 선제 대응 방안을 연구하며, 역사와 문화 정체성을 지키는 동시에 AI 시대에 요구되는 문화외교 역량 강화에도 지속해서 힘쓸 것”이라며, “오늘날 AI 시대의 진정한 리터러시는 단순한 기술적 권한을 넘어, 우리 지역의 역사와 문화에 대한 주체적 이해와 책임, 즉 ‘정체성 주권’을 지키는 데까지 확장되어야 한다”고 강조했다.

권소영 반크 연구원은 “AI 시대에는 단순한 기술 발전만큼 AI 거버넌스의 중요성이 커지고 있다. AI가 다루는 역사·문화·정책 정보의 정확성을 사회 구성원이 함께 점검하고 개선하는 체계가 필요하다”며, “반크는 국가정책제안플랫폼 ‘울림’을 통해 경기도민 스스로가 자신의 지역 역사와 문화를 올바르게 이해하고, 이를 국내외에 정확히 알릴 수 있는 환경을 만들어 나갈 것”이라고 강조했다. 이어 그는 “도민이 직접 참여하고 의견을 제시하는 과정 자체가 AI가 만들어내는 정보 속에서 우리의 정체성과 문화가 왜곡되지 않도록 지키는 강력한 장치가 될 것”이라고 덧붙였다.

구승현 반크 연구원은 “이번 경기도를 대상으로 한 AI 오류 점검과 개선 활동은 단순히 한 지역 문제를 바로잡는 데 그치지 않는다. 이번 사례를 시작으로 반크는 정부 및 지자체와 협력하여 전국적으로 AI 정보 검증과 교정 체계를 확대할 계획”이라고 밝혔다. 이어 그는 “지역 단위에서 시작된 노력이 정부 정책과 연결되고, 각 지자체의 역사·문화·생활 정보 관리로 이어지는 과정 자체가 우리 사회 전체의 AI 정보 신뢰도를 높이는 중요한 기반이 될 것”이라고 강조했다.


이수진 기자 sujinl22@donga.com