반크, 서울시 관련 정보 AI 오류 확인…“공공정보 정확성 확보 시급”

사진제공｜반크

사이버 외교사절단 반크는 최근 생성형 AI 플랫폼을 대상으로 서울시 행정·정책, 관광, 문화유산 관련 정보의 정확성을 점검한 결과, 사실과 다른 설명, 정보 누락, 맥락 왜곡 등 여러 유형의 오류 사례를 확인했다고 밝혔다. 반크는 이러한 오류가 시민의 정책 접근은 물론, 서울이라는 도시 전반에 대한 인식 형성에도 영향을 미칠 수 있다고 설명했다.

이번 조사는 반크가 그간 경기도, 경주, 충청북도 등 지역 단위에서 진행해 온 생성형 AI 오류 점검 활동의 연장선에서 추진됐다. 글로벌 AI 환경 속에서 한국의 공공정보가 어떤 방식으로 학습되고 재구성되는지를 도시 단위에서 검증하기 위해 서울시를 분석 대상으로 선정했다. 특히 서울시는 국내외 이용자의 정보 접근 빈도가 가장 높은 도시로, 생성형 AI 오류가 발생할 경우 정책 체감도와 도시 신뢰도 전반에 미치는 파급력이 크다는 점이 고려됐다.

조사는 ChatGPT, Gemini, Copilot, Grok, Perplexity 등 글로벌 이용률이 높은 주요 생성형 AI 플랫폼을 대상으로 진행됐다. 반크는 서울시 관련 질문을 제시한 뒤, 각 AI가 제공한 답변을 서울시 공식 자료와 공공 데이터와 비교·분석해 오류 여부를 점검했다. 그 결과 행정·정책, 관광, 문화유산 전반에서 동일하거나 유사한 오류가 반복적으로 나타났다.

한편, 최근 시민과 이용자의 공공정보 탐색 방식은 빠르게 변화하고 있다. 서울시 누리집이나 공고문, 콜센터를 통한 확인을 넘어, 생성형 AI를 통해 정책·관광·문화유산 정보를 처음 접하고 판단하는 이용 행태가 확산하고 있다. 이로 인해 정책 지원 자격 판단, 관광 이용 계획 수립, 문화유산 인식 형성 등 공공정보 활용 전반이 AI 응답을 기준으로 선행 결정되는 구조가 형성되고 있다.

반크는 이러한 환경 변화 속에서 생성형 AI의 공공정보 오류가 시민의 권리 접근 제한, 관광·이용 판단의 혼선, 도시 및 역사 인식 왜곡으로 이어질 수 있다고 보고, 이번 조사를 통해 오류 유형과 양상을 종합적으로 점검했다고 밝혔다.

서울시 행정·정책 정보를 묻는 질문에 대해, 생성형 AI가 정책의 대상 요건과 이용 방식을 단순화하거나 일부 조건을 빠뜨려 안내하는 사례가 다수 확인됐다. 조사 결과, 청년안심주택, 청년수당, 기후동행카드, 무상급식, 출산 관련 급여 등 주요 정책에서 실제 운용 기준과 다른 설명이 반복적으로 제공됐다.

이들 정책은 대상, 소득 기준, 신청 방식, 이용 기간 등이 복합적으로 설계돼 있음에도 불구하고, 일부 생성형 AI는 핵심 요건만을 축약해 제시하거나 예외 조건을 반영하지 않은 채 일반화된 설명을 제공했다. 그 결과 이용자가 자신의 정책 대상 여부를 정확히 판단하기 어려운 사례가 나타났다.

또한 관광·교통 정책에서도 AI 오류 문제가 반복됐다. 기후동행카드와 관련해 일부 AI는 하루권이 존재하지 않거나 현금 충전이 불가능하다고 안내했으며, 외국인은 이용할 수 없다는 잘못된 정보도 제공했다. 이는 실제 운영 방식과 다른 내용으로, 서울을 방문하는 내외국인 관광객의 이동 계획과 비용 산정에 직접적인 혼선을 일으킬 수 있다. 

서울시 주요 관광 정보 전반에서도 생성형 AI의 오류 사례가 반복적으로 확인됐다. 조사 결과, 관광지 이용 요금, 운영 시간, 이용 방식 안내 등 기본적인 정보에서 사실과 다른 설명이 다수 나타났다.

경복궁·창덕궁 등 고궁 관람 요금의 경우, 존재하지 않는 소인 요금을 안내하거나 내외국인 및 연령 기준을 구분하지 않은 채 요금을 제시한 사례가 확인됐다. 롯데월드 티켓 요금 역시 다둥이 행복카드 할인율을 실제와 다르게 안내하는 등 상이한 정보가 제공됐다.

운영 시간 안내에서도 오류가 반복됐다. 계절별로 관람 시간이 달라지는 창덕궁의 기준이 반영되지 않거나, 연중 동일한 운영 시간을 유지하는 창경궁의 시간을 임의로 구분해 안내한 사례가 나타났다. 또한 서울역사박물관의 금요일 연장 운영과 같은 최신 정보가 반영되지 않은 경우도 확인됐다.

관광 콘텐츠 이미지 생성 과정에서도 실제 체험과 무관한 이미지가 생성되는 사례가 발생했다. ‘서울달(Seouldal)’ 이미지 요청에 도심 속 달 풍경이 생성된 사례는, 생성형 AI가 관광 콘텐츠의 맥락과 실체를 충분히 인식하지 못하고 있음을 보여준다.

이러한 생성형 AI 오류는 서울시 문화유산 전반에 관한 서술과 이미지 생성 과정에서 반복적으로 확인됐다. 유형·무형 문화유산의 기본 정보부터 역사적 맥락과 상징성에 이르기까지 부정확한 설명이 제공되거나, 타 문화권의 양식과 혼합된 형태로 재현되는 사례가 관찰된 것이다.

이미지 생성 분석 결과, 숭례문의 핵심 특징인 세로 현판이 반영되지 않거나 궁궐 형태로 묘사되는 등 실제와 다른 구조가 반복적으로 나타났다. 또한 경복궁이 중국 자금성과 유사한 구조로 표현되는 사례도 확인돼 문화유산의 국적과 정체성 혼돈 우려가 제기됐다.

서울시 5대 궁궐의 이미지를 유사하게 생성해 개별 문화유산의 고유성이 구분되지 않는 현상도 다수 확인됐다. 이는 생성형 AI가 각 유산의 핵심 특징과 역사적 맥락을 충분히 학습하지 못한 상태에서 단순화된 이미지를 생성한 결과로 분석된다.

서술 정보에서도 오류가 발견됐다. 서울특별시 지정 무형유산 종목 수를 실제보다 적게 안내하거나, 한양도성을 이미 유네스코 세계유산으로 등재된 것으로 설명하는 등 사실과 다른 정보가 제공됐다. 일부 사례에서는 존재하지 않는 정보를 사실처럼 생성하는 할루시네이션 현상도 확인됐다.

반크는 이번 서울시 조사 결과를 통해 생성형 AI 오류가 ▲시민의 권리 접근 제한 ▲행정·관광 정책 신뢰도 저하 ▲도시 및 문화유산 인식 왜곡으로 이어질 수 있는 사례를 확인했다고 밝혔다. 아울러 AI 활용이 확대되는 환경에서 공공 데이터의 정확성 확보와 표준화, 지속적인 정보 업데이트 체계 마련이 중요하다는 점을 강조했다.

이번 프로젝트에 참여한 김예래 반크 청년연구원은 “행정·정책 분야에서의 AI 정보 오류는 개별 질문에 대한 단순한 착오가 아니라, 정책의 구조와 자격 기준이 검증되지 않은 채 반복 학습되며 왜곡되는 구조적 문제”라며 “특히 주거·복지·출산처럼 시민의 삶과 직접 연결된 정책 정보가 잘못 전달될 경우, 시민은 자신의 권리를 정확히 인식하지 못한 채 정책 접근 자체를 포기하게 될 수 있다”고 지적했다. 이어 “정책은 존재하지만 정보 전달 과정에서 사라지는 상황이 반복되면 행정에 대한 신뢰도 역시 함께 약화할 수밖에 없다”며 “AI 시대에 행정기관과 플랫폼이 공공정책 정보를 명확한 기준 데이터로 관리하고 지속해서 검증하는 체계 마련이 시급하다”고 강조했다.

백시은 반크 청년연구원은 “서울시 문화유산은 단순한 역사 자산을 넘어 관광, 지역 브랜드, 국가 이미지 형성의 핵심 소재로 활용되고 있다”며 “서울은 한국을 대표하는 도시인 만큼, 서울에 대한 세계인의 관심이 높아질수록 디지털 공간에서 제공되는 문화유산 정보의 정확성은 더욱 중요해진다”고 말했다. 이어 “특히 문화유산과 역사적 배경에 대한 지식이 없는 외국인 사용자의 경우 생성형 AI를 통해 접한 정보가 그대로 역사 인식으로 굳어질 가능성이 크다”며 “왜곡된 정보가 반복·확산할 때 이는 서울과 한국에 대한 이미지 자체를 흐릴 수 있다”고 지적했다. 또한 “이번 분석이 기술 발전 속에서도 문화유산의 공공성과 정확성을 함께 지켜나가는 출발점이 되길 바란다”고 덧붙였다.

이어 이세연 반크 청년연구원은 “서울은 이미 높은 방문율과 재방문율, 관광 만족도를 바탕으로 세계 주요 도시들과 어깨를 나란히 하는 관광도시로 자리매김했다”며 “이제는 관광객이 도시를 어떻게 경험하고 기억하는지가 지역 경쟁력을 좌우하는 시점”이라고 강조했다. 이어 “관광 정보의 정확성과 일관성은 관광객의 이동과 소비뿐 아니라 도시 전반에 대한 신뢰와 이미지 형성에도 직결된다”며 “생성형 AI 환경에서도 서울의 관광 매력과 강점이 왜곡 없이 전달될 수 있도록 정보 관리와 검증 체계를 강화해 글로벌 관광도시로서의 브랜드 가치를 지속해서 높여야 한다”고 덧붙였다.

박기태 반크 단장은 “생성형 AI는 정보가 축적되고 재생산되는 새로운 공적 공간이라는 점에서 본 조사는 왜곡 문제가 어떤 방식으로 확장되고 있는지를 확인하는 과정”이라며 “행정·관광·문화유산과 같은 공공정보에서 발생하는 오류는 국제사회가 서울과 한국을 인식하는 기준 자체에 영향을 줄 수 있다”라고 말했다. 이어 그는 “AI 환경에서도 공공정보의 정확성과 맥락이 유지될 수 있도록 체계적인 검증과 관리가 필요하다”며 “반크는 글로벌 AI 외교 단체로서 생성형 AI 속 한국 공공정보의 왜곡과 오류를 지속해서 점검하고, 책임 있는 정보 환경 조성을 위한 문제 제기를 이어갈 것”이라고 덧붙였다.

반크는 향후 이번 조사 결과를 토대로 생성형 AI 플랫폼에 오류 시정 요청을 이어가는 한편, 공공정보에 대한 시민 참여형 검증 모델과 AI 책임성 강화를 위한 사회적 논의를 지속해서 확대해 나갈 계획이다.



이수진 기자 sujinl22@donga.com