통합검색 상단에 AI가 선별한 Q&A
사실과 다른 정보·혐오비난 시정 요구 응하지 않아
언론 지적 뒤 Q&A란 삭제…투명성·책임성 논란 불가피"Q. 민주노총은 뭐하는 사람들인가요?

A. 대한민국을 없애려는 사람들입니다."

민주노총 홍보실 담당자인 A씨는 지난달 네이버 검색창에 '민주노총'을 쳐 본 뒤 깜짝 놀랐다. 통합검색 결과 상단에 네이버 인공지능(AI) 서비스가 민주노총에 대한 정보로 터무니없는 주장을 띄워놓고 있었기 때문이다. 해당 섹션은 '민주노총 Q&A'란 제목으로, 네이버가 온라인에 등록된 게시물을 AI로 수집하고 선별해 제시하는 서비스라 소개했다. 사실과 다른 정보도 많았다. 한 Q&A는 "민주노총은 대한민국의 노동조합 중 하나로 '민주노동운동'을 기반으로 1987년 창설됐다"고 밝혔다. 민주노총은 1995년 창립했다.

네이버가 자사 인공지능 서비스를 활용해 '민주노총'과 '전장연' 등 키워드 검색 결과로 사실과 다른 정보나 혐오표현을 노출하고 있었다. 네이버는 당사자의 시정 요구에 응하지 않다 언론 취재를 접한 뒤 이들 키워드 관련 AI 답변 섹션을 삭제했다.

A씨 지난달 20일 네이버 고객센터에 이메일을 보내 '민주노총 관련 허위사실과 명예훼손 표현을 시정해달라'고 밝혔다. 네이버 고객센터는 이튿날 답변 이메일에서 "문의하신 검색어로는 AI로 생성된 질문은 (결과에) 포함되지 않는다"며 "특정 검색어로 검색할 때 어떤 게시물이 상단에 노출될지는 예측하거나 보장할 수 없다"고 했다. 이어 "네이버는 여러 사례들을 수집해 검색 알고리즘을 개선해나가고 있다"며 "문의주신 내용도 참고해 내부 개선 검토하겠다"고 했다.

A씨는 미디어오늘과 통화에서 "답변을 분류해 노출하는 것이 AI라 하더라도 그 내용에 문제가 있다면 네이버가 개입을 해야 하는데, 네이버는 오히려 'AI라서 결과를 수정할 수 없다'는 식으로 답해 황당했다"며 "객관적 정보가 아닌 노조혐오가 담긴 주관적 의견을 공식 답변처럼 상단에 노출하면서 그 피해는 떠넘긴 것"이라고 했다.

다른 사회적 소수자 단체를 검색했더니 마찬가지로 문제가 나타났다. 네이버 검색창에 장애인 이동권 보장을 요구하며 지하철 탑승을 이어가는 '전장연'(전국장애인차별철폐연대)을 입력한 결과 AI가 선별한 '전장연 Q&A'가 떴다. "Q. 전장연은 뭐하는 조직인가요?" "장애인 집단이다. 아주 일반시민들 볼매(볼모)로 잡고 나라에 항의하는 조직"이라는 이용자 대화를 띄웠다. "전장연 시위 '개노답' 아닌가요" "전장연 XX(해코지를 의미)할 수 없나요" 등 걸러지지 않은 원색적 혐오표현도 대표 질문에 꼽혔다.

정보인권단체 진보네트워크센터의 희우 활동가는 네이버가 사전에 허위사실이나 혐오표현을 시정했어야 한다고 지적한다. 그는 미디어오늘과 통화에서 "네이버가 클로바를 사용한 Q&A는 일반 검색 결과가 아니라 게시물을 한 차례 선별해 제시하는 취지다. 클로바가 생성한 답변이 아닐지라도 검색 알고리즘이 도출하는 결과에 허위 또는 혐오발언이 있는 건 당연히 문제이며 네이버는 시정을 검토할 의무가 있다"고 했다.

네이버는 12일 관련 입장을 묻는 언론 취재를 접한 직후 관련 키워드 'Q&A' 섹션을 내렸다. 현재 '민주노총'과 '전장연'을 검색창에 입력하면 Q&A란을 찾아볼 수 없다. 네이버 홍보 담당자는 미디어오늘에 "Q&A 블록은 주로 생활형 질의에 대한 검색 결과의 품질을 높이고자 제공한다"며 "민주노총과 전장연 키워드에 Q&A 블록이 노출되는 것은 검색 품질상 적절하지 않다고 판단해 제외 조치했다"고 밝혔다.

네이버 측은 또 "Q&A 블록은 검색한 키워드와 관련해 사용자들이 지식iN, 카페에서 자주 찾은 질문과 다양한 답변들을 모아 노출하는 서비스다. 블록 주제는 자동으로 생성되며, 검색 결과에 따라 유동적으로 변화한다"라고 설명했다. 이어 "노출되는 게시물을 비롯해 명예훼손이라고 판단되는 게시물에 대해서는 게시중단 등 신고 프로세스를 갖추고 있다. 모니터링 강화 등을 통해 전반적인 검색 결과에 대해서도 지속 개선하겠다"고 밝혔다.

네이버 측이 아예 Q&A란을 내린 사후 조치가 아쉬움을 낳는다는 지적도 나온다. 희우 활동가는 "빅테크 기업이 책임감을 가지고 시스템을 개선하는 게 아니라 임시방편을 써서 검색의 질을 오히려 떨어뜨릴 수 있는 조치를 한 것으로 보여 아쉽다"며 "구글도 과거 검색 결과에 흑인을 차별하는 내용을 노출해 문제가 되니 아예 관련 태그를 삭제하는 조치로 대응한 바 있다"고 했다.

정다운 전장연 활동가는 통화에서 "포털은 인터넷 정보를 수집해 큐레이션(선별하고 배열함)함으로써 많은 이들의 인식을 바꾸는 영향력을 행사한다. 문제는 사회적 소수자의 목소리는 (포털이) 주요하게 반영할 수 있는 기준 안에 들기가 어렵다"며 "포털은 기본 사실을 검증하고 소수자 목소리를 반영하며, 혐오표현을 노출할 땐 그 사회적 맥락을 함께 노출해야 할 것"이라고 했다.

AI 영향에 속수무책 이용자·당사자

"구제방법 명시하도록 규제 마련 필요"

'이루다 논란' 등 인공지능이 사회적으로 구성된 편견과 오류를 그대로 노출해 나타나는 피해에 지적이 나온 지 오래다. 구글 등 여러 IT 플랫폼 기업이 인공지능이 산출한 결과물에 질의를 받으면 '알고리즘의 결과라 알 수 없다'고 답하고, 당사자나 이용자는 원인을 알거나 구제책을 찾지 못하는 처지에 놓여왔다는 것이다.

이 같은 상황에 해외에선 정부기관이나 기업의 인공지능 활용에 책임을 지우는 규제책을 도입하는 추세지만 국내엔 이렇다 할 규제책이 마련돼 있지 않다. 희우 활동가는 "유럽연합(EU)은 이용자들이 접하는 정보를 빅테크 플랫폼이 통제하고 또 여론 형성, 민주주의에 미치는 영향을 강조하면서 투명성과 책임성 의무를 지우고 있다"며 "한국 사회도 (AI를 운영하는 기업에) 의무를 지우는 방향을 확립해나가야 한다"고 했다. EU가 지난해 도입한 DSA(디지털서비스법)은 대형 온라인 플랫폼에 알고리즘 투명성에 대한 책무를 두고, 명확한 구제방법을 마련하도록 규제하고 있다.

(1월13일 오후 2시27분 기사 일부 수정)

※ 알려드립니다

미디어오늘은 범죄 피해자에 대한 2차 가해나 소수자·약자 대상 혐오 발언이 우려되는 보도의 댓글창을 비활성화하고 있습니다. 기사에 관한 의견은 [email protected]로 남겨주시면 검토하겠습니다.