[더테크 이지영 기자]  네이버가 악성 댓글 근절을 위한 인공지능(AI) 기반 탐지 시스템을 고도화하며 뉴스 댓글 서비스의 안전성 강화에 나섰다.

네이버는 자살, 사망 등 생명 경시를 조장하거나 사건·사고 피해자와 유족을 향한 2차 가해성 표현을 집중 차단하는 ‘AI 클린봇 3.0’ 업그레이드를 완료했다고 29일 밝혔다.

이번 개편의 핵심은 ▲자살·사망·신체 훼손 등 생명 경시를 조장하는 댓글 ▲사고 피해자 및 유족을 향한 조롱, 비하, 혐오성 댓글에 대한 탐지 정확도를 높인 점이다. 최근 온라인 공간에서 피해자에 대한 혐오 표현과 2차 가해가 사회적 문제로 부각되면서, 플랫폼 차원의 선제 대응 필요성이 커졌다는 판단이다.

특히 AI 클린봇 3.0은 단순 키워드 탐지를 넘어 기사 제목과 본문, 댓글 내용을 함께 분석하는 ‘맥락 기반 탐지’ 기능을 강화했다. 동일한 표현이라도 기사의 주제와 상황에 따라 악의적 의도를 보다 정밀하게 판단할 수 있도록 모델을 최적화했다.

네이버는 2019년 업계 최초로 AI 클린봇을 도입한 이후 지속적인 고도화를 이어왔다. 초기에는 욕설과 비속어 중심의 키워드 탐지 방식이었지만, 2020년부터는 문장 맥락 기반 분석을 적용해 욕설이 없더라도 모욕적 표현을 탐지할 수 있도록 확장했다.

이후 성적 불쾌감을 유발하는 표현, 혐오·비하·차별 발언, 특수문자나 기호를 활용한 우회성 악성 댓글까지 탐지 범위를 넓혔다. 2023년에는 한국인터넷자율정책기구의 혐오표현 자율정책 가이드라인도 반영하며 민간 자율규제 체계와의 연계를 강화했다.

네이버 김수향 리더는 “욕설과 비속어는 물론 새롭게 등장하는 혐오, 비하, 차별 표현까지 탐지할 수 있도록 클린봇 성능을 지속 강화하고 있다”며 “생명 경시 조장과 피해자·유족 조롱 표현 차단을 포함해 다양한 의견을 반영하며 기술 고도화를 이어갈 것”이라고 밝혔다.

한편 네이버는 올해 정치·선거 섹션 본문 하단 댓글 미제공, 악성 댓글이 일정 기준을 초과한 기사에 대한 댓글 서비스 자동 비활성화 등 정책적 대응도 병행하며 건전한 댓글 문화 조성에 속도를 내고 있다.