네이버, 언론사에 악플 알리는 '클린봇 옵저버' 도입

네이버가 악플(악성 댓글) 활동이 증가하는 기사에 대한 알림을 언론사에 제공하는 서비스를 도입했습니다.

14일 업계에 따르면 네이버는 전날부터 악성 댓글 활동이 증가하는 기사에 대해 언론사가 빠르게 인지해 대응할 수 있게 하는 '클린봇 옵서버' 서비스를 시범 적용하고, 이날 이런 내용의 안내 메일을 제휴사에 발송했습니다.

클린봇 기술에 기반한 클린봇 옵서버는 일정 횟수 이상의 악성 댓글 작성 시도가 있는 기사에서 비율을 계산해 감지 대상 기사를 자동으로 선별합니다.

클린봇 옵저버는 일정 횟수 이상의 악성 댓글 작성 시도가 있는 기사에서 비율을 계산해 감지 대상 기사를 자동으로 선별합니다.

감지된 기사 목록은 각 언론사가 댓글 관리 기사별 메뉴에서 확인할 수 있으며 댓글 제공 중단이 필요하다고 판단되면 즉각 중단 설정할 수 있습니다.

다만, 클린봇 옵저버는 감지 목록만 제공할 뿐 직접적으로 댓글을 중단할 수 있는 기능은 없습니다.

앞서, 네이버뉴스는 각 언론사가 기사의 댓글 제공 방식을 직접 선택할 수 있도록 '댓글 언론사별 선택제'를 2018년 10월부터 운영해오고 있습니다.

2021년 8월에는 개별 기사 단위로 설정이 가능하도록 '기사별 댓글 제공 중단' 기능을 추가했고, 지난 5월에는 여러 건의 기사를 한 번에 제공 중단 설정하는 기능과 이력 조회 기능을 반영했습니다.

언론사별로 현재도 댓글 제공 중단 설정 기능을 활용하고는 있지만, 별도의 신고가 있기 전에 악성 댓글을 인지하기 어려운 측면이 있었습니다.

네이버는 언론사들의 불만을 수렴해 이번 개선 사항을 담은 후속 서비스를 내놓았다고 설명했습니다.

향후 회사는 댓글이 중단된 기사의 패턴을 파악해 언론사 설정에 따라 선제적으로 댓글 제공 중단이 가능하게 하는 등의 기술 고도화에도 나설 방침입니다.

네이버는 2019년 업계 최초로 인공지능(AI) 기반으로 악성 댓글을 탐지하는 'AI클린봇'을 선보인 이래 지속해서 서비스 고도화를 진행 중입니다.

욕설 단어에서 문장 맥락까지 고려하는 것은 물론 무례한 표현, 차별, 비하, 혐오 표현 등을 걸러내는 기술 업데이트를 단행했습니다.

네이버는 향후 댓글이 중단된 기사의 패턴을 파악해 언론사 설정에 따라 선제적으로 댓글 제공 중단이 가능하게 하는 등 기술 고도화도 추진할 방침입니다.

네이버 관계자는 "악성 댓글이 증가하는 기사를 자동 감지해 알려주는 클린봇 옵저버를 선보였다"며 "앞으로도 클린한 댓글 문화 정착을 위해 다양한 기능을 추가하며, 이용자 만족도를 높이기 위해 노력하겠다"고 말했습니다.

[ 고진경 기자 / jkkoh@mk.co.kr ]