카카오, 욕설은 ‘음표’로 바꿔놨더니···나쁜 댓글 3분의 1로 감소읽음

이윤정 기자
카카오 제공

카카오 제공

카카오가 인공지능(AI) 기반 댓글 필터링 기능인 ‘세이프봇’을 도입한 결과, 욕설·비속어 댓글이 3분의1 줄었다고 14일 밝혔다.

이날 카카오는 2020년 12월 세이프봇 도입 이후 분석 결과를 공개했다. 세이프봇은 욕설, 비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 AI 기술로 분석해 자동으로 필터링하는 기능이다. 욕설과 비속어를 음표로 치환하고, 다른 이용자에게 불쾌감을 줄 수 있는 댓글을 노출되지 않도록 가린 뒤 신고 처리까지 자동으로 완료하는 방식이다.

세이프봇 적용 전인 2020년 하반기와 적용 이후인 2021년과 올해 월평균 수치를 비교한 결과, 욕설이나 비속어가 포함된 댓글이 3분의 1 수준으로 줄었다. 욕설이 포함돼 음표로 자동 교체된 댓글 수가 2020년 하반기 대비 2021년 53.7%, 올해 63.8%로 줄었다.

전체 댓글 중 이용자가 신고한 욕설 댓글의 비중도 2020년 하반기 4.2%에서 올해 2.4%로 낮아졌다. 이용자의 신고에 의해 삭제된 욕설 댓글도 2021년 73.6%, 올해 91.7% 줄어, 12분의 1 수준으로 줄어들었다.

카카오는 세이프봇의 능동적 조치로 댓글 문화가 점차 성숙해진 결과라고 설명했다. 세이프봇이 욕설이나 비속어가 담긴 댓글을 신속하게 필터링하면서 이용자들도 자발적으로 건전한 댓글 문화에 동참하게 됐다는 것이다.

카카오는 AI를 활용한 건강한 댓글 생태계 조성에 힘써왔다. 2017년 7월 업계 최초로 ‘욕설 음표 치환 기능’을 적용했다. 2020년 12월에는 해당 기능을 더욱 고도화한 세이프봇을 시범 적용하고, 지난해 12월 본격 도입했다. 현재 포털 다음과 카카오톡 뷰 탭 뉴스 댓글 서비스에 적용 중이다.

카카오는 AI 기술을 고도화해 세이프봇의 성능을 더욱 강화하겠다는 방침이다. 지난 8월 증오발언 대응을 위한 ‘코딩북(Coding Book)’ 제작에 나선 가운데, 증오발언을 판별하는 학습 데이터를 구축하고 내년 상반기에 이를 세이프봇에 적용할 계획이다.


경향티비 배너
Today`s HOT
젖소 복장으로 시위하는 동물보호단체 회원 독일 고속도로에서 전복된 버스 아르헨티나 성모 기리는 종교 행렬 크로아티아에 전시된 초대형 부활절 달걀
훈련 지시하는 황선홍 임시 감독 불덩이 터지는 가자지구 라파
라마단 성월에 죽 나눠주는 봉사자들 코코넛 따는 원숭이 노동 착취 반대 시위
선박 충돌로 무너진 미국 볼티모어 다리 이스라엘 인질 석방 촉구하는 사람들 이강인·손흥민 합작골로 태국 3-0 완승 모스크바 테러 희생자 애도하는 시민들
경향신문 회원을 위한 서비스입니다

경향신문 회원이 되시면 다양하고 풍부한 콘텐츠를 즐기실 수 있습니다.

  • 퀴즈
    풀기
  • 뉴스플리
  • 기사
    응원하기
  • 인스피아
    전문읽기
  • 회원
    혜택