KaKao

뉴스 댓글이나 소셜 미디어에서 거친 욕설을 보고 눈살 찌푸렸던 순간들 있으시죠?

2017년 7월 이후 이런 욕설들이 깜찍한 음표로 치환되기 시작했습니다. 다음뉴스 댓글에 ‘욕설 자동치환’ 기능이 적용된 거죠. 이 기능은 카카오의 70여 개 서비스에 적용됐어요. ‘상담톡'에도 적용되어 상담원 심리 보호에도 큰 몫을 하고 있죠.

2020년 12월부터, 이 기능은 ‘세이프봇’으로 진화했습니다. 이용자 안전을 두루 챙기는 카카오 ‘세이프 시스템'의 한 축을 담당하는 딥러닝 기술이죠. 주로 욕설, 비속어를 변형하거나 게시물 운영 정책을 위반한 댓글 등을 AI 기술로 분석해 자동으로 가려주는 역할을 하죠. AI 딥러닝 기술을 토대로 스스로 나쁜말을 학습하고 계속 진화하는 것이 기존 욕설 자동 치환 기능 대비 발전된 점이래요. 

세이프봇은 다음 뉴스 타임톡, 오픈채팅 라이트 등 여러 사람들이 소통하는 곳에서 주로 활동합니다. 나쁜말을 쓸때만 나타나죠. 카카오톡 대화창과 같은 개인적인 공간에서는 활동하지 않습니다. 

지피지기면 백전백승이라죠? 나쁜말을 잘 잡아내기 위해 세이프봇은 60만 여개의 욕설 데이터베이스를 토대로 학습을 거듭했죠. 어떤 욕쟁이도 뛰어넘을 만한 지적 수준입니다.

‘마스터’가 되기 위해 세이프봇은 네 단계 강화 과정을 거쳐 ‘나쁜말 사전’을 정립했습니다.

누구나 공감할만한 기준이 필요했겠죠? 방송통신심의위원회의 ‘인터넷 내용등급 서비스' 등급 기준을 참고해 디테일을 더해왔대요. 

매일 신조어가 만들어지는 것처럼, 나쁜말도 예외는 아니죠. 파생 욕설에 관한 다양한 조합을 만드는 과정이 필요했고요. 반대로 욕 같지만 욕이 아닌 표현은 불필요한 제재를 받지 않도록 하죠. 예컨대, ‘수박씨발라먹는중’을 욕이라고 보기는 어렵기 때문입니다. 

이렇게 한 땀 한 땀 완성한 60만 욕설 데이터 베이스를 품고, 세이프봇은 오늘도 인터넷 세상 이곳 저곳을 살피죠. 공적 영역에도 기여합니다. 한국인터넷자율정책기구(KISO)에 무상 제공된 데이터베이스는 이용자보호시스템(KSS, KISO Safeguard System) API를 만드는 토대가 됐어요. 각종 인터넷 서비스에 이 API가 적용되면서 욕설이 자취를 감추는 속도도 빨라질 거예요. KSS는 ‘사람 친화적 디지털 기술'로 평가받아 6월 16일 ‘휴먼 테크놀로지 어워드 2023’에서 상을 받기도 했어요.

세이프봇 도입 이후 무엇이 얼마나 바뀌었을까요? 도입 직후 욕설 치환 비율이 급감했고, 댓글 신고 삭제비율도 꾸준한 감소세입니다. 스스로 고운말을 쓰는 자정 작용이 일어난거죠.

카카오가  증오발언 근절을 위한 원칙을 2021년 1월  발표한 이래, 세이프봇의 위상과 중요도는 한층 더 높아지고 있는데요. 더 가깝고 안전하게 소통할수 있도록 오늘도 매의 눈으로 지켜볼게요. 모쪼록 '60만 데이터 베이스'가 더 이상 커지지 않길 바랍니다!