SBS Biz

[카카오 세이프봇 기능 (사진=카카오 홈페이지 갈무리)]

카카오가 인공지능(AI)를 활용해 욕설·비속어 등을 가리는 '세이프봇' 기능을 사진과 동영상에도 확대할 예정입니다.



오늘(25일) 카카오의 AI 기술·정책 소개 웹매거진 '테크 에식스'(Tech Ethics)에 따르면 카카오는 세이프봇을 "게시글 같은 장문 콘텐츠, 이미지, 동영상 등에도 적용을 확대할 예정"이라고 밝혔습니다. 

카카오 세이프봇은 지난 2020년 도입돼 AI 기술을 활용해 욕설과 비속어 등 운영 정책을 위반하는 댓글을 '음표' 기호 등으로 가리는 기능입니다. 

세이프봇이 적용되면서 욕설 치환 비율이 감소했고, 댓글 신고·삭제 비율도 감소했다고 밝혔습니다. 세이프봇이 적용 전인 2020년 하반기와 비교했을 때 지난해 3분의 1로 감소했습니다. 

전체 댓글 중 이용자가 신고한 욕설 댓글의 비중도 2020년 하반기 4.2%에서 지난해 2.4%로 낮아졌고 이용자의 신고로 삭제된 욕설 댓글 건수도 2020년 하반기와 비교하면 지난해 12분의 1 수준(8.2%)로 줄어들었습니다.



카카오는 세이프봇이 욕설뿐만 아니라 특정 집단이나 성별, 지역 등을 겨냥한 증오 표현을 가려내기 위한 노력도 지속하고 있다고 밝혔습니다. 

카카오는 증오발언 대응을 위해 수집한 데이터를 분석 가능한 형태로 변환할 때 참고할 수 있는 정의나 원칙, 판단 기준 등을 담은 지침서인 '코딩북'을 제작 중입니다.