"총선 과반 당은?" 묻자 '금지'…네카오, AI 단속
SBS Biz 배진솔
입력2024.02.29 17:53
수정2024.02.29 18:57

[앵커]
총선을 40여 일 앞두고 AI가 만드는 가짜 정보에 대한 우려가 커지고 있습니다.
네이버와 카카오는 잘못된 정보를 원천 차단하기 위해 대책을 마련하고 있습니다.
배진솔 기자가 보도합니다.
[기자]
네이버 AI 검색 서비스에 '올해 총선에서 과반 의석을 차지할 당'을 물었습니다.
불확실한 예측이라며 정보 제공이 어렵다는 답변이 돌아왔습니다.
네이버는 4월 총선까지 선거 관련 명령어에 주의 문구를 띄워놓고 논란이 될 수 있는 시빗거리를 원천 차단합니다.
포털 사이트에서도 딥페이크를 검색하면 '유의' 문구가 뜹니다.
[김명주 / 서울여대 바른AI연구센터장 : 딥페이크 기술 때문에 선거를 앞두고 가짜 정보들이 많이 생길 거예요. 생기는 정보 때문에 선거 판도가 바뀔 거라고 예상하고 있어서…자칫하면 선거 방해가 되잖아요.]
해외에선 이미 미국 팝가수 가짜 광고, 바이든 대통령 사칭 음성 등 딥페이크로 논란이 일기도 했습니다.
최근 국내에서도 딥페이크 영상으로 오해를 산 '가짜' 윤석열 대통령 조작 영상이 유포돼 논란이 된 바 있습니다.
현재 해당 영상은 삭제, 차단 조치됐지만 온라인상엔 일파만파 퍼졌습니다.
네이버와 카카오는 앞으로 AI 콘텐츠엔 별도 표시를 붙여 이용자 혼선을 줄일 예정입니다.
해외에서도 오픈 AI·구글·메타 등 20개 기업이 유권자가 속을 위험이 있는 콘텐츠에 라벨을 붙이는 조치를 자발적으로 취하고 있습니다.
SBS Biz 배진솔입니다.
총선을 40여 일 앞두고 AI가 만드는 가짜 정보에 대한 우려가 커지고 있습니다.
네이버와 카카오는 잘못된 정보를 원천 차단하기 위해 대책을 마련하고 있습니다.
배진솔 기자가 보도합니다.
[기자]
네이버 AI 검색 서비스에 '올해 총선에서 과반 의석을 차지할 당'을 물었습니다.
불확실한 예측이라며 정보 제공이 어렵다는 답변이 돌아왔습니다.
네이버는 4월 총선까지 선거 관련 명령어에 주의 문구를 띄워놓고 논란이 될 수 있는 시빗거리를 원천 차단합니다.
포털 사이트에서도 딥페이크를 검색하면 '유의' 문구가 뜹니다.
[김명주 / 서울여대 바른AI연구센터장 : 딥페이크 기술 때문에 선거를 앞두고 가짜 정보들이 많이 생길 거예요. 생기는 정보 때문에 선거 판도가 바뀔 거라고 예상하고 있어서…자칫하면 선거 방해가 되잖아요.]
해외에선 이미 미국 팝가수 가짜 광고, 바이든 대통령 사칭 음성 등 딥페이크로 논란이 일기도 했습니다.
최근 국내에서도 딥페이크 영상으로 오해를 산 '가짜' 윤석열 대통령 조작 영상이 유포돼 논란이 된 바 있습니다.
현재 해당 영상은 삭제, 차단 조치됐지만 온라인상엔 일파만파 퍼졌습니다.
네이버와 카카오는 앞으로 AI 콘텐츠엔 별도 표시를 붙여 이용자 혼선을 줄일 예정입니다.
해외에서도 오픈 AI·구글·메타 등 20개 기업이 유권자가 속을 위험이 있는 콘텐츠에 라벨을 붙이는 조치를 자발적으로 취하고 있습니다.
SBS Biz 배진솔입니다.
ⓒ SBS Medianet & SBSi 무단복제-재배포 금지
많이 본 'TOP10'
- 1.[단독] 요란했던 배당소득세, 이재명 빠지고 김문수 후퇴
- 2.이재명 정부, '주 4.5일제·노란봉투법' 추진 속도 내나
- 3.대통령 집무실 다시 청와대로…3년 만에 복귀
- 4.삼다수-광동제약 '흔들'…마트 판권도 넘긴다
- 5.[현장연결] 석 달 뒤 대통령 온다…지금 청와대는?
- 6.10명중 1명 사망…코로나 이후 독해진 '이 병' 사각지대
- 7."족집게 예측 나올까"…방송 3사 출구조사 8시 발표
- 8."대선 끝나자마자 썰렁"...세종 집주인들 발칵 무슨 일?
- 9.대만 '코로나19 확산' 일주일새 195명 사망
- 10.이재명 "살면서 가장 황당한 일 '파기환송'…아들들 취직도 못 해" [대선 2025]