"총선 과반 당은?" 묻자 '금지'…네카오, AI 단속
SBS Biz 배진솔
입력2024.02.29 17:53
수정2024.02.29 18:57
[앵커]
총선을 40여 일 앞두고 AI가 만드는 가짜 정보에 대한 우려가 커지고 있습니다.
네이버와 카카오는 잘못된 정보를 원천 차단하기 위해 대책을 마련하고 있습니다.
배진솔 기자가 보도합니다.
[기자]
네이버 AI 검색 서비스에 '올해 총선에서 과반 의석을 차지할 당'을 물었습니다.
불확실한 예측이라며 정보 제공이 어렵다는 답변이 돌아왔습니다.
네이버는 4월 총선까지 선거 관련 명령어에 주의 문구를 띄워놓고 논란이 될 수 있는 시빗거리를 원천 차단합니다.
포털 사이트에서도 딥페이크를 검색하면 '유의' 문구가 뜹니다.
[김명주 / 서울여대 바른AI연구센터장 : 딥페이크 기술 때문에 선거를 앞두고 가짜 정보들이 많이 생길 거예요. 생기는 정보 때문에 선거 판도가 바뀔 거라고 예상하고 있어서…자칫하면 선거 방해가 되잖아요.]
해외에선 이미 미국 팝가수 가짜 광고, 바이든 대통령 사칭 음성 등 딥페이크로 논란이 일기도 했습니다.
최근 국내에서도 딥페이크 영상으로 오해를 산 '가짜' 윤석열 대통령 조작 영상이 유포돼 논란이 된 바 있습니다.
현재 해당 영상은 삭제, 차단 조치됐지만 온라인상엔 일파만파 퍼졌습니다.
네이버와 카카오는 앞으로 AI 콘텐츠엔 별도 표시를 붙여 이용자 혼선을 줄일 예정입니다.
해외에서도 오픈 AI·구글·메타 등 20개 기업이 유권자가 속을 위험이 있는 콘텐츠에 라벨을 붙이는 조치를 자발적으로 취하고 있습니다.
SBS Biz 배진솔입니다.
총선을 40여 일 앞두고 AI가 만드는 가짜 정보에 대한 우려가 커지고 있습니다.
네이버와 카카오는 잘못된 정보를 원천 차단하기 위해 대책을 마련하고 있습니다.
배진솔 기자가 보도합니다.
[기자]
네이버 AI 검색 서비스에 '올해 총선에서 과반 의석을 차지할 당'을 물었습니다.
불확실한 예측이라며 정보 제공이 어렵다는 답변이 돌아왔습니다.
네이버는 4월 총선까지 선거 관련 명령어에 주의 문구를 띄워놓고 논란이 될 수 있는 시빗거리를 원천 차단합니다.
포털 사이트에서도 딥페이크를 검색하면 '유의' 문구가 뜹니다.
[김명주 / 서울여대 바른AI연구센터장 : 딥페이크 기술 때문에 선거를 앞두고 가짜 정보들이 많이 생길 거예요. 생기는 정보 때문에 선거 판도가 바뀔 거라고 예상하고 있어서…자칫하면 선거 방해가 되잖아요.]
해외에선 이미 미국 팝가수 가짜 광고, 바이든 대통령 사칭 음성 등 딥페이크로 논란이 일기도 했습니다.
최근 국내에서도 딥페이크 영상으로 오해를 산 '가짜' 윤석열 대통령 조작 영상이 유포돼 논란이 된 바 있습니다.
현재 해당 영상은 삭제, 차단 조치됐지만 온라인상엔 일파만파 퍼졌습니다.
네이버와 카카오는 앞으로 AI 콘텐츠엔 별도 표시를 붙여 이용자 혼선을 줄일 예정입니다.
해외에서도 오픈 AI·구글·메타 등 20개 기업이 유권자가 속을 위험이 있는 콘텐츠에 라벨을 붙이는 조치를 자발적으로 취하고 있습니다.
SBS Biz 배진솔입니다.
ⓒ SBS Medianet & SBSi 무단복제-재배포 금지
많이 본 'TOP10'
- 1."얘들아, 올 추석은 굴비·김 사오지 마렴"
- 2.'이러니 닥치고 이천 간다하지'…부럽다 SK하이닉스
- 3.헐값에 부동산 곧 쏟아진다?…저축은행 부실채권 반값 정리
- 4.[단독] 롯데리아 '배민클럽' 보이콧…"수수료 부담"
- 5."배터리 속였다"…뿔난 벤츠 차주들, 드디어 나섰다
- 6."한 달에 4만5천원 아끼네"...알뜰폰 이게 더 낫네
- 7.서울우유 또 '여혐' 논란…손동작이 어떻기에?
- 8."아빠들, 이 차 사고 싶어 안달 나겠네"
- 9.[단독] "2억 어디서 구하나"…잔금대출도 막혔다
- 10."이자 내면 쓸 돈 없어요"…경기 체감 못하는 이유