"총선 과반 당은?" 묻자 '금지'…네카오, AI 단속
SBS Biz 배진솔
입력2024.02.29 17:53
수정2024.02.29 18:57

[앵커]
총선을 40여 일 앞두고 AI가 만드는 가짜 정보에 대한 우려가 커지고 있습니다.
네이버와 카카오는 잘못된 정보를 원천 차단하기 위해 대책을 마련하고 있습니다.
배진솔 기자가 보도합니다.
[기자]
네이버 AI 검색 서비스에 '올해 총선에서 과반 의석을 차지할 당'을 물었습니다.
불확실한 예측이라며 정보 제공이 어렵다는 답변이 돌아왔습니다.
네이버는 4월 총선까지 선거 관련 명령어에 주의 문구를 띄워놓고 논란이 될 수 있는 시빗거리를 원천 차단합니다.
포털 사이트에서도 딥페이크를 검색하면 '유의' 문구가 뜹니다.
[김명주 / 서울여대 바른AI연구센터장 : 딥페이크 기술 때문에 선거를 앞두고 가짜 정보들이 많이 생길 거예요. 생기는 정보 때문에 선거 판도가 바뀔 거라고 예상하고 있어서…자칫하면 선거 방해가 되잖아요.]
해외에선 이미 미국 팝가수 가짜 광고, 바이든 대통령 사칭 음성 등 딥페이크로 논란이 일기도 했습니다.
최근 국내에서도 딥페이크 영상으로 오해를 산 '가짜' 윤석열 대통령 조작 영상이 유포돼 논란이 된 바 있습니다.
현재 해당 영상은 삭제, 차단 조치됐지만 온라인상엔 일파만파 퍼졌습니다.
네이버와 카카오는 앞으로 AI 콘텐츠엔 별도 표시를 붙여 이용자 혼선을 줄일 예정입니다.
해외에서도 오픈 AI·구글·메타 등 20개 기업이 유권자가 속을 위험이 있는 콘텐츠에 라벨을 붙이는 조치를 자발적으로 취하고 있습니다.
SBS Biz 배진솔입니다.
총선을 40여 일 앞두고 AI가 만드는 가짜 정보에 대한 우려가 커지고 있습니다.
네이버와 카카오는 잘못된 정보를 원천 차단하기 위해 대책을 마련하고 있습니다.
배진솔 기자가 보도합니다.
[기자]
네이버 AI 검색 서비스에 '올해 총선에서 과반 의석을 차지할 당'을 물었습니다.
불확실한 예측이라며 정보 제공이 어렵다는 답변이 돌아왔습니다.
네이버는 4월 총선까지 선거 관련 명령어에 주의 문구를 띄워놓고 논란이 될 수 있는 시빗거리를 원천 차단합니다.
포털 사이트에서도 딥페이크를 검색하면 '유의' 문구가 뜹니다.
[김명주 / 서울여대 바른AI연구센터장 : 딥페이크 기술 때문에 선거를 앞두고 가짜 정보들이 많이 생길 거예요. 생기는 정보 때문에 선거 판도가 바뀔 거라고 예상하고 있어서…자칫하면 선거 방해가 되잖아요.]
해외에선 이미 미국 팝가수 가짜 광고, 바이든 대통령 사칭 음성 등 딥페이크로 논란이 일기도 했습니다.
최근 국내에서도 딥페이크 영상으로 오해를 산 '가짜' 윤석열 대통령 조작 영상이 유포돼 논란이 된 바 있습니다.
현재 해당 영상은 삭제, 차단 조치됐지만 온라인상엔 일파만파 퍼졌습니다.
네이버와 카카오는 앞으로 AI 콘텐츠엔 별도 표시를 붙여 이용자 혼선을 줄일 예정입니다.
해외에서도 오픈 AI·구글·메타 등 20개 기업이 유권자가 속을 위험이 있는 콘텐츠에 라벨을 붙이는 조치를 자발적으로 취하고 있습니다.
SBS Biz 배진솔입니다.
ⓒ SBS Medianet & SBS I&M 무단복제-재배포 금지
많이 본 'TOP10'
- 1.'약국계 다이소' 이렇게 싸다고?…없는 약 없다
- 2.韓 부자 이렇게 많았나…백만장자 130만명 돌파
- 3.4인 가족 일단 60만원 받는다…우리집은 얼마 더?
- 4.[단독] 정부, 다자녀면 25평 넘어도 월세 세액공제 추진
- 5.[단독] 월급쟁이는 봉?…이재명식 근로소득세 개편 시동
- 6.전 국민 '차등' 지원금…내가 받을 금액은?
- 7.정부가 지갑 연다…'소비쿠폰' 어디서 쓸 수 있나?
- 8.4인 가족 민생지원금 얼마 받을까?…자영업자 빚 탕감은?
- 9.'최대 50만원 푼다는데'…이마트는 안되고 동네 시장은 OK?
- 10.국민연금 월 200만 원씩 받는데…건보료·세금폭탄 왜?