SBS Biz

[앵커]

지금 보시는 이 영상, 실제 영상이 아닙니다.



챗GPT 개발사인 오픈AI가 생성형 AI 기술로 만들어낸 영상입니다.

'여성이 네온사인과 간판으로 가득한 도쿄 거리를 걷고 있다' 같은 간단한 문장을 입력만 하면 이러한 영상이 완성됩니다.

새로운 AI 모델에 대한 기대감도 나오지만, 딥페이크 우려도 큰 상황입니다.

신채연 기자입니다.



[기자]

오픈AI가 공개한 동영상 AI 시스템 '소라'는 텍스트만으로 최대 1분 길이의 동영상을 제작할 수 있습니다.

오픈AI가 문자로 대화를 주고받는 '챗GPT', 명령어를 통해 이미지를 구현하는 '달리'에 이어 영상으로까지 사업을 확장한 겁니다.

오픈AI는 "우선 제한된 수의 창작자에게만 사용을 허용한다"는 계획입니다.

AI 혁신이라는 기대도 나오지만, 딥페이크 악용 우려도 큽니다.

특히 전 세계 주요 선거를 앞두고 기술 우려는 더 커지고 있습니다.

지난달에는 미국 뉴햄프셔주에서 유권자들에게 투표 거부를 독려하는 바이든 대통령의 가짜 전화 음성이 확산돼 AI를 이용한 선거 정보 조작에 대한 우려가 커졌습니다.

[김명주 / 서울여대 정보보호학과 교수·바른AI연구센터장 : 당사자는 찍지도 않았는데 잘못된 사진이나 잘못된 영상을 만들 수도 있고. 선거 때는 상대편 후보에 대한 잘못된 영상을 퍼뜨리면 그 표가 본인들에게 오잖아요. 그래서 굉장히 조심해야 되는 부분들이에요.]

딥페이크 우려가 커지면서 최근 오픈AI와 구글, 메타 등은 유권자가 속을 위험이 있는 콘텐츠를 감지해 꼬리표를 붙이는 등 조치를 취하기로 합의했습니다.

SBS Biz 신채연입니다.