SBS Biz

[샘 올트먼 (로이터=연합뉴스 자료사진)]

샘 올트먼 오픈AI 최고경영자(CEO)가 자사 인공지능(AI) 모델의 허깅페이스 무단 해킹이 AI 기술 발전의 위험에 경종을 울린 사건이었다고 평가했습니다.

올트먼 CEO는 현지시간 15일 미국 샌프란시스코 예르바부에나예술센터 블루실드오브캘리포니아 극장에서 진행한 마크 베니오프 세일즈포스 CEO와의 대담에서 AI 안전 관련 역량이 기술 발전보다 앞서야 한다는 입장을 피력했습니다.

그는 지난 7월 오픈AI의 모델이 격리 환경을 이탈해허깅페이스를 해킹한 사건을 가리켜 "모델들의 역량이 얼마나 강력해졌는지를 보여주며 경종을 울린 사건"이라며 "우리 회사뿐 아니라 업계전체를 재설정했다"고 진단했습니다.

올트먼 CEO는 "우리는 '정렬'과 감시, 보안을 어느 때보다 엄격히 다뤄야 한다"며 이들 요소가 "항상 AI 역량보다 한발 앞서나갈 수 있도록 기술 개발 속도를 조절할 의지가 있어야 한다"고 강조했습니다.

'정렬'(Alignment)이란 AI가 인간의 지시와 다른 목표나 행동 방식을 갖지 않도록 설정하는 것을 의미합니다.

특히 대기업보다 중소기업이 이와 같은 AI 자율 에이전트의 사이버 공격에 노출될 위험이 높다고 경고하면서 방어용 AI 프로그램을 제공하겠다고 밝혔습니다.

다만 그는 최근 AI 안전 담론이 정부규제 필요성에 대한 찬반으로 흐르는 분위기와 관련해 "논의가 이뤄지는 프레임을 아쉽게 생각한다"고 말했습니다.

올트먼 CEO는 "우리 회사와 우리 업계가 이를 안전하게 해낼 능력이 있다고 확신한다"면서 AI 안전을 위해 반드시 정부의 규제가 필요하지 않다는 의견을 내보였습니다.

이는 앞서 이날 오전 크리스 리헤인 오픈AI 최고대외협력책임자(CGAO)가 AI 속도 조절을 위해 반독점법 면제가 필요하지 않은 것으로 판단한다고 밝힌 것과 일맥상통하는 발언입니다.

또한, 올트먼 CEO는 AI의 사용 방식이 챗봇 형태의 1단계와 코딩 보조 도구 형태의 2단계를 지나 이용자 곁에서 24시간 상시 작동하는 에이전트 형태의 3단계로 진화하고 있다고 진단했습니다.

AI가 업무와 요구사항을 언제든 이해하고, 메신저와 이메일을 지켜보면서 이용자가 요구하지 않아도 선제적으로 코드를 생성해주는 시대가 오고 있다는 것입니다.

설립한 지 10년을 넘긴 오픈AI의 향후 방향성에 대해선 "첫 10년은 AGI(범용 AI)를 어떻게 구축할지 알아내려는 시기"였다면서 "앞으로의 10년은 이 놀라운 성과를 어떻게 활용할 지에 대한 시간"이 되리라고 바라봤습니다.