SBS Biz

앤트로픽이 자사 인공지능(AI) 모델의 위험을 평가할 수 있도록 외부 비영리 기관인 '모델 평가·위협 연구소'(METR) 소속 연구자 6명에게 '앤트로픽 직원에 준하는 접근 권한'을 부여했다고 파이낸셜타임스(FT) 등이 15일(현지시간) 보도했습니다. 



이는 AI 기술이 통제 불가능한 수준으로 치달을 수 있다는 우려 속에 안전장치를 강화하겠다는 약속을 이행하려는 것이라고 FT는 평가했습니다. 

이에 따라 METR 소속 연구자들이 앤트로픽의 사무실에 상주해 이 회사의 위험 평가팀이 이용할 수 있는 것과 대체로 동등한 수준으로 하드웨어와 내부 시스템에 접근할 수 있게 됐습니다. 

META는 그동안 AI 안전 문제를 놓고 오픈AI, 앤트로픽, 구글, 메타 등 주요 AI 연구소와 협력해 온 기관입니다. 

앤트로픽은 외부 평가자들과 정보 공유를 권장했다고 밝혔습니다. 



앤트로픽의 다리오 아모데이 최고경영자(CEO)는 지난 9월 AI 개발 속도 조절을 주장하며 외부 독립 평가자가 AI 기업의 최첨단 모델을 감시하도록 하자는 아이디어를 제시한 바 있습니다. 

오픈AI의 샘 올트먼 CEO도 아모데이의 제안이 좋은 생각이라고 밝혔지만, 아직 오픈AI가 외부 평가자를 받아들이는 계획을 발표하지는 않았습니다.