SBS Biz

앤트로픽은 자사 인공지능(AI) 에이전트인 클로드가 차세대 버전을 개발하는 작업에서 적지 않은 비중을 주도하고 있다고 공개했습니다.



앤트로픽은 17일(현지시간) 보고서에서 "클로드가 AI 연구·개발(R&D) 업무 중 26%를 '주도'하고 있다"고 밝혔는데, 연초만 해도 클로드가 주도하는 R&D 업무는 없었습니다.

앤트로픽은 AI가 회사의 AI R&D를 수행하는 정도를 측정하기 위해 에포크 AI가 개발한 '자동화 수준'(Automation Level·AL) 등급 척도를 사용했다고 설명했습니다.

최상위 'AL5'는 AI가 인간의 개입 없이 완전히 자율적으로 업무를 수행한다는 뜻이며, 다음 AL4(주도) 등급은 사람이 감독하는 동안 AI가 상위 수준의 프롬프트에서 대부분의 작업을 처음부터 끝까지 완료하는데, 이런 '주도' 비중이 26%로 파악됐다는 것입니다.

이어 AL3 등급은 사람이 AI와 협업해 작업하는 것을 의미하는데, '협업' 이상 수준의 AI R&D 작업 비중이 90%를 넘는다고 앤트로픽은 덧붙였습니다.



앤트로픽은 AI가 스스로의 차세대 버전을 구축하는 정도, 즉 인간이 AI를 개발하는 것이 아니라 AI가 차세대 버전을 구축하는 정도를 측정했다며 이러한 내용을 담은 보고서를 공개했습니다.

AI 모델이 완전히 자율적으로 후속 모델을 구축하는 '재귀적 자기개선' 단계에 얼마나 가까워졌는지 파악하기 위한 것이라고 설명했습니다.

앤트로픽은 최첨단 AI 연구소들이 미래의 AI 모델을 구축하기 위해 AI를 점점 더 많이 활용하고 있다고 말했습니다.

앤트로픽은 또 여러 외부 기관의 평가자를 사내에 상주시키고, 자사 직원에게 허용되는 수준의 내부 프로세스, 시스템 및 데이터 접근 권한을 이들에게 부여하겠다는 계획도 재확인했습니다.

앤트로픽은 "AI 시스템은 기하급수적으로 강해지고 있으며, 스스로를 구축하는 과정의 상당 부분을 자동화하기 시작했다. 세계적으로 최첨단 AI 개발 속도를 늦춰야 한다는 논의가 이루어지는 상황에서 대중에게는 더 많은 정보가 필요하다"고 밝혔습니다.

앤트로픽은 이어 자체 측정 결과 수행되는 연구 유형에 따라 전체 컴퓨팅 자원의 6~12%가 안전성 모니터링에 투입되는 것으로 나타났다고 밝혔습니다.