SBS Biz

카카오가 kt cloud와 손잡고 안전한 인공지능(AI) 생태계 구축에 나섭니다.

카카오는 kt cloud와 AI 안전 기술과 클라우드 인프라를 결합하기 위한 업무협약(MOU)을 체결했다고 오늘(26일) 밝혔습니다.

양사는 카카오의 AI Safety 기술과 kt cloud의 AI 인프라 플랫폼 역량을 결합해 AI 서비스의 신뢰성과 안전성을 높인다는 계획입니다. 전날 열린 협약식에는 김세웅 카카오 AI 시너지 성과리더와 공용준 kt cloud Cloud본부장이 참석해 협력 방안을 논의했습니다.

협약에 따라 양사는 AI 안전 기술의 개발, 검증, 확산 등 3단계 협력을 추진합니다.

우선 카카오가 자체 개발한 AI 가드레일 모델 '카나나 세이프가드(Kanana Safeguard)'를 비롯해 모델 안전성 평가 시스템, 레드티밍(Red Teaming) 시스템 등 AI 안전 도구를 kt cloud의 AI 플랫폼에 적용합니다.

카나나 세이프가드는 AI 서비스의 안전성과 신뢰성을 검증하는 카카오의 자체 AI 안전 모델입니다. 한국어와 국내 문화 특성을 반영한 데이터셋을 기반으로 한국어 환경에 최적화된 성능을 갖춘 것이 특징입니다. 현재 카카오의 주요 AI 서비스에도 적용되고 있습니다.

이후에는 실제 고객 활용 사례를 바탕으로 기술의 효과를 검증하고 기능을 고도화할 계획입니다. 마지막 단계에서는 AI 안전 도구를 통합·관리할 수 있는 플랫폼을 공동 개발해 AI 안전 생태계를 확대해 나갈 방침입니다.

카카오 관계자는 "AI Safety 기술과 kt cloud의 인프라 역량이 결합해 국내 AI 생태계의 안전성을 한 단계 높이는 계기가 되길 바란다"며 "이용자가 안심하고 사용할 수 있는 AI 환경을 만들기 위해 지속적으로 노력하겠다"고 말했습니다.