SBS Biz

카카오가 개발 중인 인공지능(AI) 서비스 '카나나' 출시를 앞두고 개인정보보호위원회로부터 이용자의 개인정보 발설을 막는 안전장치를 마련하고 이용자 대화를 내부 학습에 이용 시 별도 동의를 받도록 시정 주문을 받았습니다. 

개인정보위는 13일 카카오가 AI 서비스 '카나나'를 앞두고 신청한 개인정보 안전 조치 사전적정성 검토를 진행한 결과, 대화방 내 데이터가 오픈AI 서버에 저장되지 않도록 하는 등 기술적 보안조치를 추가 주문했다고 밝혔습니다.



이와 함께 카나나 이용자 대화 데이터를 오픈AI의 사업 목적으로 쓰지 않도록 하는 조건을 카카오와 오픈AI 간 위수탁 계약에 명시하도록 전날 전체회의에서 심의·의결했습니다.

카카오는 개인정보위의 권고를 받아들여 출시 전 이를 이행하기로 합의했습니다.

사전적정성 검토는 새로운 서비스를 기획·개발하려는 사업자가 개인정보위와 함께 개인정보 보호법 준수방안을 사전에 마련하고 이를 적정하게 적용했다면 추후 사정 변화 등이 없는 한 행정 처분을 면제해주는 제도를 말합니다.

개인정보위에 따르면 작년 12월 카카오는 출시를 앞둔 카나나 서비스가 개인정보보호법을 준수하며 설계·운영될 수 있도록 사전 적정성 검토를 신청했습니다.



카나나는 대화의 맥락을 파악해 답변을 제시하는 AI 친구 서비스로, 기존의 카카오톡과는 별개로 출시를 앞둔 상태입니다.

여러 이용자가 모인 단체방 대화를 기반으로 이용자 질문에 답하는 '카나'와 이용자와 단둘이 주고받았던 대화를 토대로 이용자 질문에 답하는 '나나'로 구성됐습니다. 

카카오가 자체 개발한 언어모델(LLM)을 중심으로 구축됐지만, 미국 오픈AI사의 챗GPT 모델도 보완적인 수단으로 함께 활용되는 것으로 알려졌습니다. 

개인정보위는 이번 사전적정성 검토를 통해 ▲암호화 등 기술적 보안조치 강화 ▲외부모델 처리데이터 보호 강화 ▲내부 학습에 이용시 별도 추가적 안전조치 운영 ▲내부 관리체계 강화 등의 추가 안전조치 방안을 마련토록 제시했습니다.

우선 카나나가 하나의 대화방에서 알게 된 참여자의 개인정보를 다른 대화방에서 타인에게 발설하지 않도록 기술적 안전장치도 강화하기로 했습니다.

가령 대화방 참여자들이 "회비를 어떻게 내지"라고 질문했을때, 카나나는 해당 대화방 총무의 계좌번호를 알려 줄 수 있어야 하는데, 이런 개인정보가 다른 대화방이나 타인이게 노출되지 않도록 해야 합니다.

또 대화방 내 데이터는 카카오 내 별도 데이터베이스에 보관되며 오픈AI측에는 저장되지 않도록 설계할 계획입니다.

이와 관련, 대화 데이터 중 고유식별정보나 계좌·카드번호 등 식별성 강한 개인정보가 포함된 경우, 카카오의 자사 언어모델에서만 처리하거나 또는 외부 모델 활용 시 오픈AI가 알아볼 수 없도록 해당 부분을 암호화 처리하기로 했습니다.

아울러 외부 모델인 오픈AI에서 처리되는 데이터에 대한 보호를 강화하기 위해 오픈AI와의 위수탁 계약에 관련 조건을 명확히 담도록 하고, 이용자 대화 데이터를 자사 언어모델의 학습데이터로 활용하려면 카나나 이용자로부터 반드시 별도의 동의를 받도록 했습니다. 

마지막으로 카나나 서비스의 지속적인 개인정보 보호수준 제고를 위해 카카오의 개인정보 보호책임자(CPO)가 상시 리스크 관리체계를 구축·운영하며 중대한 리스크 관리계획 및 실행내역을 정기적으로 이사회에 보고도록 했습니다.

개인정보위는 이러한 사항을 카카오가 실제 이행하고 있는지를 점검할 계획입니다.

전승재 개인정보위 조사조정국 조사3팀장은 "카나나 서비스 출시 직전에 해당 보완내용을 점검할 예정이며, 향후 서비스가 시행된 이후에도 해당 내용이 원활히 운영되고 있는지 재차 확인할 예정"이라고 말했습니다.

전 팀장은 "사전적정성 검토제를 더욱 활성화해 데이터 경제 시대 급변하는 현장과 긴밀히 소통함으로써 AI를 비롯한 신기술·신서비스의 법적 불확실성이 해소될 수 있도록, 정보주체의 권익이 보호될 수 있도록 계속 노력해 나갈 계획"이라고 설명했습니다.