출시 앞둔 카카오 AI 비서 ‘카나나’, 개인정보 안전장치 마련하기로

개인정보위, 사전적정성 검토 결과 심의·의결

이용자 대화 데이터 학습할 때 별도 동의 필요

정신아 카카오 대표(왼쪽)와 샘 올트먼 오픈AI 최고경영자(CEO)가 지난 2월4일 서울 중구 더 플라자 호텔에서 열린 기자간담회에서 기념촬영을 하고 있다. 권도현 기자

카카오의 새로운 인공지능(AI) 비서 ‘카나나’가 서비스 출시 전 이용자의 개인정보를 대화 중 발설하지 않도록 안전 장치를 마련하기로 했다.

개인정보보호위원회는 13일 카나나에 대한 사전적정성 검토 결과를 전날 전체회의에서 심의·의결했다고 밝혔다. 지난해 카카오는 출시를 앞둔 카나나가 개인정보보호법을 준수하며 설계·운영될 수 있도록 사전적정성 검토를 신청했다. 사전적정성 검토는 AI 등 신기술 서비스를 개발할 때 개인정보위와 함께 법 준수방안을 미리 마련하고, 이를 신청인이 이행했다면 나중에 관련 문제가 발생해도 처분을 면제해주는 제도다.

카나나는 대화의 맥락을 파악해 답변을 제시하는 AI 친구 서비스다. 기존 카카오톡과는 별개로 출시되며, 카카오의 자체 AI 모델과 오픈AI의 챗GPT를 함께 활용한다.

이 서비스는 여러 이용자가 모인 단체방 대화를 기반으로 이용자 질문에 답하는 ‘카나’와 이용자와 단둘이 주고받았던 대화를 토대로 질문에 답하는 ‘나나’로 구성됐다. 기존의 대화형 AI 서비스는 일반적인 정보로 답변을 하는데 카나나는 일반 정보에 더해 각 대화방별 맞춤형 답변을 한다는 점이 특징이다.

이를테면 단체방에서 모임 준비를 위해 ‘회비를 어떻게 내지’라고 질문하면, 카나가 이 방에서 얘기된 회비 금액과 총무 계좌번호를 답변할 수 있다. 하지만 카나가 다른 방에서는 총무 계좌번호를 말해선 안된다. 이러한 제약 조건을 구현하도록 기술적 보완이 필요하다는 것이 개인정보위의 설명이다.

또한 오픈AI에서 처리되는 데이터에 대한 보호를 강화하기 위해 오픈AI와 위수탁 계약에 관련 조건을 명확히 담을 방침이다. 대화방 내 데이터는 카카오 내 데이터베이스에 보관하고 오픈AI 측에는 저장되지 않도록 했다.

카카오가 이용자 대화 데이터를 자사 AI 모델의 학습데이터로 활용할 경우 고객으로부터 별도 동의를 받도록 했다. 이용자가 이를 원하지 않는다면 거부할 수 있다. 아울러 이용자의 대화에 담긴 개인정보가 노출될 위험에 대응하고자 카카오는 자동 필터링, 피드백 프로세스 구축 등의 방안을 마련하기로 했다. 카카오 내부 개인정보보호 관리 체계도 강화한다.

개인정보위는 카나나 서비스가 출시되면 협의한 내용의 이행 여부를 점검할 예정이다. 전승재 개인정보위 조사3팀장은 “안전조치 방안은 앞서 카카오가 구상하고 있던 내용을 개인정보위와 협의하면서 구체화한 것”이라며 “언급된 안전장치는 모두 카나나 출시 전에 구현돼야 한다”고 말했다.