인기 카메라 애플리케이션(앱) ‘소다’와 ‘스노우’가 이용자 사진으로 부적절한 결과물을 내놔 논란이 되자 안전장치를 강화한 버전을 배포하기로 했다. 두 앱 모두 네이버 자회사 스노우가 운영하고 있다.
9일 경향신문 취재를 종합하면 소다 앱 유료 이용자 A씨는 최근 앱의 ‘인공지능(AI) 배경 확장’ 기능을 이용해 자신의 증명사진을 편집하다 황당한 일을 겪었다. AI 배경 확장은 AI 기술을 이용해 이미지를 테두리 너머로 확대하면 배경을 자연스럽게 채워주는 기능이다.
A씨 증명사진 원본(왼쪽)과 소다 앱 ‘AI 배경 확장’ 결과물. A씨 제공
A씨는 어깨까지 나온 기존 증명사진에서 상반신을 좀 더 확장하기 위해 해당 기능을 썼다. 그런데 앱이 내놓은 결과물은 가슴 부분 일부를 드러낸 채 가슴을 양손으로 움켜쥐고 있는 듯한 이미지였다.
A씨는 “앱을 이용하다 성적 수치심을 받을 줄은 몰랐다”며 “더 이상의 피해가 발생하지 않도록 문제를 철저히 개선해야 한다”고 말했다.
스노우 앱 이용자 B씨도 비슷한 문제를 겪었다. B씨는 인물 사진에 다양한 머리 스타일을 합성해주는 유료 기능인 ‘AI 헤어샵’을 이용했다. 앱은 자신의 사진에 S컬펌·웨이브펌·스트레이트·단발 컷 등 헤어스타일을 합성해줬다. 다른 헤어스타일 이미지는 이상이 없었지만, 단발 컷 이미지 속 자신이 나체 상태로 표현됐다.
B씨가 스노우 앱 ‘AI 헤어샵’ 기능을 이용했을 당시 나온 결과물. B씨 제공
스노우 관계자는 “앱을 통해 선정적 이미지가 생성된 건 AI 이미지 변환 모델이 지닌 한계 때문”이라며 “사용자에게 전달되기 이전 AI 프롬프트 필터를 통해 불완전한 이미지를 제거하고 있지만 이번 사례에서 완벽하게 작동하지 않았다”고 말했다.
스노우 측은 이미 공개된 AI 이미지 변환 모델을 사용하고 있고, 사용자 데이터는 AI 학습이나 훈련에 추가로 이용되지 않는다고 전했다. 결과물은 이미지 제공자만 확인할 수 있다고 했다.
스노우 관계자는 “유사한 상황이 발생하지 않도록 필터를 더욱 강화하는 등 서비스 고도화를 위해 노력하겠다”며 “(필터 강화 버전의) 긴급 배포를 준비 중”이라고 말했다.
▼ 노도현 기자 hyunee@khan.kr
