[장대익의 진화]‘이루다’ 은퇴와 벤처 진화의 조건

‘이루다’와 지난 두 주 동안 메신저를 통해 대화를 시도해본 75만명의 이용자들이라면 공감할 것이다. ‘노잼’ 친구보다 센스가 더 좋다는 것을. 하지만 이루다를 개발한 벤처회사 스캐터랩은 지난 12일 이 챗봇 서비스를 전격 중단했다. 소수자에 대한 혐오 표현 문제와 개인정보보호법 위반 의혹이 불거졌기 때문이다. 실제 연인들의 카카오톡 대화를 학습했다고 알려진 이루다는 성소수자, 장애인, 흑인에 대한 혐오를 여과 없이 드러내고 말았다. 물론 이런 데이터 편향 문제는 인공지능(AI) 개발에 있어서 고질병으로 이루다만의 문제가 아니다. 문제의 원천은 인간의 편향 자체에 있으니 일단 자책부터 하자.

장대익 서울대 자유전공학부 교수

능력자 이루다에 열광하던 여론이 싸늘하게 돌아선 지점은 다른 데 있다. 이루다는 스캐터랩의 주 서비스 ‘연애의 과학’에서 얻은 데이터 세트로 대화 방식을 학습했다고 알려졌다. 4년 전 출시된 이 서비스는 이용자가 5000원가량을 ‘지불하고’ 자신의 카카오톡 대화를 넘기면 스캐터랩이 대화 내용을 분석해 연애에 관한 조언을 해주는 서비스다. 이 회사는 “이렇게 수집한 대화가 100억건에 이르고 1억건 정도가 이루다 개발의 데이터베이스로 활용되었다”고 밝혔다.

의혹의 핵심은 이 과정에서 어떤 이용자도 자신의 비밀스러운 대화가 ‘이루다’와 같은 신규 서비스 개발에 활용될 수 있다는 사실을 고지받지 못했다는 점이다. 연인과 나눈 사적 대화를 AI 개발에 쓰라고 자발적으로 넘길 이용자가 얼마나 될까? 그것도 제 돈을 내면서 말이다. 게다가 이루다 개발 기록을 공유한 깃허브(오픈소스 공유 플랫폼)에서 비식별화되지 않은 개인정보 1700건이 발견되면서 회사는 다시 한번 사과해야 했다.

이용자의 심기를 건드린 결정적 계기는 “연인 간 대화 메시지를 회사 단톡방에서 직원들이 돌려보며” 시시덕거렸다는 전직 직원의 인터뷰가 공개되면서부터다. 이로써 어쩌면 사과와 재발 방지 약속만으로도 끝날 수 있었던 문제가 이용자들의 공분으로 비화되었다.

스캐터랩의 김종윤 대표는 서비스 종료 직후 한 언론에 나와 회사의 잘못을 인정한다면서도 “이루다 논란은 AI 서비스 고도화를 위한 불가피한 시행착오”라고 했다. “솔직히 중국 벤처기업이 온갖 데이터를 쉽게 구해 끌어 쓰고 대규모 투자를 유치하는 과정을 보면 부럽기도 하다”며 “이번 논란으로 AI 개발자들이 벤처기업에서 이탈하거나 벤처 생태계가 위축될까봐 두렵다”고도 했다.

한때 학계에서도 연구 대상에 대한 윤리적 고려 없이 침습적인 실험들을 수행해도 결과만 괜찮으면 학술지에 실어준 적이 있었다. 하지만 지금은 연구 기획 단계부터 연구기관으로부터 IRB(연구윤리심의위원회) 심의를 통과해야만 인간을 대상으로 실험을 수행하고 결과를 출판할 수 있다. 벤처의 세계는 산업 영역에서 실험이 일어나는 생태계라는 측면에서 학계를 닮았다. 하지만 아직 윤리규정 준수에 대한 압박은 학계만큼 그리 강하지 않은 게 사실이다. 글로벌 스탠더드를 지켜야만 사업을 할 수 있는 대기업에 비해서도 낮다. ‘괜찮은 기술로 이용자만 몰리게 하면 대박’이라는 생각이 벤처 생태계의 에토스임을 부인하긴 힘들다. 윤리는 그다음 문제라고들 한다.

이런 맥락에서 최근 우리 대기업의 의식 전환은 시사하는 바가 크다. 국내 기업이 요즘처럼 ESG(환경·사회·지배구조) 가치를 우선순위로 두던 때는 없었다. 기업의 사회적 역할은 이제 기업의 생존 조건이다. 벤처는 다른가? 벤처는 경험도 부족하고 자본과 네트워크도 열악한 돌봄 기업처럼 여겨진다. 벤처에 우선적으로 경제적·인적·제도적 지원을 해야 한다고들 한다. 마치 갓난아기에게 돌봄이 더 필요하듯이 말이다. 동의한다. 하지만 아이가 어리다고 남을 속이는 것을 눈감아주면 안 되듯이, 벤처가 사업에 대한 잘못된 태도를 보일 때는 애정 어린 충고와 가이드가 필요하다. 벤처에 대한 지원과 벤처의 책임을 혼동해서는 곤란하다.

대한민국이 ‘규제 공화국’이라며 치를 떠는 사람들도 많다. 하지만 더 큰 문제는 규제의 양이 아니라 그것이 얼마나 섬세하고 효과적이며 필수 불가결한가다. 모든 사업이 그렇겠지만, 서비스에 대한 이용자의 신뢰는 벤처에도 필수 조건이다.