AP연합뉴스

오픈AI의 생성형 인공지능(AI) 챗봇 챗GPT가 미국 대선 직전 한 달 동안 후보자의 이미지를 생성해달라는 요청을 25만건 넘게 거부한 것으로 나타났다.

오픈AI는 8일(현지시간) 블로그를 통해 챗GPT가 미 대선 직전 한 달 동안 도널드 트럼프 대통령 당선인과 JD 밴스 부통령 당선인, 민주당 대통령·부통령 후보였던 카멀라 해리스 부통령과 팀 월즈 미네소타 주지사, 조 바이든 대통령의 이미지를 생성해달라는 요청 25만건 이상을 거부한 것으로 추정한다고 밝혔다. 회사는 “딥페이크를 방지하는 안전장치는 선거 국면에서 특히 중요하며 우리의 도구가 해로운 목적으로 사용되는 것을 막기 위한 광범위한 노력의 핵심 부분”이라고 말했다.

오픈AI는 이번 대선에서 안전성을 택했다. AI가 부정확한 정보를 제공할 가능성이 있는 만큼 선거 관련 질문에 제한적인 답변을 내놓은 것이다. 챗GPT가 정치적 선호를 표현하거나 특정 후보자를 추천하지 않도록 조치했다. 투표소 위치, 방법 등 질문을 받으면 초당파적 정보 제공 사이트(CanIVote.org)로 안내했다. 회사는 한 달 동안 100만건의 응답에서 해당 사이트를 안내했다고 전했다.

선거일과 그 다음날에는 선거 결과를 요청한 약 200만건의 응답에 AP통신이나 로이터통신 같은 언론매체를 확인하도록 권장하는 메시지가 포함됐다고 알렸다.

반면 생성형 AI 기반의 대화형 검색 서비스를 제공하는 퍼플렉시티의 접근 방식은 비교적 대담했다. 퍼플렉시티는 이달 초 미국 대선 관련 정보를 실시간으로 제공하는 자체 선거 정보 허브를 구축해 운영했다. 이용자가 자사 애플리케이션(앱)을 벗어나지 않고도 충분한 정보를 얻을 수 있도록 한 셈이다. AP통신과 비영리기관 데모크라시웍스의 데이터를 활용했다. 회사는 지난 6일 기준 선거 정보 허브의 페이지뷰가 400만건을 기록했다고 블룸버그통신에 전했다.

현지에선 주요 AI 기업들이 중대한 실수 없이 대선을 넘겼다는 평가가 나온다. 정보기술(IT) 전문매체 테크크런치는 “이번 선거는 (미국의) 민주적 절차에 관한 정보 제공원으로 AI 챗봇이 등장한 최초의 선거였다”고 했다. 매체는 “자금력이 풍부한 AI 스타트업들은 새롭고 빠르고 간결하게 정보를 전달하기 위해 애쓰고 있다”며 “앞으로 정확성이 성공의 열쇠가 될 것”이라고 말했다.