샘 올트먼 오픈AI 최고경영자(CEO). 샌프란시스코|AFP연합뉴스

생성형 인공지능(AI) 챗GPT가 청소년 보호를 위한 보호자 관리 기능을 도입한다. 최근 미국의 한 10대가 챗GPT의 조언을 받고 스스로 목숨을 끊는 사건이 발생하자 안전 장치를 마련한 것이다.

오픈AI는 2일(현지시간) 공식 블로그를 통해 한 달 안에 보호자 관리 기능을 도입한다고 밝혔다.

이 기능을 활용하면 부모는 챗GPT가 자신의 10대 자녀에게 어떻게 반응할지 통제할 수 있다. 챗GPT가 이용자인 청소년이 심각한 위기에 놓여있다고 감지했을 경우 부모에게 알림을 보낸다. 해당 기능을 활성화시키려면 부모가 먼저 계정을 만들고, 챗GPT 사용 가능 연령인 만 13세 이상 자녀에게 e메일 초대를 보내 자녀 계정과 연결해야 한다.

해당 기능의 도입은 최근 미국 캘리포니아의 한 10대 소년이 챗GPT와 수개월간 대화를 한 뒤 자살하는 사건이 계기가 된 것으로 풀이된다. 소년의 부모는 “챗GPT가 아들에게 자살 방법을 알려줬다”며 오픈AI를 상대로 소송을 제기했다.

일각에선 오픈AI가 선보인 이번 기능이 근본적인 해결책이 아니라고 지적한다. 부모의 통제만으로 AI의 위험으로부터 자녀를 온전히 지키는 것이 어려운 데다 자녀가 우회하더라도 막기 어렵다는 것이다. 실제 최근 발생한 사건에서 챗GPT는 소년에게 위기 상담센터에 연락할 것을 권했지만, 그가 소설을 쓰기 위한 것이라며 안전 장치를 우회한 것으로 드러났다.

빅테크 기업들의 청소년 안전 장치 도입은 점점 늘고 있다. 메타는 최근 페이스북과 인스타그램에서 10대 사용자가 자해, 자살, 섭식장애 등 주제에 대해 AI 챗봇 답변을 받지 못하도록 AI를 훈련시킨다고 밝혔다. 틱톡은 부모가 자녀의 틱톡 사용 가능 시간을 직접 설정하고 팔로어 목록을 확인할 수 있게 했다.