편견도 학습하는 AI

트위터의 ‘알고리즘 편향’

사용자 클릭 가능성 따져

장애인·무슬림 사진 배제

트위터의 대표 사진 고르기 알고리즘이 흑인, 이슬람교도, 장애인, 노인을 차별하는 것으로 드러났다. 인공지능(AI)이 사용자들의 편견까지도 학습한 결과다.

트위터는 10일(현지시간) 자사의 사진 고르기 알고리즘이 사회적 소수자를 차별하는 사례를 찾아달라는 내용의 ‘트위터 알고리즘 편향 공모전’ 결과를 발표했다.

트위터는 지난 5~8일 미국 라스베이거스에서 열린 세계 최대 해커대회인 데프콘에서 주최한 공모전 우승자에게 상금 3500달러(400만원)를 걸었다.

공모 결과 트위터 알고리즘은 “날씬하고 젊은 외모, 밝은 피부색과 부드러운 피부 질감”을 미리보기용 대표 사진으로 가장 선호하는 것으로 조사됐다. 반면 머리 색이 하얀 사람, 휠체어를 탄 사람, 히잡을 쓴 사람을 대표 사진에서 자동 탈락시킨다는 사실이 새로 드러났다. 노인이나 장애인, 이슬람교도를 걸러낸 것이다.

트위터는 지난해 9월 자사 알고리즘이 흑인인 버락 오바마 전 미국 대통령과 백인인 미치 매코널 공화당 상원 원내대표 사진 중에 항상 미치 매코널을 대표 사진으로 고른다는 사실이 드러나자 사과했다. 알고리즘은 두 사람의 피부색을 반전시킨 뒤에야 오바마 전 대통령을 대표 사진으로 골랐다.

이는 트위터 알고리즘이 사용자들이 어떤 사진을 클릭할 가능성이 더 높은지를 학습한 결과다.

미국 NBC 방송은 사용자의 행동을 학습하는 알고리즘은 의도하지 않은 편향을 드러낼 수밖에 없다고 지적했다.

알고리즘이 특정 계층에 실질적인 피해를 준 사례도 있다. 미국 캘리포니아대 연구진은 2019년 의료 AI가 고혈압, 당뇨, 신부전을 앓는 흑인 환자들에게 맞춤형 처방을 덜 제공하는 경향이 있다고 밝혔다.

AI가 추가 치료를 처방한 환자 중 흑인은 17.7%에 불과했지만 인종 정보를 제공하지 않으면 그 비율이 46.5%로 올라갔다. 흑인은 백인보다 덜 아프리라는 의사의 편견을 알고리즘이 학습한 것이다.

영국이 지난해 대학 입시에 도입한 AI 기반 성적 판정 기술도 차별 논란에 휩싸였다. 전체 학생 중 40%가 예상보다 낮은 점수를 받았는데 이들 대부분이 학비가 저렴한 빈곤 지역 공립학교 출신이었기 때문이다.

영국은 지난해 8월 비자 승인 AI 프로그램을 인종차별 논란 끝에 중단했다. AI는 백인 비자 신청자는 신속히 승인했지만, 비백인 신청자에게 퇴짜를 놓았다. 온라인상거래기업 아마존도 2018년 자체 AI 채용 시스템을 폐기했다. 아마존의 10여년간 채용 경향을 학습한 AI 프로그램은 여성 지원자에게 자동 감점을 줬다.

윤리적 기술 개발은 빅테크기업의 최대 과제 중 하나다. 포브스는 “편견과 불평등을 고착화하지 않는 미래 기술을 개발하는 것이 AI 전문가에게 큰 도전”이라고 전했다.

AI 알고리즘 차별