[여적] 완전자율주행

테슬라 차량 한 대가 지난 10월22일 싱가포르의 한 전시장에 진열돼 있다. 로이터연합뉴스

화창한 2016년 5월 어느 날 미국 오하이오주에서 40세 남성이 테슬라 차량을 자율주행 모드에 놓고 주행 중이었다. 전방 교차로에서 흰색 트레일러가 회전하려 할 때 당연히 자동 브레이크가 작동할 것으로 예상했다. 하지만 브레이크는 걸리지 않았고, 차량은 트레일러로 돌진했다. 자율주행차 첫 사망 사고로 기록됐다. 조사 결과, 트레일러 표면이 반사한 햇빛을 차량 레이더가 진짜 햇빛으로 간주해 장애물이 없다고 인식한 것으로 나타났다. 당시 테슬라는 “자율주행이 운전자의 감독 아래 사용될 경우 이 기능이 운전자 부담을 줄여 안전성을 통계적으로 유의미하게 높인다는 데이터는 명백하다”며 책임을 운전자에게 떠넘겼다. 미 연방 도로교통안전국(NHTSA)도 사고 책임이 운전자에게 있다고 결론지었다.

최근 벌어진 사고를 보면 그사이 얼마나 나아졌는지 의구심이 든다. CNN 보도를 보면 한 운전자가 지난달 24일 캘리포니아의 고속도로에서 테슬라 차량의 완전자율주행(FSD) 기능을 켜고 주행하던 중 갑자기 브레이크가 걸리며 8중 추돌 사고가 일어났다. 운전자는 시속 90㎞로 달리다가 차선 변경 후 갑자기 브레이크가 작동해 시속 30㎞로 속도가 줄었다고 경찰에 진술했다. 사고 당일 FSD 기능을 두고 “테슬라 자율주행·인공지능팀이 이룬 엄청난 성과”라고 자랑한 일론 머스크 테슬라 CEO가 머쓱해졌다.

NHTSA에 따르면 지난해 6월부터 1년간 자율주행차 관련 사고 392건이 접수됐고 그중 70%가 테슬라 차량이었다. 국제자동차기술자협회는 자율주행 수준을 6단계로 나누는데 아직 6단계는 상용화되지 않았다. 세상의 복잡성과 우연성을 인공지능이 감당할 수 없을 뿐 아니라 자율주행차에 맞는 인프라도 갖춰지지 않았기 때문이다. 완전자율주행은 소비자를 오도하는 표현인 셈이다. 완전자율주행이란 이상 자체에 문제가 없었는지도 따져봐야 한다. 기술 개발 과정에서 적절한 수준의 운전 보조기능이 실현된 측면이 있지만, 인간 없이 기계가 운전한다는 목표를 위해 많은 자원을 쏟아붓는 것이 바람직한지 의문이다. 사고 발생 시 책임은 기계에 있을까, 운전자에게 있을까. 인명 피해에 더해, 이런 기초적 윤리 문제도 해결 못하고 있지 않은가.