[이광석의 디지털 이후](36)더 세게 뒤통수 맞기 전에…기술을 향한 맹목적 욕망에 저항하라

기술 폭식 사회의 일그러진 단면

일러스트 | 김상민 기자 yellow@kyunghyang.com

‘4차 산업혁명’에 이어 ‘메타버스’
정체불명의 개념에 사회 들썩여
우리 사회의 당면한 문제 해결을
신기술에 의존 ‘본말전도’ 잦아

우리 사회의 기술 의존도가 갈수록 높아지고 있다. 코로나19 충격으로 인해 기술 과열 조짐까지 보인다. 바이러스 위기를 모면하는 방도를 별 숙고 없이 기술에서 찾는 데 익숙해진 까닭이다. 일종의 ‘기술 폭식 사회’가 된 듯하다. 계속해 허기에 시달리며 기술 폭식 욕망에 압도된 사회 현실 말이다. 이는 그 어떤 때보다 사회가 기술을 크게 소비하면서도 이에 대한 이성적 판단이나 성찰의 여유가 적을 때 발생하는 이상 현상이다.

오늘 우리 기술의 시류를 보자. ‘4차 산업혁명’ 열풍이 언제 있었냐는 듯, 이제는 ‘메타버스’란 가상의 플랫폼 세상 논리가 그 자리를 대신하고 있다. 업계는 물론이고 교육 현장과 문화예술계에서 이 정체불명의 신생 개념에 크게 들썩인다. 의식 있다는 언론조차 신흥 기술에 대해 주류 시장과 크게 다르지 않은 목소리를 내는 일이 이제 흔해졌다.

기술을 통한 경제 부흥은 기본이고, 우리 사회의 당면한 문제 해결을 신기술에서 찾는 일 또한 점차 늘고 있다. 노동 현장의 사고사와 현장실습 학생 사고사가 끊이질 않는 현실이지만, 정부는 이들 산업재해로부터 노동 기본권을 보장하기 위해 나서는 대신 요상하게도 “노동환경 안전 문제 진단을 위한 인공지능(AI) 학습 데이터 기반 서비스 경진대회” 등과 같은 즉흥의 기술 해법을 고안해낸다. 한술 더 떠, 얼마 전 서울시는 ‘메타버스 서울’이란 정책을 제안했다. 현실의 산적한 도시 문제를 서민들의 삶에 좀 더 밀착해 풀어갈 공적인 활동이 흐릿해지는 데 반해, 서울시는 오히려 가상의 플랫폼을 축조해 비대면 상황에서 시민 아바타를 상대하고자 한다. 본말이 전도된 기술 잉여이자 과잉이다.

기술이 우리 사회에 성장과 함께 편리와 효율을 선사해왔던 것은 자명한 사실이다. 하지만, 과유불급이란 말은 기술의 쓰임새에도 다르지 않다. 언제부터인가 기술이 만능처럼 군림하기 시작하면서 그로 인한 사회 문제들이 크게 불거지고 있다. 기술은 사회 문제의 근본적 해결이 되기도 하지만 쉽게 취사선택할 수 있는 임시방편이 되거나, 아예 문제의 본질이나 사태를 읽지 못하게 막는 면피용 알리바이 같은 노릇을 자주 한다. 갈수록 기술이 우리 사회에 쉽게 착근되는 방식에 대해 의구심이 들 수밖에 없다.

지금부터 필자는 최근 한 달여 사이에 우리 사회에서 발생했던 기술과 관련된 몇 가지 사건들에 대한 갈무리를 시도하고자 한다. 이들 사건은 ‘기술 폭식’에 빠져 있는 우리에게 매번 뭔가 의식의 각성을 주는 단서들이다. 물론 이도 잘 들여다보지 않으면 자주 망각의 늪으로 사라질 사안들이지만 말이다.

■기술 먹방 사회의 단면

KT의 황당한 전국 통신망 마비
정부의 시민 신체 데이터 강탈 등
기술 고도화의 허점 크게 드러나

첫 번째 사건. 지난 10월25일 KT 통신망이 일시 마비된 사건을 보자. 우리가 기억하는 바로는, 2018년 ‘KT 아현지사 화재 사고’ 이래 요 근래 두 번째 큰 사고다. 이번 사고 원인은 부산에서 통신 라우터 장비를 교체하면서 프로그램 설정 중 명령어 입력을 누락해 전국적으로 통신 마비가 눈덩이처럼 확산된 것으로 전해지고 있다.

KT 통신 사고의 원인 진단이나 처리 방식이 이채롭다. KT는 통신 마비 사태가 발생하자 대규모의 외부 디도스 공격이 원인인 듯이 서둘러 발표했다. 이는 내부 실수와 오류를 잠시 감추기 위한 거짓으로 곧 판명났다. 사실상 KT 측의 업무 실수에서 비롯된 통신 서비스 오류였던 것이다. 더군다나 당시 작업을 KT 하청 직원에게 전적으로 맡기면서 큰 사고가 발생했고, 통신 이용이 적은 시간대인 야간 작업 원칙도 이뤄지지 않았다는 사실 또한 밝혀졌다. 사고 후 보상액 수준 결정에서도 소상공인 등 KT 고객의 통신 마비로 인한 실제 손실 보전을 크게 고려하지 않아 공분까지 샀다.

KT 등 통신업체는 텔레비전 광고를 통해 우리에게 질릴 정도로 이음매 없이 매끈하게 연결된 ‘K디지털 세상’을 누누이 강조해왔다. 이와 달리 이번 통신 사고는 또다시 우리 사회 기술 운용의 빈틈과 모순 구조를 여지없이 보여줬다. 즉 전국을 잇는 거대 물리적 통신망도 명령어 한 줄 실수에 일순간 마비될 수 있다는 역설적 상황은 물론이고, 생각보다 허술한 통신망 관리 체제, 사고에 한몫한 하청 등 열악한 노동환경, 통신 사고의 비체계적 보상 처리와 고객 대응 방식 등 여러 문제가 수면 위로 떠올랐다.

■AI 정부와 정보보호 불감증

두 번째 사건. 2019년부터 우리 정부가 공항을 출입하는 내·외국인의 안면 이미지 정보를 한 AI 시스템 개발 민간업체에 약 1억건이 넘는 학습 데이터 용도로 제공해왔다는 사실이 뒤늦게 밝혀졌다. ‘AI 식별추적 시스템 구축 사업’의 일환으로 민간기업이 AI 기술을 개발하고 정부는 이를 위해 학습용 데이터를 공급했다. 법무부와 과학기술정보통신부의 합작품인 이 AI 시스템은, 안면 인식 기술을 사용해 공항 출입국심사의 자동화된 빠른 신원 확인과 함께 위험인물 식별과 추적 등 범죄 예방 목적으로 운영될 예정이었다.

문제는 정부가 개인 안면 이미지 정보 활용과 처리에 대한 당사자 동의 과정을 생략한 데다가 민감 정보인 생체 인식 정보의 처리 요건도 제대로 준수하지 않은 데 있다. 사회적으로 민감한 AI 식별추적 시스템 구축에 대한 시민사회와의 공론화 절차가 없었던 것 또한 정부의 실책으로 지적될 만하다.

여러모로 이번 사안은 ‘AI 챗봇 이루다’ 사건을 떠올리게 한다. 이루다는 AI 개발을 위해 한 스타트업이 자신의 연애 앱 서비스에서 개인의 민감 정보가 뒤섞인 100억개의 학습용 데이터를 사용해 문제가 된 경우다. 게다가 챗봇 이루다는 이용자와 대화 중 잘못된 학습 편향으로 혐오 발언 논란까지 일으켰다. 당시 기업 측은 고객 데이터 활용에 대한 사전고지 의무를 지켰고 학습 편향은 이용자와의 대화를 통해 개선될 것이라 항변했다. 이에 분노한 이용자들은 불투명한 고객 데이터 수집과 처리 과정에 대해 회사를 상대로 소송을 제기하기도 했다.

챗봇 이루다 논란과 마찬가지로 이번 공항 AI 식별추적 시스템 또한 시민 데이터를 대상으로 한 AI 기술 개발의 논쟁적인 최근 사례로 볼 수 있다. 불행하게도 두 사례 모두 공히 시민과 고객 정보 활용에 대한 사전고지나 데이터 보호 절차에 있어서 불철저한 모습이 관찰된다. 두 경우 모두 효능감 좋은 기술이라면 데이터 인권 문제를 부차적으로 보는 인식이나 태도가 묻어난다. 물론 이번 공항 AI 시스템 개발 건은 두 정부 부처가 주도해 민간기업에 대규모 공적 민감 데이터를 넘겨준 것이란 점에서 성격이 다르고, 공항 출입 내·외국인의 지문과 안면 이미지 등 ‘고위험’ 생체 정보를 다뤘다는 점에서 인권침해 소지가 더 클 수 있다.

■표류하는 데이터 인권

세 번째 사건. 10월19일에 결국 데이터 산업 육성법, 이른바 ‘데이터 산업진흥 및 이용촉진에 관한 기본법’(데이터기본법)이 통과됐다. 이 법 입안에 의욕을 보였던 과기정통부는 이를 “데이터 산업 육성을 아우르는 세계 최초의 기본법”이라면서 추켜세웠다.

지난 몇 년간 쉴 새 없이 이어진 정부의 기술 성장안을 더듬어보자. ‘4차산업혁명위원회’ 설치, ‘인공지능 국가전략’에 이어 코로나19 충격 속 ‘디지털 뉴딜’에 이르기까지 기술을 통해 성장을 도모하려는 각종 정부 계획이 물밀듯이 쏟아졌다. 관련 법안 제정도 크게 이뤄져, 지난해 초 데이터 환경에 맞춰 관련 정보 법안들을 재정비한 이른바 ‘데이터 3법’이 통과됐다. 민간 데이터의 시장 활용을 법적으로 보장하려는 시도였기에 당시 시민사회의 반발도 컸다. 이로 인해 시민 데이터 보호론과 산업 활용론 사이에 존재하던 운동장도 급격히 기울어졌다.

이번 ‘데이터기본법’ 제정은 그 기울어진 운동장을 반영구화하는 효과를 지니고 있다. 아예 ‘산업용’ 데이터 육성과 관련 전문기업 활성화를 위한 체계적인 법안 마련에 해당하기에 그렇다. 산업중심주의에 기댄 입법안에 매달리면서 상대적으로 시민의 데이터 인권은 표류하고, 대놓고 외면당하는 처지에 놓이게 됐다. 게다가 앞서 봤던 정부와 기업의 AI 데이터 보호 불감증 징후는 시민의 데이터 인권 상황을 악화하는 데 가세한다.

더욱 우려할 만한 일은 시민으로부터 생성된 데이터의 산업 활용을 과도하게 강조하는 각종 산업진흥 법안이 만들어지면서 ‘개인정보보호법’에 기댄 유권해석과 충돌될 일이 많아지리란 점이다. 성장 논리가 압도하면서 정작 시민의 개인정보 권리가 유실될 공산이 커졌다.

■기술 폭식의 스펙터클

정부·기업이 일방적으로 강요한
‘기술 폭식’ 구태 프레임을 깨고
공생공락 대상으로 기술을 봐야

마지막 사건. 이재명 대선 후보의 로봇 학대 논란이 일었다. 한 로봇 시연 행사장에서 재난 대응용 4족 보행 로봇의 몸통을 밀어 넘어뜨리고 뒤집는 그의 행동이 문제가 됐다. 이미 주최 측과 사전 연출된 것으로 확인됐지만 논란은 쉽게 가라앉지 않았다. 지능 로봇을 반려종에 빗대어 보고 그의 행동을 폭력으로 몰아 정쟁화하려는 ‘어그로꾼’들까지 이에 가세했다. 이 또한 우리네 기술 폭식 사회의 단면을 보여줬다.

물론 이 사안은 한 정치인의 인성이나 비인간 생명에 대한 폭력성이 문제가 아니었다. 오히려 이는 우리 사회가 기술을 바라보는 시각을 드러냈다. 즉 우리는 기술이 놓인 사회적 맥락이나 의미를 주로 살피기보다는, 기술의 시각적인 재현이나 장식 효과에 몰입하는 경향이 크다는 점을 파악할 수 있었다. 유사하게, 앞서 언급된 ‘메타버스 서울’ 정책의 발상 자체도 기술의 사회적인 맥락이나 쓰임보단 기술의 스펙터클한 재현이라는 대중심리적 홍보 효과를 얻는 데 주요 목적을 둔 것으로 이해할 수 있다. 위태로운 도시 현실을 똑바로 마주하려 했다면, 아직 존재하지도 않는 은유의 가상공간 개념이나 기술 소재를 끌어오지는 않을 것이다.

한국형 기술 폭식과 편식은, 정작 화려한 기술의 속내를 읽는 비판적 시선을 무디게 만들어왔다. 지난 한 달여 동안에 발생한 일련의 사건들, KT의 안이한 데이터 관리로 인한 전국 통신망의 마비, 정부와 기업의 데이터 인권 불감증, 이를 뒷받침하는 각종 데이터 산업 육성 법안, 블랙코미디 같은 로봇 학대 논란과 ‘메타버스 서울’ 정책 등은 사실상 우리 사회 기술이 처한 자리를 읽을 수 있는 ‘기술 리얼리즘’의 단초들이었다. 하지만, 이들 사건은 기술사의 작은 일화처럼 또 잊힐 것이다.

오랜 시간 우리는 정부와 기업이 내놓는 기술 상차림에 쉽게 길들여졌다. 너도나도 기술 그 자체는 완전무결하고 결점이 없는 것이라고 믿어 의심치 않았다. 정부와 기업이 이끄는 기술을 받아들이고 따르면 찬란한 성장과 분배의 과실이 누구에게나 있을 것이라 믿었다. 하지만, 현실은 달랐다. 기술이 고도화되더라도 자주 오류를 낳고 자주 많은 이의 심신을 크게 다치게 한다는 것, 동시대 기술 체제는 우리 시민의 신체 데이터의 합법적 강탈 없이는 존재 불가능하다는 것, 위태로운 삶의 조건을 덮거나 은폐하는 데 기술이 종종 액세서리같이 쉽게 도용된다는 것 등 우리가 그토록 믿었던 기술의 민낯이 크게 드러났다.

이제는 기술 폭식과 편식을 일방적으로 강요하는 구태 프레임을 깰 필요가 있다. 오늘날 데이터 경제와 사회의 주력은 정부와 기업만이 아니다. 그 누구보다 시민의 데이터 활동이 곧 사회 공통의 부가 되는 현실을 인정할 필요가 있다. 사회의 제 주체가 동등하게 데이터사회 형성에 기여하고 있다면, 기술 운용의 균형점을 찾아야 할 것이다. 기술 그 자체도 열광의 소재거리가 아닌 공생공락의 대상으로 진지하게 인식돼야 함은 물론이다.

▶이광석 교수

[이광석의 디지털 이후](36)더 세게 뒤통수 맞기 전에…기술을 향한 맹목적 욕망에 저항하라

테크놀로지, 사회, 문화가 서로 교차하는 접점에 비판적 관심을 갖고 연구와 집필 활동을 해오고 있다. 현재 서울과학기술대학교 IT정책대학원 디지털문화정책 전공 교수로 일한다. 문화이론 전문지 ‘문화/과학’ 공동 편집인으로 활동하고 있다. 주요 연구 분야는 테크노문화, 인류세, 포스트휴먼, 플랫폼과 커먼즈, 비판적 제작문화에 걸쳐 있다. 대표 저서로 <디지털의 배신> <데이터 사회 비판> <데이터 사회 미학> <뉴아트행동주의> <사이방가르드> <디지털 야만> 등이 있다.