“오늘 아침 추천 메뉴는?” “11시에 데이비스씨의 소송에 대비한 첫 회의에 참석해야 합니다. 오늘 점심은 회사에서 제공한다는 뜻이지요. 아침은 가볍게 먹는 게 좋겠어요. 바나나 한 개 정도?” “커피 한 잔 마실 시간이 있을까?” “예, 오늘 아침은 차가 별로 안 막힙니다. 그런데 커피를 내리는 대신 출근길에 새로 생긴 스무디 가게에 들르는 게 나을 것 같은데요. 할인 쿠폰 코드는 제가 드릴 수 있어요.” “하지만 커피가 마시고 싶은데.” “절 믿으세요, 그 집 스무디가 마음에 쏙 들 테니까.”

SF 환상문학 작가 켄 리우의 소설집 <종이 동물원>에 실린 단편 ‘천생연분’의 한 대목이다. 이 장면은 최근 유행하기 시작한 에이전트(agentic) 인공지능(AI)의 단면을 잘 보여준다.

챗GPT 같은 거대언어모델(LLM) AI가 본격적으로 대중화된 지 얼마 지나지 않았지만, 그사이에도 모델의 사용 방식은 매우 빠르게 바뀌었다. 처음에는 입력한 질문에 답을 생성하는 방식이었고, 대다수 이용자는 여전히 이렇게 쓰고 있다.

하지만 최근에는 전문 이용자 사이에서 에이전트 방식이 인기를 끌고 있으며, 미래의 AI로 자리 잡아가고 있다. 에이전트 AI는 사람이 해결하기를 바라는 문제를 풀기 위해 스스로 계획을 세우고, 도구를 호출하고, 코드를 수정하고, 데이터를 처리하고, 테스트를 반복한다. 요컨대 AI가 답변을 ‘생성’하는 시대에서 실제로 ‘작업을 수행’하는 시대로 바뀌었다.

에이전트란 무엇인가? ‘행하다’(act, do)라는 뜻의 라틴어 아게레(agere)에서 유래한 말로, 본래 인간과 비인간을 포괄해 ‘행위자’를 가리키는 용어다. 그런데 AI가 발전하면서, 업무를 수행하기 위해 특정 작업을 담당하는 단위를 에이전트라고 부르기 시작했다. 에이전트는 비서실처럼 위에서 시키는 일을 한다. 비서실 내에는 위계가 있기도 하고, 비서는 한 명일 수도 여러 명일 수도 있다. 이제는 에이전트가 사람이 바라는 특정한 업무를 수행할 수 있는 단계에 이르렀다.

네이버클라우드에 있다가 최근 a2sys를 창업한 이동수 최고경영자(CEO)는 에이전트 AI를 이렇게 묘사했다. “우리가 영화에서 보던 혹은 AI 하면 떠오르는 많은 서비스는 사실상 에이전트 AI였다. ‘이 사람에게 연락하고 필요한 자료도 준비해’라고 말하면, AI는 에이전트를 구성하고 외부 툴과 협력해 ‘실행’을 한다. 영화 <아이언맨>의 자비스나 수많은 개인 비서도 그런 형태이다. 지금은 사람이 일일이 앱을 열고 캘린더를 확인해야 하지만 앞으로는 휴대폰에 요구사항을 말하면 개인화된 에이전트가 필요한 앱과 서비스를 연결해 업무를 수행하게 될 것이다.” 이보다 정확하고 간략한 설명도 없어 보인다.

책임은 AI가 아닌 사람의 몫

앞으로 피지컬 AI가 공간을 누비며 데이터를 모으고 작업을 수행하는 상황이 오더라도, 에이전트 AI는 여전히 유효하고 미래에도 사라지지 않을 것이다. 이처럼 AI가 정보를 분석하고, 계획을 짜고, 업무를 분담하고, 코드를 수정하고, 데이터를 처리하고, 업무 지시 초안을 작성할 때, 사람에게는 어떤 자리가 남게 될까?

최근 김용범 청와대 정책실장은 페이스북 글에서 AI가 생산능력의 혁명을 가져왔다고 평가했다. AI는 증기기관, 전기, 인터넷에 뒤이은 범용 기술(General Purpose Technology)로 산업 경제의 생산 방식을 재편하고 있다는 것이다. 즉, AI는 우리 시대의 새로운 물질 인프라가 되었다. 역사를 보면 물질 인프라가 바뀔 때마다 사람의 역할도 바뀌었다. 노동, 소비, 관계, 놀이 등 모든 영역에서 변화가 있었다. 그렇다면 앞으로 사람의 역할은 무엇일까?

이 지점에서 아쉬운 것은 이재명 국민주권정부의 ‘대한민국 인공지능 행동계획’(2026·2·25)에 표명된 교육관이다. ‘행동계획’에는 ‘AI 인재’ 혹은 ‘AI 융합 인력’을 육성하기 위한 형식과 방안이 12개 과제에 걸쳐 장황하게 언급되고 있지만, 정작 AI 시대에 ‘바람직한 인간’이 갖춰야 할 정신과 마음에 대해서는 아무 고민도 고민할 계획도 없다. 도구와 기능을 익히는 교육에는 ‘외피’만 있을 뿐 ‘얼’이 빠져 있다. 더욱이 교육부, 국가교육위원회, 각 시도 교육청(최근 지방선거에서 선출된 교육감의 정책 포함)도 부화뇌동의 움직임밖에 없다. 요컨대 대한민국은 일치단결하여 인간이 아니라 AI 인재를 원할 뿐이다.

우리는 AI 시대에 대처하기 위해 사람만이 할 수 있는 일이 무엇인지 묻곤 한다. 여기서 내가 생각하는 핵심 키워드는 ‘책임’이다. 어떤 일을 누가 책임질 것인가? 이것이 인간의 몫이다. 설사 에이전트 AI가 발전한다 해도, 단순 반복 업무 외에 일의 전 과정을 AI가 떠맡아서는 안 된다. 목표 설정, 결단, 정확, 안전, 공정, 책임 등이 문제 되는 지점에는 반드시 사람이 개입해야 한다. 공공, 금융, 투자, 의료, 법률, 군사, 교육 등이 대표적인 영역이다. 미국의 이란 공습에서 AI에 폭격 결정을 위임했다가 민간인이 희생된 비극적 사례도 목격하지 않았던가? 돌이킬 수 없는 낭패를 보지 않기 위해서는 AI가 결정하고 집행하도록 내버려두면 안 된다. 반드시 사람의 개입(검토, 수정, 승인)이 필요하다. 이런 방식을 ‘인간 개입형(Human in the Loop)’이라고 한다.

훈육 통해 ‘책임지는 인간’ 길러야

AI가 제대로 일을 처리하기 위해 사람이 꼭 필요하다. 책임은 AI의 몫이 아니다. 책임은 사람이 진다. 책임지는 인간을 기르는 일은 미래 교육의 최고 목표다. 그런데 한국 교육계도, 한국 정부와 시민사회도 이와 관련해 속수무책이다. 엄청난 액수의 돈을 AI와 반도체, 데이터센터 같은 산업 및 인프라에 투자하지만, 조금이라도 사람에게 투자한다는 이야기는 듣지 못했다. 더 정확히 말하면, 한국은 AI 인재를 기르는 일에는 관심이 있지만 책임지는 사람을 기르는 일은 안중에 없다. 사람은 버려도 AI는 살리겠다는 각오다.

책임 문제를 가장 깊게 고민한 철학자는 니체이다. 니체는 인간이 다른 동물과 달리 책임능력이 있다는 점에 주목했다. 책임이 성립하려면 두 가지가 반드시 필요하다. ‘약속’과 ‘처벌의 기억’이 그것이다. 가령 내가 빌린 1억원을 갚겠다고 하는 것은 약속이다. 그런데 약속을 어겨도 된다면 약속을 지킬 사람은 많지 않다. 따라서 약속을 지키지 못하면 처벌을 받으리라는 것이 확고해야 한다. 처벌을 기억할 수 있도록 해주는 것은 사회 제도이다. 니체는 책임의 능력은 고통을 수반한 오랜 훈육의 결과라고 보았다.

애초에 훈육이 불가능하기에 AI는 책임질 능력을 지닐 수도 없다. 잘못된 결과를 지적했을 때 AI에게 사과받은 경험은 누구나 있을 것이다. 하지만 AI의 사과는 겉으로만 그럴듯할 뿐 책임을 수반한 사과가 아니다. 최종 책임은 인간의 능력에서 온다.

히틀러의 아우슈비츠 유대인 학살 실무 총책임자 아돌프 아이히만은 예루살렘에서 열린 재판에서 ‘상급자의 지시에 아무것도 덧붙이지 않고 성실히 임무를 수행했을 뿐’이라고 증언했다. 재판을 참관한 철학자 해나 아렌트는 이 말에 속아 ‘악의 평범성(banality of evil)’이라는 말로 아이히만을 면죄했다(<예루살렘의 아이히만>). 죄는 아이히만에게 있지 않고 아이히만의 ‘아무 생각 없음(thoughtlessness)’에 있었다는 것이다. 반유대주의를 끝까지 찬양한 마르틴 하이데거를 지지하며 말년에도 연인 관계를 유지한 아렌트의 결론과는 달리, 실상 아이히만은 열성적인 반유대주의자였지만 책임을 피하기 위해 ‘기계적 관료인 척 거짓 연기를 했다’는 베티나 슈탕네트(<예루살렘 이전의 아이히만>)의 주장이 오늘날 더 설득력을 얻고 있다.

AI 시대에 가장 위험한 것은 스스로 결정하고도 기계 탓을 하며 책임지지 않는 인간 유형, 바로 ‘새로운 아이히만’이다. 기계 뒤에 숨어 ‘나는 명령만 따랐을 뿐’이라며 책임을 회피하는 인간이야말로 AI 시대가 낳을 소시오패스 에이전트다. 문제는 AI가 홀로코스트 못지않은 위험을 현실화할 수 있다는 점이다. 훈육을 통해 책임지는 인간을 기르는 것 외에 새로운 아이히만의 등장을 막을 길은 없다. 지금 당장 인간의 얼과 책임을 교육하는 데 투자하지 않는다면, 인류의 미래는 암담할 뿐이다.