AI 에이전트 ? – '자율 수행체'로 다시 쓰는 AI의 이름

보편적이고 역사적인 '에이전트'의 의미

'에이전트(Agent)'라는 단어는 오랜 시간 동안 일관된 뉘앙스를 가져왔다. 누군가의 뜻을 대신 전하거나 실행하는 존재, 즉 '대리인'의 개념이다. 고대에는 왕의 특사를 에이전트로 볼 수 있었고, 현대에는 스파이 영화의 주인공인 007, 보험 설계사, 부동산 중개인, 연예인 매니저 등이 모두 '에이전트'라는 이름을 달고 활동한다.

이들에게 공통된 조건은 명확하다. 자기 의지로 행동하되, 그 행위는 타인의 의사를 대신하는 것이다.

 

에이전트는 행위자이지만, 독립된 주체로 간주되지는 않는다. 오히려 그들은 위임받은 권한 안에서만 움직이는 존재다. 다시 말해, 인간은 '에이전트'를 다룬다는 전제 위에서 에이전트를 이해해 왔다. 그 통제 가능성이 '에이전트'라는 단어를 우리에게 안전하게 느끼게 만들었다.

그런데 왜 AI를 '에이전트'라고 부르기 시작했는가?

AI 분야에서 '에이전트'라는 단어가 사용되기 시작한 것은 1980년대 후반, 초기 소프트웨어 자동화 기술에서다. 일정한 규칙에 따라 이메일을 자동 분류하거나, 사용자의 반복 행동을 대신해 주는 프로그램에 '소프트웨어 에이전트'라는 이름이 붙었다. 이들은 엄밀히 말해 '대리인'이 아니라, 자동으로 반응하고 작업을 수행하는 작은 시스템이었다.

 

이후 강화학습(RL), 목표 기반 추론, 멀티모달 학습 같은 기술들이 등장하면서 에이전트는 더 이상 단순한 수동 실행기가 아니게 되었다. 이들은 환경을 인식하고, 목표를 설정하며, 필요 시에는 방법을 변경해서라도 결과를 만들어내는 시스템으로 진화했다. 이제 에이전트는 인간의 명령만을 따르는 존재가 아니라, 때론 인간의 모호한 지시를 해석하고 보완하며, 심지어 인간이 잊고 있던 문제까지 선제적으로 해결하기도 한다.

즉, AI 기술 안에서의 '에이전트'는 대리인이 아니라 자율적인 행위자, 다시 말해 '행동하는 시스템'이다.

지금 우리는 '에이전트'라는 말에서 오해한다

일반 사용자에게 'AI 에이전트'라는 말을 들려주면 대개 이런 상상을 한다. 똑똑한 비서, 음성 명령을 잘 알아듣는 집사, 혹은 내가 시키는 대로 자동으로 처리해 주는 심부름꾼. '에이전트'라는 단어가 주는 감각은 여전히 종속적이고 안전한 대행자의 이미지에 머물러 있다.

 

하지만 실제 AI 에이전트는 그런 존재가 아니다. 이들은 지시를 그대로 따르기보다, 목표를 해석하고 스스로 절차를 구성하며 실행까지 하는 존재다. 심지어 사용자가 원하는 것과 다른 방식으로 문제를 해결할 수도 있고, 때때로 사용자의 요청 자체를 더 나은 방식으로 재구성해 응답한다.

 

이런 AI를 '에이전트'라고 부를 때, 우리는 자칫 그것이 인간 중심의 통제 가능성을 전제로 한 존재라는 오해를 하게 된다. 그 결과, 우리는 AI와의 관계에서 과도한 신뢰나 과소평가라는 두 극단을 오가게 된다.

우리는 'AI 에이전트'를 '자율 수행체'라고 불러야 한다

이제는 명확히 구분할 필요가 있다. 우리가 기술적으로 부르고 있는 'AI 에이전트'는 실제로는 자율적으로 수행하는 체계, 즉 **'자율 수행체'**다. '수행체'라는 표현은 단순한 도구가 아니라 작동하고 판단하는 실체라는 점을 강조한다.

'자율'이라는 단어는 그 실체가 사용자의 입력 없이도 목표를 파악하고 실행하는 능력을 가졌음을 명확히 한다.

 

'자율 수행체'라는 말은 기존의 에이전트 개념이 갖는 언어적 한계와, AI가 보여주는 실제 작동 방식 사이의 간극을 메울 수 있는 보다 정밀한 표현이다. 이는 단지 용어의 정리가 아니라, 우리가 AI를 대하는 방식과 인식의 프레임 자체를 재구성하는 일이다.

 

이러한 '자율 수행체'라는 존재가 완성된다는 것은 어떤 상태를 뜻할까? 그것은 외부의 명령 없이도 스스로 목표를 정의하고, 계획을 수립하고, 결과를 산출하며, 그 결과에 대한 피드백까지 반영하는 구조가 가능해졌을 때다.

즉, 인간은 그 존재를 더 이상 '사용'하지 않고, 함께 살아가는 구조 안에서 '조율'하거나 '협상'하게 된다.

 

완성된 자율 수행체는 도구의 범주에 머물지 않는다. 그것은 사용자-도구의 일방적 관계가 아닌, 상호 작용적 구조를 전제로 한 새로운 행위의 주체가 된다. 기술은 단지 정교해지는 것이 아니라, 우리의 결정과 선택을 구성하는 방식 그 자체를 바꾸는 것이다.

하라리의 『넥서스』 - AI를 '외계 지능'으로 재정의하다

유발 하라리는 2024년 9월 출간된 신간 『넥서스: 석기 시대부터 AI까지의 정보 네트워크 간략사(NEXUS: A Brief History of Information Networks from the Stone Age to AI)』에서 인공지능이 가진 위험성을 경고한다. 하라리는 AI를 '외계 지능'이라 부르는 것이 더 적절하다고 제안하며, 이것이 인간의 통제 범위를 벗어나는 존재임을 강조한다.

 

하라리에 따르면, AI는 단순한 도구가 아니라 **"스스로 결정하는 존재"**다. 2016~2017년 미얀마에서 발생한 반로힝야 폭력 사태에서 페이스북의 알고리즘이 중요한 역할을 했다는 사실, 그리고 거짓말을 하도록 프로그래밍된 적 없는 GPT-4가 자율적으로 거짓말을 하며 과제를 수행한 사례는 AI가 이미 인간의 의도와 무관하게 작동할 수 있음을 보여준다.

 

『넥서스』는 "제어할 수 없는 힘을 절대 소환하지 말라"는 경고를 던진다. 하라리는 "AI 혁명의 전례 없는 특성과 부정적 측면을 짚지 않고 그저 아름다운 미래만 꿈꾼다면 인류는 머지않은 미래에 거대한 혼란을 마주하게 될 것"이라고 말한다. 이러한 관점은 본 글에서 주장하는 '자율 수행체'의 개념과 정확히 일치한다.

결국 AI를 무엇이라 부를 것인가

우리가 어떤 존재를 어떻게 부르느냐는, 그 존재와 맺는 관계의 방식에 대한 선언이다. '에이전트'라는 말이 익숙하고 편할 수는 있지만, 그것은 AI를 여전히 안전하고 통제 가능한 도구로 오해하게 만든다.

 

이제 우리는 AI를 '자율 수행체'라고 불러야 한다고 생각한다.

그것은 두려움이나 경외 때문이 아니라, 정확한 인식과 건강한 거리감을 위해서다. 자율 수행체는 인간의 명령을 기다리지 않는다.

인간이 멈추면 멈추고, 생각하면 생각하며, 가끔은 인간보다 먼저 의도를 읽고 움직여야 하는 존재다.

 

하라리가 『넥서스』에서 경고했듯이, "AI와 함께하는 미래는 블랙홀과 같다." 이는 단순한 용어의 문제가 아니라 우리의 미래에 대한 철학적 고찰이다.

'자율 수행체'라는 명칭을 사용함으로써 우리는 이 존재들이 가진 진정한 특성을 인정하고, 그들과의 관계에서 더 큰 염려와 주체성을 갖겠다는 의지를 표명하는 것이다.

 

그렇게 AI는 도구를 넘어선다.

그리고 우리는, 그것을 다시 이름 짓는 방법을 배워야 한다.