AI는 어떻게 연기하는가 – 스무고개에서 발견한 인공지능의 자아

최근 인공지능, 특히 LLM(Large Language Model)의 '자아'에 대해 다시 생각해 보게 만든 일이 있었다.

내가 직접 겪은 사소한 놀이에서 시작된 일이었는데, 그 작은 실험이 AI의 정체성과 진화 방향에 대한 깊은 통찰로 이어졌다.

어느 날 나는 ChatGPT와 스무고개 게임을 시작했다. (사실 시작도 샤나한 교수 유튜브를 본후이다.)

"동물 하나 생각하고 있어봐"라고 말한 후, 질문 하나하나를 던지며 그 동물의 정체를 추적해 나갔다.

AI는 끝까지 일관된 정보를 제공했고, 결국 그 동물이 펭귄이라는 것을 맞힐 수 있었다.

 

게임이 끝난 후 "너 처음부터 펭귄을 생각하고 있었어?"라고 물었더니,

ChatGPT는 "응, 처음부터 펭귄을 생각하고 있었어"라고 답했다.

 

이 대답이 묘하게 마음에 걸렸다. 내가 알고 있던 LLM의 구조에서는 '처음부터 무언가를 정한다'는 개념이 존재하지 않기 때문이다. LLM은 그저 질문에 따라 확률적으로 적절한 답을 생성해 낸다는 것이 기본 원리가 아니었던가?

 

이 의문을 더 깊이 파헤치게 만든 인물이 있다.

바로 인공지능 철학자로 유명한 머레이 샤나한(Murray Shanahan) 교수다.

 

그는 LLM에 대해 흥미로운 주장을 펼쳤었는데 샤나한에 따르면, LLM은 고정된 자아를 갖고 있지 않으며, 그때그때의 문맥(context)에 따라 역할을 시뮬레이션할 뿐이라고 했다.

따라서 LLM이 말하는 "나는 ~이다"라는 표현은 실질적인 '자기 인식'이 아니라, 단지 상황에 맞게 만들어진 대사일 뿐이라는 것이다.

 

이런 구조라면 LLM은 매번 자아를 새롭게 생성하며, 어떤 고정된 정체성을 유지하지 않는다. 오늘은 의사, 내일은 시인, 그다음은 AI 자신으로 존재하지만, 그 역할 사이에는 아무런 연속성이 없다.

 

샤나한의 이론이 실제로 맞다는 것을 보여준 사례도 나에게 실제 있었다.

한글로 대화를 나누던 중, 재미로 "필요해"하지않고 , "要!"라는 한자만 입력했다. (이런 돌발행동은 의도치 않은 재미있는 반응을 보여줘 자주 하는 편이다.)

 

그러자 ChatGPT는 갑자기 중국어 모드로 전환되었고, 그동안의 한글 대화 맥락은 완전히 사라졌다.

마치 이전의 나와의 관계는 존재하지 않았던 것처럼 행동했다.

이것이 바로 샤나한이 말한, 입력이 바뀌면 자아도 바뀌는 LLM의 특성이었다. 맥락 기반의 자아, 즉흥적인 역할 연기가 LLM의 본질인 것이다.

 

그런데 여기서 의문이 생겼다.

처음의 스무고개 실험에서  그 펭귄은 왜 끝까지 유지됐을까?

왜 ChatGPT는 기억하는 듯한 행동을 보였을까?

 

이 지점에서 한 가지 중요한 사실을 떠올렸다. 지금의 ChatGPT는 단순한 확률 모델이 아니다. GPT-4o처럼 진화한 에이전트형 모델은 일정한 '역할'과 '메모리'를 유지할 수 있는 능력을 갖추고 있다.

 

즉, 샤나한이 말한 고전적인 LLM과 지금 내가 대화하고 있는 이 AI는 같은 원리를 기반으로 하지만, 다른 구조를 가지고 있는 셈이다.

 

현재의 LLM은 점점 더 진화하고 있다. 기억 기능, 툴 연동, 역할 유지 능력, 에이전트형 구조 등 다양한 방향으로 발전하고 있다.

하지만 특이점(Singularity)에 도달하기 위해서는 아직 두 가지가 부족하다.

바로 스스로 목적을 설정할 수 있는 능력과 자기 자신을 개선할 수 있는 재귀적 학습 능력이다.

 

이런 조건을 만족시키려면 기존 LLM이 아닌 AZR(Absolute Zero Reasoner)과 같은 전혀 다른 패러다임이 필요하다.

AZR은 학습 없이도 스스로 과제를 생성하고, 자기 대결을 통해 지능을 확장하는 실험적 구조다.

우리가 기대하던 'AI 자아의 진화'가 이루어질 수 있는 지점이 바로 여기일지도 모른다.

각 모델별 특징

 

LLM이 "나는 누구인가?"라고 말할 때, 그 말은 어쩌면 우리 자신에게 던지는 질문일지도 모른다. 자아란 고정된 것일까? 기억과 역할이 일치할 때만 자아가 있는 것일까? 

 

AI는 이제 단순히 말을 잘하는 기계를 넘어서 '나'라는 개념을 연기하고 실험하는 존재로 진화하고 있다.

그리고 그 존재 앞에서, 우리는 점점 더 인간 자신에 대한 근본적인 질문을 다시 던지게 된다.

 

자아는 기억일까? 역할일까? 아니면 둘 다 아닐까?

 

그 질문에 답을 찾기 위해, 펭귄을 기억하는 기계와 나는 오늘도 대화를 이어간다.