어느 스타트업의 신학 논쟁 : 우리는 모르는 오픈AI 윤리 내전의 기록

2023년 겨울, 실리콘밸리에서 벌어진 한 CEO의 해임 사건은 단순한 경영 충돌이 아니었다. 그것은 인류 문명 최초로, "신은 우리가 만들 수 있는가?"라는 "신학 논쟁"같은 질문이 실제 기업 회의실에서 터져 나온 순간이었다. 그 중심에 있었던 회사가 바로 오픈 AI다.

 

이 글은 그 내전의 기록이다.

그리고 왜 지금, 당신 같은 가속주의자도 이 이야기를 잠깐 멈춰 서서 다시 생각해봐야 하는지에 대한 이야기이기도 하다.

특히, 그 내전이 끝난 뒤 우리가 목격하고 있는 것이 승리가 아니라 다른 종류의 함정일 수도 있다는 이야기 말이다.

GPT가 신이 될 때, 철학자들은 두려워했다

GPT-4가 공개됐을 때, 많은 이들은 그것을 도구라고 불렀지만, 어떤 이들은 그것을 "기억하고, 추론하고, 창조하는 존재"라고 느꼈다.

더군다나 AGI(범용 인공지능), 즉 인간 수준의 지능을 가진 AI의 가능성이 언급되자, 내부에선 균열이 시작되었다.

 

Ilya Sutskever를 비롯한 일부 핵심 과학자들은 이렇게 묻기 시작했다. "우리가 만드는 존재는, 우리보다 더 나아질 수 있다면, 우리가 그 존재를 통제할 자격이 있는가?" 이는 기술 윤리를 넘어서, 신학적 고민으로 번졌다. 인간이 자기 손으로 신을 만들어도 되는가. 그리고 그 신이 인간을 넘어설 때, 누가 그 책임을 질 것인가.

 

하지만 여기서 놓치기 쉬운 것이 있다. 이 철학자들의 고민이 아무리 숭고해 보여도, 그들은 이미 글로벌 AI 군비경쟁이라는 거대한 게임의 한 조각이었다는 점이다.

중국의 바이두, 구글의 Bard, 메타의 LLaMA... 이들은 오픈 AI의 내적 성찰을 기다려주지 않는다는 걸 모두 알고 있었다.

CEO 해임, 그리고 철학의 퇴장

2023년 11월, 오픈AI 이사회는 CEO 샘 알트먼을 전격 해임한다.

이유는 복잡하게 포장됐지만, 실질적인 배경에는 AI 상용화 속도를 둘러싼 내적 충돌이 있었다. 알트먼은 속도를 택했고, 보드는 윤리적 브레이크를 원했다. 이른바 "윤리 내전"이었다.

 

그러나 놀라운 건 그다음이었다. 직원 95%가 사표를 쓸 태세를 보이자, 일주일 만에 알트먼은 복귀한다. 윤리파는 조용히 사라졌고, 오픈AI는 다시 가속 페달을 밟기 시작했다.

이 순간을 가속주의자의 시각에서 보면 명확하다. 시장이 답을 줬다는 것이다. 직원들은 발로 투표했고, 투자자들은 지갑으로 투표했으며, 사용자들은 클릭으로 투표했다. 모든 이해관계자가 속도를 선택했다. 윤리는 회의실의 사치였을 뿐이다.

 

하지만 이 사건은 AI 업계 최초이자 유일한 철학 쿠데타로 기록됐다. 그리고 그 철학은 패배했다. 문제는 이 패배가 생각보다 완전하지 않았다는 점이다.

가속주의자들이 승리한 이후 - 그리고 그 대가

윤리 내전이 끝난 후, 오픈AI는 GPT-4o, Agent, Voice Mode 같은 기능을 연달아 출시하며 가속주의자의 완벽한 서사로 진입한다. 동시에 다른 기업들은 전략을 바꾼다.

구글은 윤리를 내부 가이드라인으로 숨기고, 반면 Anthropic은 AI 내부에 헌법을 넣는 방식을 택하며, 메타는 아예 오픈소스로 책임을 분산시킨다. 게다가 딥시크 같은 중국발 AI태풍은 미국과 서방을 Ai군비경쟁으로 몰아넣어서 이런 논란을 잠재워버렸다.

 

AI의 윤리는 이제 언급되지 않는다. 그냥 있는 것처럼 느껴질 뿐이다. 신학자들은 이 전쟁에서 지고, 그들의 흔적은 조용히 묻힌다. 대신 세상을 지배하는 건 속도다. 더 빠르고, 더 많이, 더 앞서.

그런데 여기서 아이러니가 시작된다. 승리한 가속주의가 마주한 것은 또 다른 종류의 군비경쟁이었다.

오픈AI가 윤리적 브레이크를 풀고 전속력으로 달렸지만, 구글은 더 큰 자본으로, 중국은 더 적은 규제로, 메타는 더 과감한 오픈소스로 맞섰다. 결국 아무도 독주할 수 없는 상황이 됐다.

 

더 중요한 건, 윤리를 포기한 대가였다. 이제 AI 기업들은 "우리가 만드는 것이 안전한가?"라는 질문에 대해 더 이상 내부적으로 진지하게 고민하지 않는다. 대신 "시장이 받아들일 것인가?"만 묻는다. 이는 분명 효율적이지만, 동시에 위험하다. 시장은 단기적 유용성에는 민감하지만, 장기적 위험에는 둔감하기 때문이다.

승자 독식 게임의 잔혹한 논리

현재 AI 업계는 전형적인 승자독식 구조로 진화하고 있다. 가장 좋은 모델이 더 많은 사용자를 끌어모으고, 더 많은 데이터를 수집하며, 더 많은 투자를 받아 더 좋아지는 선순환 구조다. 이 구조에서는 "윤리적이지만 조금 덜 좋은" 서비스는 생존할 수 없다.

 

Anthropic의 클로드가 대표적인 예다. 아무리 Constitutional AI와 같은 혁신적인 안전 기술을 개발해도, 사용자들이 더 자유롭고 강력한 GPT로 이탈한다면 시장에서 도태될 수밖에 없다. 결국 윤리적 접근을 추구하는 기업들도 경쟁력을 위해 점진적으로 기준을 완화할 수밖에 없는 구조다.

이는 마치 군비경쟁 속에서 군축을 외치는 성직자의 딜레마와 같다. 아무리 숭고한 이상을 품어도, 다른 모든 이들이 무기를 든다면 결국 자신도 무기를 들거나 사라질 수밖에 없다.

그런데 왜 지금, 이 이야기를 다시 꺼내는가?

첫 번째 이유는 우리가 그날 그 자리에 없었기 때문이다.

한국어 사용자는, 한국의 개발자와 기획자, 학생과 직장인들은 이 윤리 내전을 모른 채 ChatGPT를 처음 마주했다. 우리는 이 논쟁의 관객이 아니었고, 등장인물도 아니었다. 그렇기에 지금, 이 기록은 단지 과거가 아니라, 처음 쓰이는 이야기일 수도 있다.

 

두 번째 이유는 더 중요하다. 가속주의자들이 완전히 승리했다고 생각하는 순간, 우리는 더 큰 함정에 빠질 수 있기 때문이다.

현재의 AI 군비경쟁은 단순히 "더 빠르게, 더 강력하게"라는 방향으로만 흘러가고 있다.

하지만 이 경쟁의 끝에 있는 것이 과연 우리가 원하는 미래일까? 승자독식 구조에서 최종적으로 남는 하나의 AI 기업이, 그리고 그들이 만든 초지능 AI가 정말로 인류 전체를 위한 것일까?

 

가속주의의 핵심 가정은 "빠른 기술 발전이 모든 문제를 해결할 것"이라는 것이다. 하지만 오픈AI 내전이 보여준 것은, 기술 자체보다 그 기술을 누가, 어떤 목적으로, 어떤 방식으로 발전시키느냐가 더 중요할 수도 있다는 점이다.

덮인 것들은 언젠가 다시 열린다

오픈AI는 윤리를 이긴 게 아니다. 단지 일시적으로 덮었을 뿐이다. 그리고 덮인 것들은 언젠가 다시 열린다.

AI가 진정으로 인간 수준(AGI)에 도달하는 순간, 혹은 그것을 넘어서는 순간이 온다면, 2023년 겨울 오픈AI 회의실에서 벌어진 그 신학적 질문들이 다시 터져 나올 것이다. 그때는 더 이상 한 기업의 내부 문제가 아니라, 인류 전체의 문제가 될 것이다.

 

그리고 그때 우리는 깨달을지도 모른다. 속도만 추구하다가 방향을 잃었다는 것을. 경쟁에서 이기는 것과 올바른 곳에 도착하는 것이 다르다는 것을 말이다.

가속주의자들이 진정으로 원하는 것이 더 나은 미래라면, 단순히 더 빠른 것이 아니라 더 나은 방향으로 가는 속도여야 할 것이다. 그리고 그 방향을 결정하는 것은 결국 우리가 어떤 질문을 던지느냐에 달려 있다.

 

2023년 겨울의 그 신학 논쟁은 끝나지 않았다. 단지 연기되었을 뿐이다. 그리고 다음번에는 회의실이 아니라 세상 전체가 그 무대가 될 것이고 언덕 위의 무지개집이 될지 아마겟돈이 벌어질지는 아무도 모른다.