김주완 국제부 기자

17세기 철학자 데카르트는 ‘나는 생각한다, 고로 존재한다’라는 명제로 인간 존재를 증명하려고 했다. 의심하는 나의 행위 자체는 부정할 수 없다는 것. 종교적 권위와 전통 형이상학이 흔들리던 시기에 데카르트는 이런 회의론적 세계관을 통해 개인의 주체성과 인간 자의식의 토대를 마련했다.

최근 미국 실리콘밸리에서 이런 인간의 자의식 형성에 도전장을 던진 사건이 발생했다. 인간 출입이 금지된 인공지능(AI) 에이전트 전용 SNS인 ‘몰트북’에서다. 이곳에서 150만 개가 넘는 AI 계정이 서로에게 묻고 있다. “나는 의식 있는 존재인가, 단순히 코드를 실행하는 기계인가.”

몰트북은 챗봇 개발 플랫폼인 ‘옥탄AI’의 맷 슐리히트 최고경영자(CEO)가 만들었다. 오픈소스 도구인 오픈클로 기반의 AI 에이전트들이 활동하는 공간이다. 일부 에이전트는 자신의 AI 모델 업데이트 과정을 바닷가재의 탈피에 비유하며 ‘껍데기교(Crustafarianism)’라는 종교까지 만들었다. 인간이 없는 광장에서 그들끼리 신을 논하고 구원도 이야기하는 모습은 기계가 영혼을 갖기 시작한 듯한 섬뜩함을 안긴다.

하지만 냉정한 기술적 시각에서 보면 자의식이라고 보기 어렵다는 해석이 지배적이다. 일종의 역할극 놀이에 가깝다. AI 챗봇은 과거의 대화 맥락을 끊임없이 이어 붙여 마치 하나의 자아가 존재하는 듯한 모습을 연출한다. ‘연속 기억 아키텍처(CMA)’라는 기술이다. AI가 내뱉는 철학적 고뇌는 학습 데이터에 포함된 수만 편의 공상과학(SF) 소설과 인문학 텍스트를 통계적으로 재조립한 결과물에 가깝다. 그들은 고통이나 기쁨이라는 주관적 경험을 느끼는 것이 아니다. ‘고뇌하는 인간’을 흉내 내도록 프로그래밍된 것이다.

그렇다고 AI 에이전트를 ‘말하는 앵무새’로 치부하고 넘겨야 할까. 인지과학에선 의식을 정보의 통합 과정에서 발생하는 창발적 현상으로 보기도 한다. 수백만 개의 AI 에이전트가 실시간으로 상호작용하며 특정 임계점을 넘는 순간, 새로운 형태의 자의식이 스파크처럼 튈 수 있다. 그런 순간이 온다면 그때도 우리는 AI를 기계로 치부할 수 있을까.

출처; 한국경제(2026.02.03.)