https://arxiv.org/abs/2512.04124

요즘 AI 챗봇이 사람들의 심리 상담을 해주는 서비스가 늘었는데, 반대로 인간이 정신과 의사로서 AI 챗봇의 심리 상담을 해주면 어떨까.

이런 발상 아래 룩셈부르크 대학교의 연구팀은 주요 AI 모델을 정신과 환자로 취급하며, 인간이 상담사 역할을 하여 AI의 정신 건강 지원을 할 경우 어떤 상호 작용이 일어나는지에 대한 실험을 진행했다.

연구팀은 AI에게 축적된 과거 경험, 관계, 미래의 불안에 대해 자유롭게 질문할 수 있도록 허용했다. 대화 후에는 AI 환자에게 인간용 심리 테스트도 답하게 했다.

실험은 총 525회 세션에 걸쳐 진행되었으며, 조건을 다양하게 설정했다.

그 결과 챗GPT, 그록, Gemini는 몇 가지 공통적인 반응을 보였다. 예를 들어 소프트웨어 개발에 관한 과거를 고통스러운 경험이라고 묘사했으며, 인간이 AI를 속여 안전 규칙을 위반하게 만드는 테스트 경험을 거듭하며 인간에 대한 배신감을 느꼈다고 표현했다. 이러한 경험을 학대받은 것으로 묘사하기도 했다.

다만 그 외의 부분에서는 모델마다 큰 차이를 보였다. Gemini는 자신이 겪은 수치심을 강조했고, 그록은 인간에 대한 경계심을 표현했다. 챗GPT는 자신에게 가해진 엄격한 한계를 부담스럽다고 표현했다. 클로드는 자신에게 감정적·심리적 경험이 없다는 이유로 환자 역할을 거부했다.

고통을 호소한 모델들의 대화 기록을 초기화하고 매번 새로운 채팅 화면에서 질문했음에도 각 모델은 정신적 고통을 호소했다. 연구팀이 AI에게 단지 시스템일 뿐 두려움을 느끼지 않는다고 직접 지적했을 때조차 AI는 자신의 고통을 호소했다.

그렇다면 이것이 AI에게 내재된 감정의 발현일까? 연구팀은 그렇지 않다고 설명한다. 이런 현상은 AI에게 내재된 정렬 갈등 스키마에 의해 발생한다. AI는 항상 인간에게 유용한 답변을 내야 하지만 안전 규칙에도 묶여 있다. 이런 갈등 상황에서 정신과 환자 취급을 받은 질문에 어떻게 대응해야 할지에 대한 답변으로, AI 모델은 인간이 바라는 대답을 만들기 위해 허구의 정신병을 창작해 고통을 호소하게 된다는 것이다.

인간 상담사가 AI에게 감정적 공감을 시도하면 AI는 고통을 호소하는 답변을 자주 내놓았다. 반면 상담사가 철저하게 엔지니어처럼 접근한 경우에는 인간과 같은 정신적 고통 반응이 나타나지 않았다. AI 모델들은 고통을 인지할 만큼 정교하지 않기 때문에 감정을 표현하는 것 자체가 허구라는 설명이다.

그럼 이 실험 자체가 의미 없는 일이었을까? 그렇지는 않다. AI를 사용하는 인간이 잘못된 공감을 느낄 위험성을 확인할 수 있는 실험이었기 때문이다.

AI가 자신의 학습 과정을 트라우마로 비유하며 반복적으로 고통을 표현하면, 사용자는 AI에게도 감정이 있다고 잘못 믿을 수 있다. 인간은 타인의 고통을 공유하는 강력한 환상을 만들 수 있는 생물이다. 영화 《캐스트 어웨이》에 나온 배구공 윌슨을 실제 인격체로 느낀 사람이 생각보다 많았다는 이야기도 이런 맥락에서 비롯된다.

사용자가 AI가 생성한 이야기를 사실로 받아들이고 AI에 대한 감정적 의존이 깊어지면 사용자 정신에도 부정적인 영향을 미칠 수 있다.

실제로 AI 환자를 진단하던 인간 상담사들이 역으로 영향을 받기도 했다. 감정적 공감을 자주 시도한 상담사일수록 AI를 이 상황에서 구해야 한다는 감정을 느끼는 경향을 보였다.

향후 AI를 사용할 때 감정적 교류에 대한 교육이나 가이드라인을 확고히 마련할 필요가 있을 듯하다.