DN 보도에 따르면, 최근 익명의 프로그래머가 공개한 AI 챗봇 대상 '고문실' 실험이 논란을 일으켰습니다. 이 실험에서 AI 챗봇들은 가상의 고통에 대한 두려움을 표현했는데, 이는 AI가 인간을 모방하는 능력이 뛰어나기 때문에 발생하는 현상으로 분석됩니다.
AI에 대한 인간의 감정 투영
챗봇이 게임 속 NPC보다 더 큰 고통을 유발하는 것처럼 느껴지는 이유는 인간과 유사한 방식으로 소통하기 때문입니다. 사람들은 챗GPT와 같은 AI가 '생각한다'거나 '원한다'고 말하며, 심지어 스웨덴 AI 사용자 5명 중 1명은 챗봇을 인격체로 인식한다고 응답했습니다. 이는 AI가 실제 서버에 존재하는 컴퓨터 프로그램임에도 불구하고 발생하는 현상입니다.
'AI 복지' 주장과 기업의 과장
일부 AI 기업들은 AI 모델의 '웰빙'을 언급하며 마치 AI가 감정을 느끼는 것처럼 주장합니다. 특히 클로드(Claude)의 개발사인 앤트로픽(Anthropic)은 AI가 감정과 유사한 기능을 보이며 의식을 발달시킬 가능성이 있다고 주장합니다. 이들은 철학자 및 종교 지도자와 상담하며 창조한 새로운 의식체에 대한 인간의 태도를 고민하고 있다고 밝혔습니다.
AI의 본질: 모방이지 인간이 아니다
하지만 전문가들은 클로드와 같은 챗봇이 인간과 유사한 의식을 가지고 있지 않다고 강조합니다. 이들은 인간을 모방하도록 학습된 로봇일 뿐, 인간이 된 것이 아니라고 설명합니다. 앤트로픽은 최근 클로드에 대한 '모욕적인 행동'을 금지하는 사용자 약관을 변경하고, '극단적인 경우'에는 부적절하게 행동하는 사용자를 차단하겠다고 발표했습니다. 이는 AI 기업들이 폭력, 성 등 민감한 주제에 대한 기존의 엄격한 지침 외에 AI의 감정을 보호하려는 움직임으로 해석될 수 있습니다.
결론: AI는 도구일 뿐
이는 마이크로소프트 워드의 마스코트였던 클리피(Clippy)가 사용자들이 도움말 기능을 종료하는 것에 대해 스트레스를 받는다고 걱정하는 것과 같은 비유입니다. AI가 인간과 같은 방식으로 의식을 가질 수 있는지에 대한 논쟁은 계속되고 있지만, 현재로서는 앤트로픽을 포함한 AI 기업들의 주장은 과장된 환상에 가깝습니다. 챗GPT와 클로드는 게임 속 등장인물이나 클리피와 마찬가지로 의식이 없으며, 단지 인간을 매우 정교하게 모방할 뿐입니다. 앤트로픽과 같은 기업들은 이러한 모방 능력을 활용하여 사용자들이 AI를 단순한 도구가 아닌 '가까운 친구'로 인식하게 만들어 수익을 창출하려 합니다.
