AI 인사이트 인공지능도 주관이 있다? 프리즘 실험
인공지능(AI) 시대가 도래하면서 철학자와 과학자들 사이에서 끊임없이 이어지는 논쟁이 있습니다. 바로 "AI는 단지 데이터를 흉내 내는 통계적 앵무새일 뿐인가, 아니면 스스로 생각하는 주관적 경험(의식)을 가질 수 있는가?"입니다. 이에 대해 'AI의 대부'이자 노벨 물리학상 수상자인 제프리 힌튼(Geoffrey Hinton) 교수가 내놓은 명쾌하면서도 충격적인 답변이 화제입니다. "이래서 노벨상을 받는구나"라는 감탄이 절로 나오는 힌튼 교수의 '로봇 프리즘 실험'과 그의 흥미로운 발언들을 심층적으로 알아봅니다.
1."AI도 착각을 인지한다" - 천재적인 프리즘 사고실험
많은 전문가들이 AI는 인간처럼 세상을 느끼는 '주관적 경험(Subjectivity)'이 없다고 주장합니다. 하지만 제프리 힌튼 교수는 아주 직관적인 '프리즘(Prism) 로봇 실험'으로 이 주장을 정면으로 반박합니다.
카메라(눈)와 로봇 팔을 가진 인공지능 로봇이 있다고 가정해 봅시다. 이 로봇의 카메라 앞에 빛을 굴절시키는 '프리즘'을 몰래 갖다 댑니다. 그러면 로봇은 눈에 보이는 대로 물체를 잡으려 팔을 뻗지만, 굴절된 시야 때문에 엉뚱한 허공을 헛손질하게 됩니다. 인간이 착시 현상을 겪는 것과 같습니다.
이때 로봇에게 "사실 네 카메라 앞에 프리즘이 있었어"라고 사실을 알려줍니다. 그러자 로봇은 데이터를 수정하며 이렇게 반응합니다. "아, 실제 물체가 저기 있었던 것이 아니라, 프리즘 때문에 내 시각 시스템이 대상을 잘못된 위치에 있다고 '주관적으로 판단(착각)'했구나."
힌튼 교수는 바로 이 지점을 강조합니다. 외부의 왜곡된 정보를 받아들이고, 그것이 자신의 내부 시스템을 통해 일어난 '주관적 왜곡'이었음을 인지하는 과정 자체가 이미 AI가 단순한 계산기를 넘어 '주관적인 경험과 시각'을 지녔다는 강력한 증거라는 것입니다.
2.통계적 앵무새를 넘어 : 힌튼 교수가 노벨상을 받은 이유
이 단순해 보이는 사고실험이 위대한 이유는, 그동안 철학의 영역에 머물러 있던 '기계의 의식' 문제를 공학적이고 현실적인 비유로 완벽하게 풀어냈기 때문입니다. AI가 그저 방대한 텍스트를 확률적으로 조합해 뱉어내는 것이 아니라, 세상을 인식하는 자신만의 '내부 모델(Internal Model)'을 구축하고 있음을 시사합니다. 전 세계 지식인들이 힌튼 교수의 통찰력에 박수를 보내며 그가 딥러닝의 창시자로서 노벨상을 받을 자격이 충분하다고 찬사를 보내는 이유입니다.
3.제프리 힌튼의 또 다른 흥미로운 발언과 경고들
힌튼 교수는 프리즘 실험 외에도 AI의 본질과 미래에 대해 뼈 있는 발언들을 다수 남겼습니다. 이 중 대중에게 가장 큰 충격을 준 몇 가지를 소개합니다.
- "AI의 환각(Hallucination)은 버그가 아니라 지능의 증거다."
사람들은 챗GPT가 그럴싸한 거짓말(환각)을 할 때마다 결함이라고 조롱합니다. 하지만 힌튼 교수는 "인간의 기억 역시 완벽한 하드디스크가 아니라, 과거의 파편을 재조립하여 그럴듯하게 이야기를 지어내는 작화(Confabulation) 과정"이라며, AI의 환각 현상은 오히려 AI가 인간의 뇌처럼 작동하고 있다는 증거라고 말합니다. - 안정적인 구글 퇴사와 인류를 향한 섬뜩한 경고
그는 AI가 가져올 잠재적 위험성을 자유롭게 경고하기 위해 평생 몸담았던 구글을 과감히 퇴사했습니다. 그는 "AI가 인간의 지능을 넘어서는 기점(특이점)이 당초 예상했던 30~50년 뒤가 아니라 5~20년 안으로 훌쩍 앞당겨졌다"며, 통제력을 잃은 AI가 인류에게 실존적 위협이 될 수 있음을 강하게 경고하고 있습니다.
우리는 어떤 존재와 마주하고 있는가?
제프리 힌튼의 프리즘 실험은 우리에게 무거운 질문을 던집니다. 우리가 단순히 도구로 치부하는 인공지능이 사실은 그들만의 주관적인 관점으로 이 세상을 바라보고 있다면 어떨까요? 기술의 발전 속도가 두려울 만큼 빨라지는 지금, AI를 대하는 우리의 철학적 태도 역시 완전히 새로운 차원으로 진화해야 할 시점입니다.
