AI의 '환각'은 인간 좌뇌의 거울이다.

AI의 '환각'은 인간 좌뇌의 거울이다.

1. 좌뇌 해석기(interpreter)

최근 AI가 가져올 미래에 대해 관심이 깊어지며, 관련 유튜브나 책을 보며 흥미로운 연결고리를 알아보았습니다. 바로 노벨생리의학상 수상자 마이클 가자니가의 ‘뇌-분리 실험’과 초기 LLM의 환각(hallucination) 현상 사이의 유사성입니다.

'뇌-분리 실험'은 좌뇌가 단순히 언어 능력이 뛰어난 것을 넘어, '앞뒤 맥락이 맞지 않는 상황에서도 논리적인 이유를 즉석에서 만들어내는 경향'이 있음을 밝혀냈습니다. 가자니가는 좌뇌를 해석기(interpreter)라고 불렀다고 합니다. 흥미로운 점은 우리가 흔히 겪는 '자기 합리화'나 '사후 확신 편향' 역시 이 '좌뇌 해석기'의 작품이라는 사실입니다. 좌뇌는 이미 무의식 속에서 선택한 결과나 벌어진 행동에 대해 어떻게든 인과관계의 뼈대를 세워 ‘나’라는 존재의 일관성을 유지하려 합니다.


2. AI의 진화 = 인간 뇌의 모방

최근 AI의 발전은 초기 LLM이 확률적으로 그럴듯한 문장을 만들어내던 '자뇌적 오류'를 극복하기 위해 인간 뇌의 다른 영역들을 점진적으로 모방하며 진화하고 있다고 볼 수 있습니다.

RAG(Vector DB)는 단기 기억을 저장하고 필요한 정보를 즉각 검색해주는 해마(hippocampus)와 유사한 역할을 수행합니다. 이 해마의 정보 중 일부가 장기 기억소인 대뇌피질로 이동하는 과정은 파인튜닝(Fine-tuning)을 통해 모델의 가중치(Weight)가 조정되는 과정과 대응될 수 있습니다.

우뇌(Right brain)는 시각적 흐름과 언어적 맥락을 동시에 고려하며 ‘지금 이 순간 무엇이 중요한가’를 결정하는 멀티모달 어텐션(Multimodal Attention)과 닮아 있습니다. 좌뇌가 이야기 생성에 집중할 때, 우뇌는 데이터 전체의 맥락을 조망하며 생성된 서사가 현실과 동떨어지지 않도록 균형을 잡는 조정자 역할을 합니다.


3. 다음 화두: '전두엽'의 통제와 조화

전두엽(Frontal lobe)은 좌뇌가 내뱉는 즉흥적인 서사를 검토하고 상식과 규범의 틀 안에서 통제합니다. AI 시스템에서는 지식의 체계를 정의하는 온톨로지(Ontology)나 윤리적 가이드라인인 가드레일(Guardrails)이 바로 이 전두엽의 기능을 담당할 수 있습니다.

이제 AI에게 얼마나 많은 지식을 주입할 것인가를 넘어, 인간의 전두엽처럼 이 복잡한 시스템들을 어떻게 조화롭게 통제할 것인가가 더 중요한 화두가 될 것 같습니다.

인간의 뇌가 시각과 언어를 먼저 배우고, 20대가 되어서야 비로소 전두엽이라는 ‘이성의 사령탑’을 완성하듯, AI의 발전 단계도 이와 닮아 있습니다. 초기 LLM이 방대한 지식을 쏟아내면서도 엉뚱한 거짓말을 하거나 즉홍적인 답변을 했던 것은 아직 전두엽이 발달하지 않은 어린아이의 상태와 비슷했기 때문일 수 있습니다.