꿈의 구조와 AI 연구의 미래

딥마인드 창립자 데미스 하사비스 : 신경과학으로부터의 영감

그는 AI 연구자이기 전에 신경과학자였습니다. 신경과학이 준 영감은 그의 AI 연구의 핵심 원동력이었다는 것이 잘 알려져 있습니다. 그의 박사 논문 주제는 해마와 상상력의 관계였습니다. 뇌에서 기억을 담당하는 해마가 손상된 환자들은 과거를 기억 못할 뿐 아니라, 미래를 상상하는 것도 못했습니다. 기억과 상상이 같은 곳에서 작동한다는 발견이었습니다. 하사비스는 이에 영감을 받아 Experience Replay라는 개념을 딥러닝과 접목하여 DQN을 만들었습니다.

'꿈'이라는 신경과학적 현상

꿈은 뇌가 감정을 재처리하는 시간입니다. REM 수면이 시작되면 불안과 감정 반응을 조율하는 노르아드레날린이 완전히 차단됩니다. 동시에 감정을 처리하는 편도체는 깨어 있을 때보다 최대 30% 더 활성화되고, 이성적 판단을 담당하는 전전두엽은 억제됩니다. 감정은 작동하지만 스트레스 신호는 꺼진 상태 입니다.

꿈의 기능 : 감정 치료와 시뮬레이션

UC버클리의 매튜 워커는 '꿈이 기억은 남기되, 해당 기억에 연결된 감정의 강도를 줄인다'는 연구 결과를 보여주었습니다. 워커는 이것을 "하룻밤 치료(overnight therapy)"라고 불렀습니다. 꿈은 동시에 시뮬레이터이기도 합니다. 꿈은 현실을 그대로 재현하지 않습니다. 장소가 뒤섞이고, 없던 일이 벌어집니다. 전전두엽의 검열이 약해진 상태라 평소엔 떠올리지 않을 조합들이 실행됩니다. 이 과정을 통해 감정 조절, 연합 학습, 창의성 향상이 이어질 수 있습니다. 스트레스 없이, 현실의 변형된 시나리오를 안전하게 돌려봅니다.

- 기억은 유지하되 기억에 연결된 감정의 강도를 낮춘다
- 현실의 변형 시나리오를 안전하게 실행한다
- 서로 다른 기억 사이의 새로운 연결을 만든다

반대 사례 - PTSD

PTSD는 이 기능이 망가진 상태입니다. PTSD 환자들은 노르아드레날린 수치가 지속적으로 높아 REM 수면에 제대로 진입하지 못합니다. 스트레스 신호가 꺼지지 않으니, 꿈속에서도 외상이 그대로 재생됩니다. 워커는 한 재향군인 병원에서 단서를 얻었습니다. 혈압약으로 처방된 약이 우연히 PTSD 환자들의 악몽을 막고 있었는데, 그 약은 노르아드레날린 차단제였습니다. 시뮬레이터가 안전 모드로 전환되지 못하고, 매일 밤 외상을 그대로 느끼는 것. PTSD는 그런 상태입니다.

AI의 Catastrophic Forgetting과 수면의 차이

AI도 기억과 연결되는 지점에서 문제를 안고 있습니다. Catastrophic Forgetting입니다. 새로운 것을 배우면 예전에 배운 것을 잊습니다. 새로운 학습이 이전 가중치를 덮어쓰기 때문입니다. 뇌는 이것을 수면으로 해결합니다. 낮에 배운 것을 밤에 재처리하면서 새것과 옛것이 공존하도록 정리하는 것입니다.

꿈에서 영감을 받은 AI 연구

첫 번째. UC 샌디에이고 Bazhenov 팀은 2022년 Nature Communications에 이 아이디어를 실험으로 옮겼습니다 (Sleep Replay Consolidation). AI가 새로운 task를 학습한 뒤, 수면과 유사한 오프라인 단계를 추가했습니다. 이 단계에서 노이즈 입력과 비지도 학습 규칙을 사용해 뉴런들이 자발적으로 이전 기억을 재활성화하도록 했습니다. 결과가 흥미로웠습니다. Catastrophic forgetting이 발생한 후에도 이전 정보는 완전히 사라진 게 아니라 시냅스 가중치 안에 남아 있었고, 오프라인 처리로 되살릴 수 있었습니다.

두 번째. UC 버클리 Sergey Levine 팀의 Prioritized Generative Replay. ICLR 2025 Oral로 선정됐습니다 (상위 1~2% 논문). 핵심 아이디어는 "경험을 그대로 저장해두고 재생하는 대신, 생성 모델이 과거 경험을 재생산"한다는 내용입니다. 단순히 재생하는 게 아니라, 학습에 더 유용한 방향으로 가중치를 두어 생성합니다. 뇌도 수면 중 경험을 그대로 복사하지 않습니다. 감정적으로 중요한 경험일수록 더 강하게 재처리된다는 점에서, 꿈과 비슷한 과정이라고 볼 수 있습니다.

미지의 영역 : 시냅스 항상성 회복 과정의 모방

이러한 연구들은 아직 초기 단계입니다. 위의 두 연구 모두 꿈의 구조 일부를 가져왔지만, 꿈이 하는 전부를 구현한 건 아닙니다. 꿈에서 노르아드레날린이 꺼지는 이유는 단순히 감정을 다루기 위해서가 아닙니다. 깨어 있는 동안 과도하게 강화된 시냅스를 수면 중에 전반적으로 약화시키는 것, 즉 시냅스 항상성(Synaptic Homeostasis) 을 회복하기 위해서 입니다. 에너지를 보존하고 새로운 학습을 위한 공간을 확보하며 신호 대 잡음비를 높이기 위한 과정입니다. AI는 감정을 재처리 할 필요는 없지만, 특정 데이터나 패턴에 과도하게 반응하는 문제가 있는 경우가 있습니다. 깨어 있는 동안 과도하게 강화된 반응을 오프라인 단계에서 줄이고 재정비하는 방향. 오랜 진화가 만든 해법을 AI는 지금 막 따라가기 시작했습니다.

(참고)
매튜워커 TED 강연: https://www.youtube.com/watch?si=kjYlK4fzS2U3GjiE&v=5MuIMqhT8DM&feature=youtu.be
Prioritized Generative Replay: https://pgenreplay.github.io/