예측 부호화는 감각 정보와 내부 예측의 차이를 이용해 뇌의 정보 처리를 설명하는 이론적 접근입니다. 생성형 AI의 예측이라는 말과 연결해 볼 수 있지만 둘이 같은 방식으로 동작한다고 확정할 수는 없습니다.
1. 예측과 오차의 역할
감각 입력에 대한 예상과 실제 입력의 차이를 이용해 표현을 갱신한다는 관점입니다. 이론 안에서도 어떤 수준에서 어떤 신호를 처리하는지 여러 구현과 해석이 있습니다. 뇌가 단순히 다음 단어를 생성하는 언어모델이라는 설명은 지나친 일반화입니다.
2. 베이지안 표현의 의미
사전 정보와 새로운 관찰을 결합하는 확률적 틀은 불확실성을 설명하는 데 도움이 됩니다. 그러나 수학적으로 같은 형식으로 표현할 수 있다는 사실이 생물의 세포나 모델의 가중치가 동일한 생리적 구조라는 증거는 아닙니다.
3. 비교를 읽는 방법
이론적 모형, 실험에서 관찰한 신호와 실제 모델의 학습 목적을 구분하세요. 언어모델이 그럴듯한 설명을 만들었다는 결과를 의식이나 인간과 같은 이해의 증거로 사용하지 않습니다. 예측 부호화와 능동적 추론도 관련되어 소개되지만 완전히 같은 단어로 바꾸지 말고 연구가 다루는 질문과 측정 항목을 확인합니다.
4. 흐릿한 표지판을 읽는 사례
가상의 사람이 비 오는 거리에서 흐릿한 글자를 본다고 합시다. 주변에 버스 정류장이 있고 익숙한 노선의 이름이 보일 듯하면 이전 경험이 해석에 영향을 줄 수 있습니다. 가까이 다가가 다른 글자임을 확인하면 처음의 해석을 바꿉니다. 이 사례는 사전 정보와 새 관찰의 관계를 설명하기 위한 비유입니다. 실제 뇌의 어느 세포가 어떤 신호를 보냈는지를 이 경험만으로 측정한 것은 아닙니다.
베이지안 표현에서는 후보에 대한 사전 확률과 그 후보에서 관찰이 나타날 가능도를 결합해 관찰 후의 확률을 생각할 수 있습니다. 예를 들어 두 표지 A와 B의 사전 확률이 같고, 관찰한 무늬가 A에서는 0.8, B에서는 0.2의 확률로 나타난다고 가정하면 정규화한 사후 확률은 A가 0.8입니다. 이 수치는 계산 구조를 보이는 임의의 값입니다. 사람의 확신이 실제로 언제나 80퍼센트가 된다는 심리 실험 결과가 아닙니다.
사전 확률을 A 0.1, B 0.9로 바꾸면 같은 관찰에서도 A의 상대 가중치는 0.08, B는 0.18이 됩니다. 정규화하면 A는 약 0.31입니다. 관찰 내용이 같아도 이전 정보에 따라 해석이 달라지는 계산입니다. 이때 중요한 질문은 “뇌가 정말 이 숫자를 저장하는가”와 “이 수학이 행동의 경향을 설명하는가”가 다르다는 점입니다. 계산 수준의 설명과 생물학적 구현 수준의 설명을 구분해야 합니다.
5. 계층적 예측과 언어모델의 예측 비교
Rao와 Ballard의 시각 모형은 상위 수준의 예측과 하위 수준의 잔차를 주고받는 계층 구조를 연구했습니다. 이런 연구는 감각을 단순히 아래에서 위로 전달하는 과정만으로 보지 않는 관점을 제시합니다. Friston의 피질 반응 이론 역시 감각 입력의 원인을 추론하는 틀을 다룹니다. 논문에서 설정한 모형과 그 모형이 설명하려는 관찰의 범위를 읽어야 합니다. 하나의 모형이 모든 신경 현상을 설명한다고 확대할 수는 없습니다.
자기회귀 언어모델에서는 앞선 토큰을 조건으로 다음 토큰의 확률을 학습하는 목적을 생각할 수 있습니다. 여기의 예측 오차는 학습 목적함수와 데이터에 의해 정의됩니다. 감각 피질의 잔차 신호라는 가설과 같은 단어를 사용하더라도 대상과 시간 규모, 갱신 방식이 다를 수 있습니다. 사전 학습 중 가중치를 바꾸는 과정과 사용 중 문맥을 이용해 응답하는 과정도 분리해 설명해야 합니다.
유사성을 찾는 질문은 여전히 유용합니다. 두 체계가 불완전한 정보에서 후보를 비교하는지, 입력의 문맥이 결과에 영향을 주는지 살펴볼 수 있습니다. 다만 이 비교가 새로운 주장을 증명하는 데 사용되면 별도 근거가 필요합니다. 언어모델에 문맥을 추가하니 답이 바뀌었다는 사실만으로 인간과 같은 지각 메커니즘이나 자아가 있다는 결론은 나오지 않습니다. 비유는 연구 질문을 만들 수 있지만 실험을 대신하지 않습니다.
6. 이론의 예측을 검토하는 읽기 순서
논문을 읽을 때는 먼저 관찰 자료가 무엇인지 적습니다. 행동의 선택 비율인지, 신경세포의 활동인지, 영상 신호인지에 따라 추론 가능한 내용이 다릅니다. 다음으로 모형이 어떤 입력을 받아 무엇을 출력하는지 살핍니다. 마지막으로 다른 모형과 구별되는 예측이 무엇인지 확인합니다. 기존 관찰을 설명할 수 있다는 사실과 경쟁 설명보다 더 잘 예측했다는 사실은 구분할 수 있습니다.
예를 들어 기대한 자극과 다른 자극에서 반응이 커졌다는 관찰이 있어도 원인은 여러 가지일 수 있습니다. 새로운 자극에 대한 주의, 단순한 적응의 차이, 과제 요구가 영향을 줄 수 있습니다. 연구가 이런 대안을 어떤 비교 조건으로 다루었는지 확인해야 합니다. 모든 예상 밖 반응을 즉시 예측 오차의 단일 증거라고 부르면 이론이 틀릴 수 있는 조건이 흐려집니다.
자료를 설명하는 그림에서도 같은 주의가 필요합니다. 화살표로 예측과 오차를 나눈 도식은 개념 간 관계를 단순화한 표현입니다. 실제 뇌 연결을 촬영한 사진이나 특정 모델의 내부를 그대로 관찰한 결과와는 정보의 성격이 다릅니다. 도식의 선이 생물학적 연결을 뜻하는지 계산 흐름을 뜻하는지 범례를 읽고 해석하세요. 표현이 비슷한 그림 두 개가 같은 원리를 입증하지는 않습니다.
일상 적용에서는 “예상이 해석에 영향을 줄 수 있으니 관찰을 다시 확인한다” 정도의 질문을 남길 수 있습니다. 처음 본 내용을 사실과 추측으로 나누고 추가 정보가 들어오면 판단을 수정하는 독서 연습입니다. 이를 통해 뇌의 예측 오류를 교정하거나 건강 문제가 해결된다고 약속하지 않습니다. 이론의 가치를 인정하는 일과 모든 생활 경험을 그 이론으로만 설명하는 일은 다릅니다.
생성 모델을 이해하려는 독자라면 모델별 학습 목표를, 뇌 연구를 이해하려는 독자라면 실험 과제와 관찰 신호를 먼저 확인하세요. 그 뒤에 공통으로 사용할 수 있는 확률적 언어를 찾으면 용어의 유사성에 끌려 구현 차이를 놓치는 일을 줄일 수 있습니다. 비교의 결론은 “같다”라는 한 문장보다 어떤 수준에서 비슷하고 어느 지점에서 별도 증거가 필요한지 밝히는 형태가 적절합니다.
불확실성을 다루는 방식도 비교 항목입니다. 앞의 표지판 예시에서 글자가 완전히 가려졌다면 여러 후보를 남기는 것이 자연스럽습니다. 모델이 하나의 답을 출력하도록 요구받았다는 이유만으로 관찰이 충분해진 것은 아닙니다. 후보의 확률을 내부에서 표현하는 방식과 사용자에게 불확실성을 설명하는 방식도 다를 수 있습니다. 사람이 읽는 유창한 문장만 보고 계산 과정의 확신을 추정하지 말고, 필요한 정보가 실제 입력에 있었는지 확인하는 편이 낫습니다. 이 구분은 뇌와 AI의 동일성을 주장하지 않고도 비교에서 얻을 수 있는 실용적인 질문입니다.