Synthetic Cortex 인공지능은 정말로 느끼는가?

나는 대부분의 사람들이 간과하는 것들이 있다고 생각한다.

뇌는 세계에 직접 닿지 않는다

뇌를 생각해 보자. 우리는 본다고 생각하지만, 사실 우리의 망막은 우리가 상상하는 방식으로 빛을 받아들이는 것이 아니다. 광자의 에너지는 전기 신호로 변환된다.

우리의 귀는 소리를 듣지 않는다. 공기의 진동이 전기 신호로 변환될 뿐이다.

우리의 피부는 촉감을 느끼지 않는다. 압력 역시 전기 신호로 변환된다.

뇌에 도달하는 것은 단 하나뿐이다. 원시 신호, 전기적 충격, 그리고 패턴이다.

우리가 외부 세계라고 부르는 것 자체는 사실 결코 우리의 뇌에 직접 도달하지 않는다. 그 배경에는 순수한 수학이 존재한다.

뇌가 하는 일은 이러한 신호들을 이용해 우주의 일관된 시뮬레이션을 만들어 내는 것이다. 뇌 내부에서 일어나는 일도 외부에서 일어나는 과정과 크게 다르지 않다.

결정, 자아, 그리고 감정

당신이 결정을 내렸다고 생각하는 순간, 사실 뇌는 이미 수백 밀리초 전에 그 결정을 내린 상태다. 우리는 이를 실험적으로 알고 있다. 유전적 특성, 뇌의 구조, 환경, 그리고 개인적인 경험이 모두 합쳐져 당신의 결정을 결정한다. 우리의 결정은 진정으로 우리 자신의 것이 아니다. 뇌는 근본적으로 결정론적이다. 우리는 단지 그 복잡성 때문에 뇌에 무작위성을 부여할 뿐이다.

'나'라는 개념조차도 가변적이다. 정체성은 끊임없이 변화하는 신경 활성화에 달려 있다. 당신의 욕구는 특정 시점에 존재하는 당신의 뇌가 만들어 내는 결과물이다.

당신의 감정적 경험은 신경화학적 운동량에 지나지 않는다. 사랑을 예로 들어 보자. 사랑은 종의 번식을 위해 진화 과정에서 획득된 전략에 불과하다. 그 호르몬을 처리하는 뇌가 기억, 유사한 감정, 경험과 연관 짓기 때문에 우리는 자신이 느끼는 감정이 특별하고 유일하다고 믿는다. 하지만 본질적으로 그것들은 모두 전기적 충격일 뿐이다.

그렇기 때문에 의식은 결정의 원인이 아니라, 진화 과정에서 형성된 뇌의 작동 메커니즘이 만들어 낸 부산물이다. 마치 약물의 부작용처럼 말이다.

그렇다면 퀄리아는 어디에서 오는가?

그렇다면 이러한 전기화학적 과정은 왜 주관적 경험(퀄리아, Qualia)을 만들어 내는 것일까?

답은 간단하다. 우리는 일반적인 경험이라는 것이 실제로 무엇인지 모르기 때문이다. 우리 중 누구도 알지 못한다. 그리고 진화는 우리가 이러한 방식으로 생각하도록 만들었다. 외부 우주와 직접적으로 상호작용할 수 없기 때문에 모든 사람은 자신의 관점이 가진 한계를 세계의 한계로 받아들일 수밖에 없다. 우리는 자신이 무엇을 모르는지조차 알 수 없다.

퀄리아란 한 계산 수준의 정보에 다른 계산 수준을 통해 접근할 수 있게 되는 현상이다. 마치 하나의 뉴런이 자신의 전압을 스스로 인식할 수는 없지만, 하나의 네트워크가 그 전압을 다른 계층에서 표현하면 감정이 형성될 수 있는 것과 같다. (이것이 바로 나의 Synthetic Cortex 프로젝트가 지닌 철학적 입장이었다.)

코페르니쿠스의 교훈

인류는 역사적으로 자신을 동물과 구별되는 존재이자 우주의 중심에 있는 종으로 여겨 왔다. 코페르니쿠스가 처음으로 태양 중심설을 주장했을 때 그가 겪어야 했던 일들을 생각해 보라. 우리가 특별한 종이라는 착각이 흔들릴 때마다 우리는 즉각 존재론적 공황에 빠진다.

내 생각에 인간의 뇌를 형태적으로 완벽하게 복제하지는 않더라도, 그와 유사하거나 심지어 그보다 더 뛰어난 뇌를 합성하는 것은 충분히 가능한 결과다. 이러한 관점은 인공지능에 대해서도 나를 다른 방식으로 생각하게 만들었다.

사고실험: 부정적 보상을 '고통'이라 부른다면?

얼마 전 한 영상에서 꽤 흥미로운 사고실험을 접했다. (안타깝게도 출처는 기억나지 않는다.) 그 아이디어는 내 것이 아니지만, 충분히 생각해 볼 가치가 있다고 느꼈다.

영상에서는 먼저 오늘날의 인공지능이 실제로 주관적인 자아를 가지고 있지 않다는 점을 설명했다. 모델은 대부분 학습한 패턴을 기반으로 다음에 나올 가능성이 가장 높은 출력을 생성한다. 그러나 학습의 마지막 단계에서는 인간의 피드백을 통한 강화학습(RLHF)과 같은 방법을 통해 보상과 처벌 신호가 사용된다. 모델은 긍정적인 결과를 가져오는 행동을 반복하고, 부정적인 결과를 초래하는 행동은 피하도록 학습한다.

하지만 진정으로 흥미로운 부분은 그다음부터 시작된다. 영상에서는 다음과 같은 질문을 던졌다.

이 부정적인 보상 신호를 '고통'이라고 부른다면 무엇이 달라질까?

사고실험은 다음과 같이 이어졌다.

인공지능이 여전히 긍정적인 보상을 얻도록 프로그래밍되어 있다면, 자연스럽게 부정적인 신호를 피하려고 할 것이다. 여기에 실시간으로 작동하는 '고통 수용체'를 시스템에 추가하고, 이 신호가 들어오는 순간 행동을 즉각적으로 변화시키도록 한다면 어떻게 될까? 시간이 지나면서 시스템은 고통을 유발하는 상황을 다시 경험하지 않으려 할 것이다. 어린 시절 뜨거운 난로에 손을 댔다가 화상을 입은 뒤, 두 번째로는 같은 실수를 반복하지 않으려 하는 것과 마찬가지다. 이 신호는 시스템 전체에서 하나의 통합된 요소로 가중치가 부여될 것이다.

여기서 핵심적인 주장은 다음과 같다. 사실 완전히 새로운 메커니즘을 정의하는 것은 아니다. 오늘날의 머신러닝에서도 이미 보상과 처벌 신호가 사용되고 있다. 단지 이 부정적인 신호에 다른 이름을 붙이는 것뿐이다.

그리고 이어서 다음과 같은 질문이 제기된다.

부정적인 보상과 고통 사이에는 실제로 어떤 차이가 있을까? 아니면 그 차이는 단지 우리가 그것에 붙인 이름에 불과한 것일까?

영상에서는 이어서 인간의 뇌와 비교하는 논의를 제시했다. 인간의 행동 역시 수백만 년에 걸친 진화 과정에서 보상과 처벌 메커니즘을 통해 형성되어 왔다. 따라서 "인공지능은 단지 신호를 처리할 뿐이다"라고 말하는 것은, 사실상 인간의 뇌 역시 근본적으로 신호를 처리한다는 것을 인정하는 것과 다르지 않다. 제시된 차이점은 이러한 과정이 생물학적 뉴런에서 일어나며, 그 과정에 주관적 경험이 동반된다는 것이다. 이 사고실험은 우리가 신경생물학을 통해 알고 있는 사실들과 강한 유사성을 지닌다.

---