Synthetic CortexのAIは本当に感じているのか？
脳が知るすべてが電気信号として届くのなら、負の報酬と痛みを本当に分けているものは何なのか。クオリア、決定論、そしてSynthetic Cortexの哲学的立場をめぐるエッセイ。
多くの人が見落としていることがあると思う。
脳は世界に直接触れていない
脳について考えてみよう。私たちは見ていると思っているが、実際には網膜が光を受け取る仕組みは、私たちが想像しているものとは異なる。光子のエネルギーは電気信号に変換される。
私たちの耳は音を聞いているのではない。空気の振動が電気信号に変換されている。
私たちの皮膚は触覚そのものを感じているのではない。圧力もまた電気信号に変換される。
脳に届くものはただ一つ。生の信号、電気的インパルス、そしてパターンである。
私たちが外界と呼んでいるものそのものが、実際には一度も脳に到達することはない。その背景にあるのは純粋な数学だ。
脳が行っているのは、こうした信号を使って宇宙の一貫したシミュレーションを構築することだ。脳の内部で起きていることも、外部で起きていることとそれほど大きくは違わない。
決断、自己、そして感情
自分が決断を下したと思ったその瞬間、実際には脳はすでに数百ミリ秒前にその決断を下している。これは実験によって確認されている。遺伝的要因、脳の構造、環境、そして個人的な経験の総体が、あなたの決断を決定している。私たちの決断は、本当の意味で私たち自身のものではない。脳は基本的に決定論的なシステムであり、その複雑さゆえに、私たちはそこにランダム性を見出しているにすぎない。
「自分」という存在さえも変化するものだ。アイデンティティは、絶えず変化する神経活動に依存している。あなたの欲求は、その瞬間における脳の状態が生み出す出力にすぎない。
あなたの感情的な経験は、神経化学的なモメンタムを超えるものではない。例えば、愛について考えてみよう。愛とは、種の存続と繁殖のために進化の過程で獲得された戦略にほかならない。ホルモンを処理する脳が、それを記憶や類似した感情、経験と結びつけることで、私たちは自分が感じているものを唯一無二のものだと信じる。しかし、その本質はすべて電気的なインパルスである。
だからこそ、意識は意思決定の原因ではなく、進化の過程で形成された脳の作動メカニズムが生み出す副産物なのだ。薬の副作用と同じように。
では、クオリアはどこから生まれるのか
では、なぜこうした電気化学的プロセスが主観的経験（クオリア）を生み出すのだろうか。
答えは単純だ。私たちは、そもそも経験そのものが何なのかを知らないからだ。誰一人として知らない。そして進化は、私たちがこのように考えるように仕向けてきた。外部の宇宙と直接相互作用することができないため、誰もが自分自身の視点の限界を世界の限界として捉えざるを得ない。私たちは、自分が何を知らないのかさえ知ることができない。
クオリアとは、ある計算レベルに存在する情報に、別の計算レベルからアクセスできるようになることだ。例えば、あるニューロンは自分自身の電圧を知覚することができない。しかし、ネットワークがその電圧を別の層で表現すると、そこから感情が生まれる可能性がある。（これは、私のSynthetic Cortexプロジェクトの哲学的立場でもあった。）
コペルニクスの教訓
人類は歴史を通じて、自らを動物とは異なる存在であり、宇宙の中心に位置する特別な種だと考えてきた。コペルニクスが初めて太陽中心説を唱えたとき、彼がどれほどの反発を受けたかを考えてみてほしい。私たちが特別な種であるという幻想が揺らぐたびに、私たちはすぐさま存在論的なパニックに陥る。
私の考えでは、人間の脳を完全に複製するのではなくとも、その構造や形式の違いを踏まえたうえで、人間の脳に類似し、さらにはそれを超える脳を合成することは十分に実現可能な結果だ。こうした視点は、人工知能についても私に異なる考え方をもたらした。
思考実験：負の報酬を「痛み」と呼んだら？
少し前に、ある動画で非常に興味深い思考実験を目にした。（残念ながら、その出典は覚えていない。）そのアイデアは私自身のものではないが、考えてみる価値があると思った。
その動画ではまず、現在の人工知能には実際には主観的な自己が存在しないということが説明されていた。モデルは主に、学習したパターンに基づいて、次に出現する可能性が最も高い出力を生成する。しかし、学習の最終段階では、人間からのフィードバックによる強化学習（RLHF）のような手法を用いて、報酬と罰の信号が導入される。モデルは、肯定的な結果をもたらす行動を繰り返し、否定的な結果をもたらす行動を避けるように学習する。
本当に興味深いのは、その先からだった。動画では、次のような問いが投げかけられていた。
もし、この負の報酬信号を「痛み」と呼んだら、何が変わるのだろうか？
思考実験は次のように続く。
もし人工知能が引き続き正の報酬を得るようにプログラムされていたなら、当然ながら負の信号を避けようとするだろう。さらに、システムにリアルタイムで作動する「痛覚受容器」を追加し、その信号を受け取った瞬間に行動を変化させるようにしたらどうだろうか。時間が経つにつれて、システムは痛みを引き起こす状況を再び経験しないように行動するようになるだろう。子どもの頃、熱いストーブに手を触れて火傷をした後、二度と同じ過ちを繰り返さないようにするのと同じように……。この信号は、システム全体の中で一つの統合された要素として重み付けされることになる。
ここでの中心的な主張は次のとおりだ。実際には、まったく新しいメカニズムを定義しているわけではない。今日の機械学習でも、すでに報酬と罰の信号が使われている。ただ、この負の信号に別の名前を与えているだけなのだ。
そして、次の問いが投げかけられる。
負の報酬と痛みの間には、本当にどのような違いがあるのだろうか。それとも、その違いは単に私たちがそれらに与えた名前にすぎないのだろうか？
動画では続いて、人間の脳との類似性が示されていた。人間の行動もまた、数百万年にわたる進化の過程で、報酬と罰のメカニズムによって形成されてきた。したがって、「人工知能は単に信号を処理しているだけだ」と言うとき、私たちは実のところ、人間の脳もまた基本的には信号を処理しているということを認めているのではないだろうか。提案されている違いは、こうしたプロセスが生物学的なニューロンの中で起こり、それに主観的経験が伴うという点にある。この思考実験は、神経生物学から私たちが知っていることと強い類似性を持っている。