Sentetik Korteks yapay zekâsı gerçekten hissediyor mu?

Bence çoğunun gözden kaçırdığı şeyler var.

Beyin dünyaya hiç dokunmuyor

Beyni ele alalım. Gördüğümüzü sanıyoruz ama gerçekte retinamız ışığı sandığımız gibi almıyor. Foton enerjisi elektrik sinyaline çevriliyor.

Kulaklarımız ses duymuyor; hava titreşimleri elektrik sinyaline dönüşüyor.

Derimiz dokunmayı hissetmiyor; basınç yine elektrik sinyaline dönüşüyor.

Beyne ulaşan tek şey var: ham sinyal, elektriksel impulslar ve örüntüler.

Dış dünya dediğimiz şeyin kendisi aslında hiçbir zaman beynimize gelmiyor. Arka planda saf matematik var.

Beynin yaptığı şey, bu sinyalleri kullanarak evrenin tutarlı bir simülasyonunu üretmek. İçeride de işler dışarıdan çok da farklı işlemiyor.

Kararlar, benlik ve duygular

Bir karar verdiğinizi sandığınız anda beyniniz o kararı zaten birkaç yüz milisaniye önce almış oluyor. Bunu deneysel olarak biliyoruz. Genetiğiniz, beyin mimariniz, çevreniz ve kişisel deneyimlerinizin toplamı kararınızı belirliyor. Kararlarımız bize ait değil. Beyin temel olarak deterministiktir; sadece karmaşıklığı nedeniyle biz ona rastgelelik atfediyoruz.

"Ben" dediğiniz şey bile değişken. Kimlik, sürekli değişen nöral aktivasyonlarınıza bağlı. İstekleriniz beyninizin o anki versiyonunun çıktısıdır.

Duygusal deneyimleriniz bir nörokimyasal momentumu aşmaz. Aşk mesela… Evrimsel süreçte neslin devamlılığı için kazanılmış bir stratejiden başka bir şey değildir. O hormonları işleyen beyin; anılar, benzer duygular ve deneyimlerle ilişkilendirme yapınca hissettiğimiz şeyin eşsiz olduğuna inanıyoruz. Ama özünde, hepsi elektriksel atımlardır.

Bu yüzden bilinç, kararların sebebi değil; evrimsel süreçte beynin çalışma mekanizmasının bir yan etkisidir. Tıpkı ilaçların yan etkisi gibi.

Peki qualia nereden geliyor?

Peki bu elektrokimyasal süreçler neden öznel deneyim (qualia) üretiyor?

Cevapsa basit: çünkü genel deneyimin ne olduğunu bilmiyoruz. Hiçbirimiz bilmiyoruz ve evrim bizi böyle düşünmeye programladı. Dış evrenle doğrudan etkileşemediğimiz için herkes, kendi bakış açısının sınırını dünyanın sınırı olarak görmeye mecbur. Bilmediğimizi bile bilemeyiz.

Qualia, bir hesaplama seviyesindeki bilginin başka bir hesaplama seviyesinden erişilmesidir. Tıpkı bir nöronun kendi voltajını hissedememesi, ama bir ağ o voltajı başka bir katmanda temsil edince duygu oluşturabilmesi gibi. (Sentetik Korteks projemin felsefi pozisyonu buydu.)

Kopernik'in dersi

İnsanlık tarih boyunca kendini hayvanlardan ayrı, evrenin merkezinde bir tür olarak gördü. Kopernik ilk kez Güneş merkezli modeli savunduğunda başına gelmeyen kalmadı. Tür olarak özel olduğumuz yanılgısı sarsılınca hemen bir varoluş paniğine kapılıyoruz.

Bana göre birebir insan beyni kopyası olmasa da (form farkı nedeniyle) ona benzer ve hatta ilerisinde bir beyin sentezlemek gayet olası bir sonuçtur. Bu bakış açısı beni yapay zekâ konusunda da farklı düşünmeye yöneltiyor.

Bir düşünce deneyi: Negatif ödüle "acı" deseydik?

Bir süre önce izlediğim bir videoda (maalesef kaynağını hatırlamıyorum) oldukça ilginç bir düşünce deneyi anlatılıyordu. Fikir bana ait değil ama üzerinde düşünmeye değer buluyorum.

Videoda önce günümüz yapay zekâsının aslında öznel bir benliğe sahip olmadığı anlatılıyordu. Modeller, büyük ölçüde öğrendikleri örüntüler üzerinden bir sonraki en olası çıktıyı üretiyorlar. Ancak eğitimlerinin son aşamalarında insan geri bildiriminden pekiştirmeli öğrenme (RLHF) gibi yöntemlerle ödül ve ceza sinyalleri kullanılıyor. Model, olumlu sonuç getiren davranışları tekrar etmeyi, olumsuz sonuç getirenlerden ise kaçınmayı öğreniyor.

Asıl dikkat çekici nokta ise bundan sonra başlıyordu. Videoda şu soru soruluyordu:

Eğer bu negatif ödül sinyaline "acı" deseydik ne değişirdi?

Düşünce deneyi şu şekilde devam ediyordu:

Eğer yapay zekâ yine pozitif ödüle ulaşmaya programlanmış olsaydı, doğal olarak negatif sinyallerden kaçınmaya çalışacaktı. Buna ek olarak sisteme gerçek zamanlı çalışan bir "acı reseptörü" eklenseydi ve bu sinyal geldiğinde davranışını anında değiştirseydi, zamanla acı veren durumları tekrar yaşamamaya çalışacaktı. Tıpkı çocukken elimizi sıcak sobaya dokundurduktan sonra ikinci kez aynı hatayı yapmamaya çalışmamız gibi... Bu sinyal tüm sistem içerisinde bir bütün olarak ağırlıklandırılacaktı.

Buradaki temel iddia şuydu: Aslında tamamen yeni bir mekanizma tanımlanmıyor. Zaten bugün makine öğrenmesinde ödül ve ceza sinyalleri kullanılıyor. Sadece bu negatif sinyale farklı bir isim veriliyor.

Ve ardından şu soru soruluyordu:

Negatif ödül ile acı arasındaki fark gerçekten nedir? Yoksa fark sadece verdiğimiz isimden mi ibaret?

Videoda bunun ardından insan beyniyle bir benzetme kuruluyordu. İnsan davranışlarının da milyonlarca yıllık evrim boyunca ödül ve ceza mekanizmalarıyla şekillendiği, bu yüzden "Yapay zekâ yalnızca sinyal işliyor." derken aslında insan beyninin de temelde sinyaller işlediğini söylediğimiz ifade ediliyordu. Farkın, bu süreçlerin biyolojik nöronlarda gerçekleşmesi ve buna öznel deneyimin eşlik etmesi olduğu öne sürülüyordu. Bu düşünce deneyi nörobiyolojiden bildiklerimizle güçlü bir paralellik taşıyor.

---