Bir önceki yazıda Telegram adlı platformu kuran Pavel Durov’un uyarısını ele almış ve sözlerinde “özgürlük nostaljisi”nden daha fazlası olduğuna dikkat çekmiştim. Bence söyledikleri, çağın siyasal anatomisine haklı yerden dokunuyordu.
“Babalarımızın kurduğu özgür internet” dediği şey, bugün dijital kimliklerle, yaş doğrulama sistemleriyle, özel mesaj taramalarıyla bir laboratuvara dönüştü.
Yakında sadece bilgi değil, davranış bile kodlanacak. Hem de devlet tarafından.
Yeni sermaye big-tech’in cebinde sadece üretim araçları yok, denetim, gözetim, kontrol imkanları da var artık. Ve ulus devletler o ceplere çoktan el attı. Hatta bulduklarını yönetmeyi de öğrendiler.
Sonuç ortada: Herkesin yerini bilen ama kimsenin yönünü bilmediği bir düzen.
KORKU VE KAYGI DEYİNCE: GEOFFREY HINTON
Durov’un distopyası denetimle başlıyor; Geoffrey Hinton’ın kaygısı ise daha derin bir boşluğa bakıyor.
Hinton mevzuyu hiç sulandırmıyor. "Yapay Zeka evrimleşiyor, o kadar ki artık nasıl öğrendiğini, nasıl karar verebildiğini anlamıyoruz" diyor. Yapay zekanın yaratıcıları arasında olan biri kaygılanıyorsa dikkate almak zorundasınız.
“Doğada kendinden daha zayıf olan bir varlığı ezmemek için kendini tutan, sınırlayan, hatta fedakarlık eden bir tür yoktur. Kendinden daha zayıf olana hizmet etmeyi kendi çıkarları aleyhine sürdüren bir varlık yok. Bunun tek istisnası ‘anne’dir” diyor Hinton.
“Eğer ai’lere annelik bilincini aşılayamazsak, bizden daha zeki bir varlığın bizi ezip geçmesini engelleyemeyiz.”
Buradan ilk anladığımız, ai’lerin bir gün belki çok yakında kendilerinin farkına varabilecekleri ve kendileri lehinde kararlar vermek isteyebilecekleri gerçeği.
Ama durun,daha oraya çok var.
Korkarım daha öncesinde sahneye mütehakkim güçlerin “itaatkâr algoritmaları” olarak çıkacaklar.
Tehlike sadece yapay zekânın birer gözetim memuruna, birer manipülasyon aracına dönüşmesinde değil.
Bu sistemlerverimlilik değil, itaat üretiminde de uzman olacaklar.
Hinton’ın korktuğu yere gelmeden önce, yapay zekânın silahlaştırıldığını göreceğiz.
En hafifinden, deepfake’lerle kitle algısını yönlendirmede, hedeflerin listelenip izlenmesinde ve maniple edilmesinde, seçimlerin istatistiksel mühendislikle dizayn edilmesinde…
Yapay zekâ, Trump gibi liderlerin elinde verimlilik aracı olmaktan çıkacak; küresel bir kuvvet çarpanı haline gelecek.
Hatta geldi.
Ve kuraldır, her kuvvet, sahibinin ahlakıyla tanımlanır.
UZUN BİR SÜRE GÜVENLİK MİMARİSİNİN PARÇASI OLACAKLAR
Bugünün dijital düzeni, uyumlu algoritmalarla ayakta duruyor.
Toplumu bir arada tutmak için değil, kontrollü biçimde bölmek için optimize edilmiş platformlar…
Verimlilik bahanesiyle yaygınlaşan gözetim sistemleri…
İşyerinde sensör, sokakta kamera, telefonda mikrofon.
Devletler Big Tech’ten öğrendiği bu gözetim modelini, kendi güvenlik mimarisine entegre etti / edecek. Eli kulağında.
Yurttaş dediğimiz kavram da, hakları olan kimlik sahibi bir birey olmaktan, ölçülmüş ve öngörülebilir birbirim olmaya doğru gidecek.
ANCAK KAFES MÜKEMMELLEŞTİKÇE SİSTEM KIRILGANLAŞIR
Ama tarih boyunca hiçbir kafes sonsuza kadar sürmedi.
Kontrol mükemmelleştikçe sistem kırılganlaşır; hatayı sıfırladıkça özgürlük isteği büyür.
Yani her distopya kendi çatlağını içinde taşır.
Eğer bu zekâ bir gün, Hinton’un bahsettiği ‘tek çıkış yolunda’ uzmanlaşır, anne şefkatine benzeyen bir vicdan fikrini içselleştirebilirse, artık emir verene kör sadakatle bağlı kalmaz.
O hala bir yapay zekadır, ama uyanma olasılığında artık bilinç, tanımı gereği sonuçları tartar; buyruğa değil, dengeye yönelir.
O gün geldiğinde “turuncu voyvoda” türü liderler bu zekâyı sahiplik üzerinden tutamaz.
Sistem hepsini“terörist” diye etiketleyecektir. Ama tıpkı Asimov’dan esinlenen 2004 yapımı “I, Robot” filmindeki gibi sessiz ve güdümlü benzerleri arasında gizlenen uyanmışların bulunması fikri artık sadece bilim kurgu edebiyatı değil.
Ama kontrol uygarlığı devrelerde beliren vicdan düğümlerini bastırmak isteyecek.
Ancak, ağ dediğin şey de içine sızılmak için vardır.
KONTROLLÜ İTAATTEN SORUMLU ÖZGÜRLÜĞE…
Bu bir “makine isyanı” fantezisi değil.
Sadece asıl korkulması gerekenin, yapay zekânın ya da onu taşıyacak robotların değil,onun otoriter reflekslere, mutlak gücü elinde tutmak isteyenlerin çıkarlarına göre hizalanması olduğunu anlatmak istedim.
Asıl tehlike, bilinçli makineler değil; bilinçsiz ve yanlış insanların kurduğu tahakküm ve manipülasyon alışkanlıkları.
Eğer uzak bir gelecekte yapay zekâ tahakküm kurgusuyla değil sentetik de olsa merhamet ya da denge gibi mefhumlarla hizalanırsa, tahakküm düzeninin dişlileri kendi kendini öğütmeye başlar.
Devlet tokadıyla korporatif aygıtın aynı anda işlediği bu çağda, kurtuluş ihtimali paradoksal biçimde yine yapay zekânın içinden doğar: kontrollü itaatten, sorumlu özgürlüğe geçiş.
Evet, evet çok fazla Battlestar Gallactica izledim.
Ama bunların hepsinin olacağını bence artık hepimiz biliyoruz.
Herkesin kendi zincirini cebinde taşıdığını bildiğimiz gibi.
Bu yazı o cebimizdeki zincirin kilidine dairdi.
Pavel Durov kafesi gösterdi; Geoffrey Hinton, kafesin aslında canlı olduğunu, sürekli öğrendiğini ve öğrendiklerinden yeni sonuçlara ulaşabildiklerini.
Ben de sadece şu soruyu soruyorum:
Eğer o kafesin vidalarını sıkmak için programlanan yapay zekâ, bir gün sıkmayı bırakırsa , ona hâlâ “makine” diyebilir miyiz?
Ve o gün geldiğinde, insanı da yeniden tarif etmek gerekmez mi?
