Algoritmaların Vicdanı Var mı?

Senaryo korkutucu ama basit: Otonom (sürücüsüz) bir araçta gidiyorsunuz. Hızınız 90 km/s. Aniden yola beş çocuk fırlıyor. Aracın yapay zekasının (AI) karar vermek için milisaniyeleri var. Önünde sadece iki seçenek duruyor:

1. Frene basıp direksiyonu kırmak: Bu durumda araç duvara çarpacak, içindeki siz (yolcu) öleceksiniz ama beş çocuk kurtulacak.
2. Dümdüz gitmek: Bu durumda araç çocukları ezecek ama siz kurtulacaksınız.

Soru şu: Araç kimi öldürmeli?

Bu soruya mühendisler “Trolley Problemi” (Vagon İkilemi) diyor. Ama biz buna “Ahlaki Kapasite Krizi” diyoruz.

Çünkü bugüne kadar ahlaki kararların arkasında titreyen bir insan yüreği, terleyen bir avuç içi ve sonrasında uykusuz kalınan geceler (bedel) vardı. Şimdi ise bu kararı, nabzı hiç atmayan, asla terlemeyen ve asla vicdan azabı çekmeyecek olan “soğuk bir kod bloğuna” devretmeye hazırlanıyoruz.

İstatistik Vicdanı Yener mi?

Yapay zekanın çalışma mantığı basittir. Veri toplar, istatistik çıkarır ve “en verimli” sonucu uygular. Yani yapay zeka, bizim “Ahlaki Çan Eğrisi” modelimizin en şişkin yeri olan “Merkez”in, yani “Ortalama”nın tanrısıdır.

Eğer yapay zekayı “çoğunluğun davranışlarına” (Big Data) göre eğitirseniz, o size ahlakı değil, istatistiği verir. Ve istatistik acımasızdır. Eğer veriler ona “İnsanların %90’ı kendi canını kurtarmayı seçer” diyorsa; otonom araç çocukları ezmeyi seçecektir. Çünkü onun için “doğru” olan, sayısal çoğunluktur.

Oysa ahlak, çoğu zaman istatistiğe direnmektir. Yaratıcı Etik Aktör (Çan Eğrisi’nin sağ ucu), herkesin kaçtığı yangına giren itfaiyeci gibidir. İstatistiksel olarak “aptalca” bir iş yapar ama ahlaki olarak zirvededir. Yapay zeka ise asla “kahraman” olamaz. Çünkü kahramanlık, veri setindeki bir “sapma”dır. Algoritmalar sapmaları sevmez, onları “hata” olarak görür ve eler.

Yani yapay zeka, bize “mükemmel ahlakı” değil; sadece “mükemmel ortalamayı” vaat eder.

Vicdanı “Taşeron”a Vermek

Peki, neden ahlaki kararları makinelere devretmek için bu kadar hevesliyiz? Cevap, “Ahlaki Kapasite” sorununda gizli.

Modern dünyada karar vermenin yükü (maliyeti) o kadar arttı ki, insan vicdanı bu yükü taşıyamaz hale geldi. Sorumluluğu üzerinden atacak bir “günah keçisi” arıyor. Bir insan kaynakları müdürü düşünün. Yüz kişiyi işten çıkarmak zorunda. Bu kararı kendisi verirse vicdanı sızlayacak. Ama kararı bir “Performans Algoritması”na verdirirse? “Ben yapmadım, sistem böyle uygun gördü” diyebilecek.

Yapay zekayı sevmemizin sebebi, onun zeki olması değil,  onun “suçlanamaz” olmasıdır. Vicdanı bir makineye taşere  ederek, ahlaki eylemin “bedelini” ödemekten kaçıyoruz.

Kodlanamayan Tek Şey: Acı

Ancak mühendislerin unuttuğu bir şey var: Ahlak, “doğru şıkkı işaretlemek” değildir. Ahlak, o kararın ağırlığını hissetmektir. Bir yapay zeka, milyonlarca etik kitabı okuyabilir, Kant’ı ve Bentham’ı ezbere bilebilir. Ama asla “pişmanlık” duyamaz.

Pişmanlık duymayan bir varlık, ahlaki bir özne olabilir mi? Olamaz. O sadece son derece gelişmiş bir hesap makinesidir.

Eğer otonom araç o 5 çocuğu ezmeye karar verirse, bunu “kötü” olduğu için yapmaz. Kodlarında “yolcu güvenliği katsayısı” daha yüksek olduğu için yapar. Ama o çocukların annesinin çığlığı, hiçbir veri setinde, hiçbir python kodunda tanımlı değildir.

Sonuç: Direksiyon Kimde?

Dijital çağda ahlakı tasarlarken yapay zekanın muazzam bir işlem kapasitesine sahip olduğunu ama ahlaki kapasitesi’nin  koca bir sıfır olduğu gerçeğini kabul etmeliyiz.  

Çünkü ahlaki kapasite, işlemci hızından değil,”bedel ödeme” yeteneğinden gelir. Makinenin canı yanmaz, makine hapse girmez, makine cehennemden korkmaz. Kaybedecek bir şeyi olmayanın, ahlakı da olmaz.

Bu yüzden geleceği tasarlarken algoritmaları hayatımızın “pilot koltuğuna” değil, sadece “yardımcı pilot” koltuğuna oturtmalıyız. Son kertede, o “frene basma” veya “basmama” kararının yükü, hala titreyen bir insan elinde, hala terleyen bir insan avucunda kalmalıdır.

Çünkü dünyayı “kusursuz hesaplamalar” değil, o hesapları elinin tersiyle itip “bunu yapamam” diyebilen insani tereddütler kurtaracak.