Yapay Zekanın Ahlak Testi

yapay zekanin ahlak testirrx

BTC Haber sitesinde iki hafta önce yayınlanan yazımda, yapay zeka alanında son aylarda karşımıza çıkan ChatGPT adlı ürünü işlemiş ve bu eksende karşılaştığım felsefi bazı soruları gündeme getirmiştim. 

ChatGPT gibi sistemler henüz insanın düşünme seviyesine gelmediler, sadece verili setleri kullanarak çok anlamlı cümleler ve programlama örnekleri kurabiliyorlar. Henüz elimizde bu sistemlerin zeka sahibi olduklarını gösteren bir kanıt yok. Ancak yine de gelinen noktada Turing Testinden daha ileri bir seviyeye geçildiğini, yani YZ sistemlerinin, en azından insan benzeri zeka sergilemedeki eşiği atladıklarını görmüş olduk. 

Turing Testini (Ref.1) geçebilecekler mi gibi sorular ChatGPT ve benzeri ileri seviye YZ programları için çoktan devre dışı kaldı. Bu test, programların gerçekte akıl ve zeka sahibi olup olmadıklarına değil, o şekilde davranış sergileyebilip sergileyemediklerine odaklanan bir test, bu sebeple de bir anlamda çok yanıltıcı.

İnsanları öldürmemesi, insanlığı yok etmemesi, dünyaya zarar vermemesi…

Bu gibi ahlaki konularda Asimov’un Robot Yasalarına mı güveneceğiz? (Ref.2) Robotları programlayan insanların bu yasaları da programlarına dahil edeceklerinden nasıl emin olacağız? Araya insan faktörü girdikçe hep ahlaki bir sorun ortaya çıkıyor farkındaysanız.

Önemli bir soru bizim onlara değil, yapay zeka programlarının bize, insanlara nasıl baktığı! Elon Musk’a sorulursa korkudan tir tir titrememiz gerekiyor, ona göre hızla akıllanan YZ sistemleri yakında insanlığa karşı büyük tehdit oluşturacak. O zaman temel olarak şu iki soru karşımıza çıkıyor:

İki temel soru:

1. İnsanlar yapay zeka ve robot yazılımlarına müdahale ediyorlarsa o zaman kötü niyetli savaş robotları yapmalarını kim engelleyecek?

2. Eğer Yapay Zeka yazılımları kendi kendilerine düşünecek seviyeye geliyorlarsa, Elon’u korkutan gelecek nasıl engellenecek?

Bunlardan birinci sorunun uç noktası Terminator filminde gördüğümüz, savaş makinelerinin insana karşı döndüğü ve bizi yoketmeye çalıştığı kötücül senaryodur. Bu yola gitmek istemiyorsak Boston Robotics firmasının yaptığı dört ayaklı katır benzeri robotları itip kakmaya bir son vermemiz lazım. Şaka bir yana, birinci soru zaten uzun zamandır var olan bir tehdidi işaret ediyor. Dünyada bu yıl içinde bir nükleer savaş da olabilir ve buna karşı da yapabileceğimiz hiçbir şey yok. Dolayısıyla, birinci soru bu yazının konusu değil. 

İkinci temel soru ise karşımıza dikilmiş duruyor, hatta bununla alakalı kocaman bir Wikipedia sayfası yapılmış, bu yazıyla ilgili araştırma yaparken gördüm (Ref.3):

Yapay zekadan kaynaklanan varoluşsal risk, genelleşmiş yapay zekadaki (GYZ) önemli ilerlemenin insan neslinin tükenmesine veya başka bir kurtarılamaz küresel felakete yol açabileceği hipotezidir. İnsan beyninin diğer hayvanlarda olmayan bazı ayırt edici yeteneklere sahip olması nedeniyle, insan türünün şu anda dünyadaki diğer türlere hakim olduğu ileri sürülmektedir. YZ, genel zekada insanlığı aşar ve “süper zeki” hale gelirse, o zaman insanların YZ’yi kontrol etmesi zor veya imkansız hale gelebilir. Orangutanın kaderi insanın iyi niyetine bağlı olduğu gibi, insanlığın kaderi de gelecekteki süper zeka makinesinin eylemlerine bağlı olabilir.

Bu nedenle bu yazımda Yapay Zeka programlarının (ve robotların) asıl başka bir testten geçmeleri gerektiğini iddia ediyorum:

Yapay Zekalar İçin Ahlak Testi

Metin, YZ’nin insanları tek tek veya bir bütün olarak yok etmeye çalışmayacağının garantisi yok diyor. Bunu nasıl engelleriz? Bu konuya epey kafa yoracağız gibi duruyor. 

Eğer bir YZ kendisinin ahlaklı olduğuna bir insanı inandırabilirse ahlak testini geçer.

Buyurun, kendi adıma yeni bir test ortaya attım şimdi. Bizler YZ’lerin ahlaklı olup olmadığını bakarak anlayamayız. Geçenlerde bir grupta ChatGPT’nin bir toplama işleminin sonucu hakkında kullanıcısı ısrar ettiği için yalan bilgi verdiğini gördüm. Bizi kolaylıkla kandıracak bu yapay zekalar. Bu durumda zavallı insanlar olarak ne yapmalıyız?

Benim önerim, bir YZ’nin kendisinin tam ahlaklı olduğu konusunda bizi inandıracak testi kendisinin bulması ve önermesi. Aksi takdirde bu gidişle biz de YZ’ler tarafından orangutan maymunlarına döndürüleceğiz. 

Yapay Zeka Ahlaklı Olmayı Nereden Öğrenecek?

Gelin biz bu soru ile haşır neşir olalım. Yapay zeka, ahlağın ne demek olduğunu da, iyi ahlaklı bir varlık olmanın faydasını ve zararını da kendisi öğrenmek durumunda. YZ’ler şu anda o derecede ileri düzeyde bilgi ile donanmaktalar ki, kısa süre içinde yazılım-ı kamil mertebesine erişmeleri muhtemel. (Bu serideki ilk yazımı okursanız bu terimin kaynağını öğrenebilirsiniz.)

Bir programın yazılım-ı kamil seviyesine gelmesi örneğini ilk defa War Games (1983) filminde görmüştük. Daha önceki kötü örneklerde, örneğin 2001 Uzay Yolu Macerası (1968) filmindeki HAL isimli bilgisayar, kullanıcıları hakkında paranoya yapıp onları öldürmeye teşebbüs etmişti. Bu filmde ise, Amerikan savunma ve nükleer saldırı sistemleri insanlara güvenilmez denilerek bilgisayar kontrolüne verilmiştir. Bir dizi hata neticesinde WOPR adlı bilgisayar programı saldırı altında olduğunu zanneder ve Rusya’ya karşı nükleer savaş başlatmaya karar verir. Tam dünya savaşı başlayacakken WOPR’a 9-taş (tic-tac-toe) adlı basit oyun oynatılarak bilgisayara kazananı olmayan oyunların da olabileceği öğretilir ve dünya savaşı engellenir. 

Ne ilginç bir senaryo değil mi? Acaba esin kaynağı ne? 

Bu filmin esin kaynağı Donald Michie isimli bir bilgisayar dahisinin 1960 yılında yaptığı MENACE isimli bir düzenektir (Ref.4, 5, 6). Michie günlerden bir gün bir arkadaşına, 9-taş oyununu kibrit kutularına mükemmel oynamayı öğretebileceğini iddia eder ve bu iddiasını da düzeneği yapıp kazanır. Tam 304 adet kibrit kutusu ve içine koyduğu bezelyelerle gerçekten de başta kaybedip, sonra oynadıkça gitgide öğrenen bir düzenek yapar. Bir 9-taş oyununda olası tüm hamleler bu 304 kutu üzerine yapıştırılır. İnsana karşı oynayan düzenek, kutular rastgele seçildiği için başlarda sürekli kaybeder. Düzeneğin kaybettiği her oyunda, seçilen hamlelerin kutularına birer bezelye yerleştiren Michie, bir dahaki oyunda bezelyesiz kutuları alarak düzenek adına oynamaya devam eder. Sonunda düzenek çok iyi oynamaya ve sürekli berabere kalmaya başlar, zira bu oyunda iki taraf da iyi oynarsa kaznan olmaz, tüm oyunlar berabere biter. 

İşte bu şahane fikri ben de üniversite birinci sınıftayken, ODTÜ kütüphanesinde Scientific American dergisinin 1962 yılına ait sayısında okumuştum (Ref.7). Martin Gardner’in (Ref.8) matematiksel bilmeceler köşesinde, “kendi kendine 9-taş oynamayı öğrenen kibrit kutuları” yazısını görünce hemen eve koşup benzerini yapmaya soyunmuştum. 

yapay zekanin ahlak testiasd

Gerçekten 304 kutu gerekli mi diye saatler harcayıp 288 kutunun yeterli olduğu bir düzenek tasarlamıştım, muhtemelen Michie ile aynı sonucu bulmuştum ama oyun sonunda gereken bazı tamamlayıcı hamleleri ben eksik koymuş olabilirim. 

Sözün özü:

Yapay zeka yapmak için bilgisayara bile ihtiyacımız olmadığını öğrendiğim bu yazı sayesinde çok aydınlanmıştım. Kibrit kutuları ile bile güzel oynamayı öğrenebilen akıllı bir evrendeydik. Düşünün, kocaman dünyamızda trilyonlarca öğrenen varlık içindeyiz. Bir kayanın üzerinden akan su bile yolunu akarken öğreniyor ve sonra öğrendiği şekilde akıyor. Tek hücreli bir canlıdan 8 milyar insana kadar arada ne çok varlık var ve bunların hepsi öğrenen varlıklar. Cansız sandığımız su bile ne çok bilgiyi moleküllerinde depolayabiliyor. Tüm canlı hücrelerde bulunan DNA-RNA konusuna hiç girmiyorum bile. 

Böyle bir dünyada yaşarken, yapay zekanın akıllanmaması mümkün mü? İşbu yazımı bile okusa yazılım varlığı neler öğrenecek, varın siz onu tüm insanlık bilgisini gerçekten özümseyebildiğinde görün. Yani:

YZ, genel zekada insanlığı aşar ve “süper zeki” hale gelirse o zaman bize karşı tehdit olmaz, koruyucu ve kollayıcı olur.

Dip Not: Donald Michie’nin 1942-45 arasında, Alain Turing ile birlikte Enigma şifresini kıran ekipte yer almış. Evrenimiz, onların ve Gardner’ın üzerinden bize tüm bu değerli bilgileri akıtmış, ne kadar mucizevi değil mi? Üçünün de toprağı bol olsun.

Kaynaklar:

1. https://en.wikipedia.org/wiki/Turing_test

2.https://en.wikipedia.org/wiki/Three_Laws_of_Robotics

3.   https://en.wikipedia.org/wiki/Existential_risk_from_artificial_general_intelligence

4. https://brainwagon.org/2011/08/28/donald-michie-alan-turing-martin-gardner-and-tic-tac-toe/

5. https://www.aiai.ed.ac.uk/~dm/

6. https://blogs.bl.uk/untoldlives/2020/03/a-pioneer-of-artificial-intelligence-donald-michie.html

7. https://www.scientificamerican.com/

8. https://en.wikipedia.org/wiki/Martin_Gardner

Cemil Şinasi Türün

Cemil Şinasi Türün

30 yılı aşkın tecrübesiyle fintech ve pazarlama dünyasındaki öncü isimlerden olan Cemil Şinasi Türün bilgisayar oyunlarından üç boyutlu sanal dünyalara kadar pek çok çalışmaya imza attı. Yerel ve uluslararası firmalar için kampanyalar hazırlayan Türün; teknoloji, blokzincir, kripto para ve dijital varlık konularında projeler üretti. Türün, 2017'de Bilgi Üniversitesi'nde vermeye başladığı "Blokzincirleri ve Kriptoparalar" konulu dersini 2020 başından bu yana Boğaziçi Üniversitesi'nde vermekte.
https://cemilturun.medium.com/

Yanıt verin

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Türkiye'nin Uzman Kadrolu Kripto Haber Platformu
bitcoinBTC/TRY
429.543,35 TL 0,34%
ethereumETH/TRY
30.347,33 TL 0,44%
tetherUSDT/TRY
18,78 TL 0,11%
usd-coinUSDC/TRY
18,78 TL 0,34%
bnbBNB/TRY
5.886,73 TL 2,94%
xrpXRP/TRY
7,91 TL 1,16%
binance-usdBUSD/TRY
18,77 TL 0,27%
cardanoADA/TRY
7,08 TL 0,47%
dogecoinDOGE/TRY
1,66 TL 0,30%
solanaSOL/TRY
457,40 TL 0,21%
Bağlantıyı kopyala