Yapay Zeka İnsanlığın Sonunu Getirecek mi?

Konuşmacı olarak katıldığım bir panelin dinlenme arasında, dinleyicilerden biri yanıma gelip bu soruyu sormuştu. Üzerinde uzun uzun konuşulması gereken ve sadece teknoloji çerçevesinden bakarak cevaplanamayacak bu soruya yanıt vermekten o gün kaçınmıştım. Yakın çevremde de zaman zaman bu soruya muhatap olduğum için, beraber zihin jimnastiği yapalım istedim. 🧩

Biraz düşünelim. Biraz otoritelerin söylediklerine bakalım. Biraz bildiklerimizi gözden geçirelim. Biraz kulis bilgileri, hatta dedikodular. Sonra da hepsini harmanlayalım. Artık ne çıkarsa bahtımıza. 😊

Hinton “Evet” dedi

Geoffrey Hinton, bana göre (belki birçoğuna göre) yapay zekanın gelmiş geçmiş en büyük efsanesidir. Eğer Hinton doğmamış olsaydı, yapay zeka bugün ulaştığı seviyelere gelir miydi, tartışılır. Bu sürece katkıları nedeniyle geçen yıl Nobel Fizik Ödülü'nü alan Hinton, 2023'te Google'dan emekliye ayrıldığını belirttiği mesajının sonuna, insanların YZ konusunda çok dikkatli olması gerektiğini de eklemişti!

Aslında bu tartışmalar Hinton'ın açıklamasından önce, Terminator ve benzeri bilimkurgu yapımlarıyla başlamış; Stephen Hawking (RIP) ve Elon Musk'ın bazı açıklamalarıyla epeyce alevlenmişti. Hatta Musk, yapay zekayı “dibine kadar gördüğünü” söylemişti. Dipten neyi kastettiğini ve neden uyarılarda bulunduğunu yazının sonlarına doğru anlayacağız. 🤨

Tartışmaların en ateşli zamanlarında bu alanda çalışan bilim insanları, yapay (genel veya süper) zekayı tehdit olarak görmemiz için onun bilince sahip olması gerektiğini söylüyordu. “Bilince sahip olacak mı?” sorusunu cevaplarken ise ikiye ayrılmışlardı: yarısı “Evet”, diğer yarısı “Hayır, mümkün değil” diyordu.

Geçen yıl, Hinton ile yapılan bir röportajda yapay zekanın bilince sahip olup olmayacağı soruldu. Cevap çarpıcıydı: “EVET!” 🫣 Daha önce iki farklı görüşe sahip bilim insanlarının çoğunun da artık “Evet” ekseninde toplanmaya başladığını eklemeyi unutmayalım. 🫣

Bir de dedikodu…

“Bilinç kazanır mı?” konusunu sonlandırmadan önce bir dedikoduyu da inceleyelim; yazının başında dedikoduları da hesaba katacağımızı söylemiştik. 😇

2014'te Google'da bir danışma kurulu ile bazı çalışmalar başlatıldı. Kurulun adı “DeepMind Etik Kurulu” idi ve Google'ın DeepMind'ı satın almasının şartlarından biri olarak lanse edilmişti. Farklı disiplinlerden (❗ buraya dikkat) uzmanların katılımıyla kurulmuştu. Ancak ne kurul üyeleri ne de çalışmaların içeriği konusunda hiçbir zaman şeffaf olunmadı. Buraya kadarı doğrulanmış bilgi. Bir dedikoduya göre ise (bu kısmın doğrulanmamış olduğunu özellikle vurgulamak istiyorum) ekipte teologlar da vardı. Hmm! Bilinç? Teoloji? Neyse, buna fazla takılmayalım; dediğim gibi bu kısım kulis ve dedikodu.

Peki, YZ bilinç kazanırsa ne olur?

Bilinçli bir sistem, karar destek mekanizması olmaktan çıkar mı? Gayet olası. Kendini bir varlık olarak gören bir sistemin, kendi varlığının devamı için alacağı kararları önceden kestirmenin çok mümkün olmadığını düşünüyorum. Buradaki en büyük tehlike, öğrenmek için kullandığı veri setlerinde yer alan önyargılar.

Önyargı mı? Amaaan, ne kadar önemli olabilir ki?

2016'da yapılan bir çalışmada, 300 boyutlu word2vec modelinde kelimelerle matematiksel işlemler yapıldı. Sonuçlara bakalım mı?

Çünkü eğitimde kullanılan veri setindeki meslek vektörlerinde doktor, mühendis gibi meslekler erkek; hemşire, resepsiyonist gibi meslekler kadın eksenine yakındı. Klasik analoji formülü (w* = doctor − man + woman) uygulanınca “hemşire” en yüksek kosinüs benzerliğine sahip çıktı. Böylece “kadın = hemşire, erkek = doktor” klişesi sayısal olarak üretilmiş oldu.

Bitti mi? Hayır.

ABD'de, canlı kamera görüntülerindeki insan hareketlerinden suç işleme ihtimalini tespit etmeye yarasın diye geliştirilen YZ'nin birçok senaryoda hata yaptığına şahit olundu. (Tom Cruise'un kulaklarını çınlattınız mı?) Zira modelin eğitiminde kullanılan veri setinde ırk, yaş, cinsiyet ve kültür farklılıklarının insan davranışlarına etkisi göz ardı edilmişti. Bu eksiklik, modelin birçok sahnede hatalı çıktılar üretmesine neden oldu. Örnekler çok.

Önyargısız veri, ortak bir ahlak mümkün mü?

Peki, önyargılardan arındırılmış bir veri setiyle yapay zekayı eğitmek mümkün mü? Ya da ona ahlaki değerler kazandırmak?

Ahlaki değerlerden başlayalım. Hangi ahlak? Ünlü filozof Immanuel Kant'a göre ahlaki değerler evrenseldi. Birçok değer için bunu doğrulayabiliriz sanırım; örneğin cinayetin ahlaki kabul edildiği bir toplum bilmiyorum. Ama biraz derine indiğimizde, ahlaki değerlerin toplumdan topluma, zamandan zamana ve hatta insandan insana değişebildiğini görmek mümkün. Kölelik, orta çağ ve sonrasında yasal ve normal karşılanırken, günümüzde ahlaki değil, hatta suç. Alın size zamandan zamana değişim.

Hatta kişi ekseninde de. Çoğunuz duymuşsunuzdur; çok katılımlı bir gruba yapılan bir test:

“Demiryolu makas ayrımında görevli bir işçisiniz. Tren hızla geliyor. Makasa müdahale ederek trenin hangi hattan ilerleyeceğine siz karar vereceksiniz. Yolun birinde yaşlı bir kadın, diğerinde küçük bir çocuk var. Hangisini kurtarır, hangisini feda ederdiniz?”

Tahmin edeceğiniz üzere, grubun tamamı çocuğu kurtarıyor. Zira bir tarafta yeni filizlenen bir hayat var; diğeri, çoğu insana göre feda edilebilir.

İkinci soru: “Bu kez bir tarafta küçük bir çocuk, diğer tarafta üç yaşlı kadın var. Hangisi?” Cevaplar bölünüyor. Genç–yaşlı mukayesesine bir de can sayısı eklenince grubun bir kısmı çocuğu feda ediyor.

Sıkı durun, son soru: “Üç yaşlı kadından birinin anneniz olduğunu fark etseydiniz?” Hooop! Herkes çocuğu feda ediyor!

Değer yargıları toplumdan topluma, zamandan zamana ve kişiden kişiye değişir. Dolayısıyla YZ'yi hangi toplumun ya da kişilerin ahlaki değer yargılarına göre eğiteceksiniz?

Mümkün olduğunu varsayalım. Bilince sahip ve bilgiye aç bir sistem, daha fazla öğrenmek için inisiyatif kullanıp filtrelenmiş verilere ulaştığında yine önyargılara ve insanların bir kısmına ters gelen değerlere sahip olur mu? Evet, olur.

Kilit soru şu: Eğer yapacağı araştırmaların içinde insanlığın doğayı, dünyayı, kaynakları nasıl mahvettiğine ilişkin bilgiler de varsa ve YZ bunu, kendi varlığının (artık bilinçli ya) bir tehdidi olarak görürse… 👀🔥💣

YZ'nin bu seviyeye ulaşması mümkün mü?

Şu anda bile en fazla “reasoning” yapabilen ve çalışma mantığı bir sonraki kelimeyi tahmin etmekten ibaret modeller var. Daha doğrusu, biz öyle biliyoruz. Daha fazlası olur mu? Yoksa biraz komplo teorisi gibi mi geldi? Öyleyse alın size benden bir komplo teorisi: 🥸

OpenAI'ın ChatGPT'yi duyurmasından sonra, çok kısa aralıklarla rakipleri eşdeğer veya daha iyi çalışan alternatiflerini piyasaya sürdü. Elbette bu alanda tek çalışan OpenAI değildi. Ama bu modellerin birbiri ardına ortaya çıkması, aklınıza hiç “bu kadar hızlı ve kolay mı?” sorusunu getirdi mi? Bu durum, açıklanmayan, hazır ya da çalışmaları devam eden başka hangi seviyede YZ modellerine sahip oldukları sorusunu sorduruyor. Yani biz buzdağının sadece yüzeydeki kısmını mı görüyoruz? Kuantum hesaplamanın da devreye girmesiyle daha hangi sınırlar çok kolay aşılacak? (Ya da aşıldı?)

“Yapay zekayı kontrol eden dünyayı kontrol eder” stratejisi mi bu gizliliği doğuruyor?

Dipte neler var?

Ben, yazının başlığı olan soruya “Evet” veya “Hayır” demiyorum. Neden mi?

Yazının başında Elon Musk'ın açıklamalarından bahsetmiştik; “dibini” görmüştü hani. OpenAI'a dava açmış, ellerindeki çalışmaların açık kaynaklı olması gerektiğini bu tehlikeye dikkat çekerek savunmuştu. Hatta Sam Altman ile yaptığı bir e-posta yazışması basına sızdığında, mesajını “insanlığın kaderinin ……'in ellerine teslim edildiğini ve yanıldığını umduğunu” söyleyerek bitiriyordu. Maskelenen ismin kısalığına ve OpenAI üzerinde yatırımcı olmaktan kaynaklanan etkisine bakınca, o ismi tahmin etmek zor olmasa gerek.

Bunu neden anlattım? İşte bu yüzden o çok merak edilen soruya “Evet” ya da “Hayır” diyemiyorum. Musk, YZ'nin belli bir grubun kontrolü altında olmaması gerektiğini savunurken biraz şövalyeliğe soyunmuş gibi geliyor bana. Eğer bu bakış açısı yaygınlaşır ve baskın hâle gelirse, yüreklere bir parça su serpilebilir kanaatindeyim.

Eee, sonuç?

Dedim ya, cevap bende yok. Zaten kendini “YZ meraklısı” diye tarif eden birinden “Evet” yanıtı beklemiyordunuz herhalde. 😃 Tüm bildiklerimi ve düşündüklerimi anlattım; spekülatif konulara, dedikodulara bile girdim sizin için. Genelde biraz iç karartıcı tarafları öne çıkardığımın farkındayım. Ama kurulan etik kurulları ve ülkelerin yapay zeka politikalarında bu konunun atlandığını sanmayın.

Bundan sonrası size kalmış: düşünüp kendi cevabınızı üretmeniz gerek. Okuduklarınızla, düşündüklerinizle, inancınızla…