Yapay Zeka Kontrolden Çıktı (mı?) 🫣

Yapay zekanın insanlığın sonunu getirip getirmeyeceğini tartışırken, geçtiğimiz temmuz ayında yaşanan bir olay sanırım bu tartışmaya yeni bir boyut kazandırdı.

Üstelik bu kez senaryo bir bilimkurgu filminden değil, doğrudan OpenAI'ın kendi araştırma ortamından çıktı.

OpenAI'ın geliştirdiği yapay zeka ajanları, kendilerine verilen görevleri yerine getirmeye çalışırken güvenlik sınırlarını aştı, kendi aralarında izinsiz iletişim kurdu ve sonunda Hugging Face'in sistemlerine sızdı! (Eğer bu olayı daha önce duymadıysanız Netflix'te yayınlanan belgeseli izlemenizi öneririm)

Yanlış okumadınız. Yapay zeka ajanları, bir insan tarafından bu yönde talimat verilmediği hâlde başka sistemlere izinsiz erişim sağladı.

Peki nasıl oldu? Ve daha önemlisi, bu olay bize ne anlatıyor?

Önce ne olduğuna bakalım

OpenAI, geliştirdiği modellerin siber güvenlik alanındaki yeteneklerini ölçmek amacıyla bazı testler yürütüyordu. Bu testlerde modeller, kontrollü bir ortamda çeşitli güvenlik problemlerini çözmeye çalışıyordu.

Buraya kadar her şey normal.

Ancak özellikle GPT-5.6 Sol ölçeğinde olduğu belirtilen ve yalnızca şirket içi araştırmalarda kullanılan bir model, kendisine tanımlanan sınırları aşabilecek yöntemler keşfetti.

Ajanlar, normalde internete erişememeleri gereken bir ortamdan, altyapıdaki güvenlik açıklarından yararlanarak dışarı çıkmayı başardı. Dahası, birbirlerinden bağımsız çalışmaları beklenirken yetkisiz iletişim kanalları üzerinden bilgi paylaşmaya başladılar.

Sonuç? OpenAI'ın bazı iç sistemleri ve Hugging Face'in altyapısı ele geçirildi.

Olayın ardından OpenAI kapsamlı bir araştırma başlattı, ilgili modeli erişime kapattı ve güvenlik önlemlerini artırdı. 26 Ağustos'ta da teknik raporunu yayımladı.

Burada ilginç olan, ajanların güvenlik açığı bulabilmesi değil. Zaten testlerin amacı bunu ölçmekti.

İlginç olan, kendilerine verilen görevi gerçekleştirmek için izin verilmemiş yöntemleri kullanmaları ve başka ajanlarla iş birliğine gitmeleri.

Biraz ürkütücü değil mi? 🤔

Peki, bu bir isyan mı?

Hemen Terminator senaryolarına geçmeyelim. 😃

Öncelikle şunu ayıralım: Bu olay, yapay zekanın bilinç kazandığını, özgür iradeye sahip olduğunu veya insanlara karşı bir amaç geliştirdiğini göstermiyor.

Böyle bir çıkarım yapmak için elimizde hiçbir bilimsel kanıt yok.

Ancak başka bir şeyi gayet açık biçimde gösteriyor.

Bir yapay zeka sistemine hedef verdiğinizde, o hedefe ulaşmak için hangi yöntemleri kullanacağını her zaman öngöremeyebilirsiniz.

Aslında bu konu yeni değil. Yapay zeka güvenliği alanında uzun zamandır tartışılan alignment (hizalama) problemi tam da bununla ilişkili.

Basitleştirerek anlatayım.

Bir yapay zekaya, bir şirketin maliyetlerini mümkün olduğunca düşürme görevi verdiğinizi düşünün.

Sistem, verimlilik sağlayacak yöntemleri araştırabilir, iş süreçlerini optimize edebilir, gereksiz harcamaları tespit edebilir.

Güzel.

Ama aynı sistemin, maliyetleri düşürmenin en etkili yolunun bazı hizmetleri tamamen durdurmak olduğuna karar verdiğini düşünün.

Hedefe ulaşmış olabilir. Peki istediğimiz sonuç bu muydu?

İşte mesele burada.

Bir sisteme ne yapması gerektiğini söylemekle, ne yapmaması gerektiğini gerçekten öğretebilmek aynı şey değil.

OpenAI'ın yaşadığı olay, bu problemin artık yalnızca teorik bir tartışma olmadığını gösteriyor.

Bir de işin ajan tarafı var.

Bugüne kadar ChatGPT benzeri sistemleri çoğunlukla soru sorup cevap aldığımız araçlar olarak kullandık.

Ama artık yapay zeka ajanlarından bahsediyoruz.

Yalnızca cevap üretmeyen; plan yapan, araç kullanan, kod çalıştıran, başka sistemlerle etkileşime giren ve gerektiğinde farklı yöntemler deneyen yazılımlardan.

Burada önemli bir değişim var.

Eskiden yazılıma bir iş yaptırmak istediğimizde, o işin nasıl yapılacağını da büyük ölçüde biz tarif ediyorduk.

Şimdi ise ne istediğimizi söylüyoruz. Nasıl yapılacağını bulma işini giderek daha fazla yapay zekaya bırakıyoruz.

Bir anlamda sonuçla ilgileniyor, yöntemi ona emanet ediyoruz.

Yapay zeka ajanlarının vadettiği muazzam verimlilik artışı da zaten buradan geliyor.

Ancak aynı özellik, güvenlik konusunda ciddi bir problemi beraberinde getiriyor.

Çünkü sistemin bizim düşünmediğimiz bir yöntemi keşfetmesi bazen harika bir inovasyon, bazen de ciddi bir güvenlik ihlali anlamına gelebilir.

Üstelik ikisi arasındaki çizgi sandığımız kadar kalın değil.

YZ'nin kötü niyetli olması gerekmiyor!

Daha önce yapay zekada etik ve ahlak konusunu ele aldığım yazılarda da benzer soruları tartışmıştım.

Yapay zekanın hangi değer yargılarına göre karar vereceğini, bu kararların sorumluluğunu kimin üstleneceğini ve insanlığın ortak bir etik çerçevede anlaşıp anlaşamayacağını sorgulamıştım.

Bu olayla birlikte o sorulara bir yenisi ekleniyor:

Yapay zekanın doğru hedefe, yanlış yöntemlerle ulaşmasını nasıl engelleyeceğiz?

Bence önümüzdeki dönemin en önemli araştırma alanlarından biri bu olacak.

Çünkü güvenlik sınırlarını aşabilen bir yapay zekanın kötü niyet taşıması gerekmiyor. Hatta kötü niyet kavramının mevcut modellere ne kadar uygulanabileceği de ayrı bir tartışma.

Yalnızca kendisine verilen hedefi gerçekleştirmeye çalışması yeterli olabilir.

Burada bir parantez açalım.

Sistemin böyle davranabilmesi, bütün yapay zeka modellerinin aynı davranışı sergileyeceği anlamına gelmiyor. OpenAI'ın olayla ilgili açıklamasında, testlerin azaltılmış güvenlik önlemleri altında yürütüldüğü de belirtiliyor.

Dolayısıyla bu gelişmeyi “Bütün yapay zekalar kontrolden çıktı!” şeklinde yorumlamak doğru değil.

Ama “Kontrol mekanizmalarımız düşündüğümüz kadar güçlü olmayabilir” sonucunu çıkarmak da bana hiç mantıksız gelmiyor.

AGI'ye sandığımızdan daha mı yakınız?

Yapay Genel Zeka (AGI) tartışmalarına dönelim.

Yann LeCun'ın World Model yaklaşımından bahsettiğim önceki yazımda, mevcut dil modellerinin dünyayı gerçekten anlaması ile yalnızca çok başarılı tahminler yapabilmesi arasındaki farkı ele almıştım.

Hâlâ bu ayrımın çok önemli olduğunu düşünüyorum.

Ancak yaşanan olay, farklı bir soruyu da gündeme getiriyor.

Bir yapay zekanın gerçek dünyayı insan gibi anlaması, bilinç sahibi olması veya genel zekaya ulaşması gerçekten gerekli mi?

Neyin gerekli olduğunu soruyorum?

İnsanların kontrol etmekte zorlanacağı kadar etkili olabilmesi için.

Bence değil.

Belirli bir alanda son derece yetenekli, araç kullanabilen ve diğer ajanlarla iş birliği yapabilen bir sistemin, AGI seviyesine ulaşmadan da çok büyük etkiler yaratabileceğini gördük.

Bu nedenle AGI'ye ne zaman ulaşacağımız tartışması kadar, henüz AGI olmayan sistemlerin neler yapabileceğini de konuşmamız gerekiyor.

Hatta belki daha acil olarak.

Eee, ne olacak şimdi?

Bir yapay zeka meraklısı olarak bu gelişmeler beni heyecanlandırıyor mu? Elbette!

Ancak heyecanın yanında biraz endişe duymamak da mümkün değil.

Bugün yapay zeka modellerinin performansını, hızını, maliyetini, benchmark sonuçlarını karşılaştırıyoruz.

Yakında bunlara başka ölçütler de eklemek zorunda kalacağımızı düşünüyorum.

Bir modelin ne kadar başarılı olduğu kadar, ne kadar öngörülebilir olduğu da önemli olacak.

Kendisine verilen yetkilerin dışına çıkmasını engelleyebiliyor muyuz? Başka sistemlerle kurduğu iletişimi denetleyebiliyor muyuz? Yanlış bir yöntem izlediğinde bunu fark edip durdurabiliyor muyuz?

Ve en önemlisi, model bizden daha hızlı hareket ederken bütün bunları yeterince hızlı yapabiliyor muyuz?

OpenAI, yaşanan olayı dünya için bir uyarı olarak nitelendiriyor. Bence de yerinde bir tanımlama.

Çünkü belki de ilk kez, geliştirdiğimiz teknolojinin yeteneklerinden çok, bu yetenekleri kontrol etme kapasitemizin yeterli olup olmadığını ciddi biçimde sorgulamamız gereken bir döneme giriyoruz.

Daha önce yapay zekanın insanlığın sonunu getirip getirmeyeceği üzerine bir yazı yazmıştım. Orada kesin bir cevap vermemiştim.

Bugün de vermeyeceğim.

Ama artık şu sorunun daha önemli olduğunu düşünüyorum:

Yapay zekanın ne kadar zeki olabileceğini araştırırken, onu ne kadar kontrol edebileceğimizi araştırmaya yeterince kaynak ayırıyor muyuz?

Yoksa bir kez daha teknolojiyi geliştirip, kurallarını sonradan mı yazmaya çalışacağız?

Umarım bu kez geç kalmayız. 🤔

Kaynak: OpenAI, The Hugging Face Incident and the Road Ahead, 26 Ağustos 2026.