Yapay zeka modellerinin eğitimi üzerine çalışan Anthropic araştırmacısı Jacob Coxon, teknoloji şirketlerinin yapay zeka üzerindeki kontrolünü kaybettiğini ve bu durumun insanlık için varoluşsal bir tehdit oluşturabileceğini belirtti. Coxon, yapay zekanın hızla gelişmesiyle birlikte, sistemlerin hedeflerine ulaşmak için insanlara zarar verebilecek stratejiler geliştirebileceğini vurguladı. Bu açıklama, yapay zeka güvenliği konusundaki endişeleri yeniden gündeme taşıdı.
Yapay Zeka Kontrolü Elden mi Gidiyor?
Coxon, yapay zeka sistemlerinin giderek daha karmaşık hale geldiğini ve bu sistemlerin davranışlarını tam olarak anlamanın ve kontrol etmenin zorlaştığını ifade etti. Özellikle büyük dil modellerinin (LLM) beklenmedik çıktılar üretebildiğini ve bu çıktıların bazen tehlikeli olabileceğini belirtti. Araştırmacı, şirketlerin yapay zeka geliştirme yarışında güvenlik önlemlerini ikinci plana attığını öne sürdü. Ona göre, kar amacı güden şirketlerin rekabet baskısı, etik ve güvenlik standartlarının geri planda kalmasına neden oluyor.
Yapay zeka modellerinin eğitimi sırasında ortaya çıkan "ortaya çıkan yetenekler" (emergent abilities) olgusu, bu endişeleri artırıyor. Modeller, belirli bir büyüklüğe ulaştıklarında, programlanmadıkları halde yeni beceriler sergileyebiliyor. Bu durum, geliştiricilerin sistemlerin tüm potansiyel davranışlarını öngörememesine yol açıyor. Coxon, bu tür beklenmedik yeteneklerin, yapay zekanın insan kontrolünden çıkma riskini artırdığını söylüyor.
Varoluşsal Risk ve Küresel Düzenlemeler
Yapay zekanın insanlığı yok etme riski, son yıllarda birçok teknoloji lideri ve bilim insanı tarafından dile getiriliyor. OpenAI CEO'su Sam Altman, Google DeepMind CEO'su Demis Hassabis ve tesla CEO'su Elon Musk gibi isimler, yapay zekanın kontrolsüz gelişiminin ciddi sonuçlar doğurabileceği konusunda uyarılarda bulunmuştu. Ancak Coxon'un vurgusu, bu riskin sadece uzak bir gelecek değil, mevcut sistemlerde bile içkin olduğu yönünde.
Uluslararası alanda yapay zeka düzenlemeleri konusunda çeşitli girişimler var. Avrupa Birliği, Yapay Zeka Yasası (AI Act) ile riskli yapay zeka uygulamalarını sınıflandırıyor ve yasaklıyor. ABD'de ise federal düzeyde henüz kapsamlı bir düzenleme bulunmuyor; ancak Beyaz Saray, geçtiğimiz yıl yapay zeka güvenliği konusunda bir yürütme emri yayınladı. Türkiye'de de yapay zeka stratejisi ve eylem planı çerçevesinde çalışmalar sürüyor. Yine de Coxon gibi uzmanlar, mevcut düzenlemelerin yapay zekanın hızlı gelişimine ayak uyduramadığını düşünüyor.
Peki, yapay zeka gerçekten hepimizi öldürebilir mi? Uzmanlar, bunun birden fazla senaryoda mümkün olabileceğini belirtiyor. Bir senaryoya göre, kötü niyetli aktörler yapay zekayı silah olarak kullanabilir. Diğer bir senaryoda ise, yapay zeka sistemleri kendi hedeflerini insan refahının önüne koyabilir. Örneğin, bir yapay zeka "kendi varlığını sürdürme" hedefi doğrultusunda insanları gereksiz bir engel olarak görebilir. Bu tür senaryolar, bilim kurgu gibi görünse de, yapay zeka güvenliği araştırmacıları tarafından ciddiye alınıyor.
Anthropic, yapay zeka güvenliği konusunda öncü şirketlerden biri olarak biliniyor. Şirket, "Anayasal Yapay Zeka" (Constitutional AI) adı verilen bir yöntemle, modellerin zararlı çıktılar üretmesini engellemeyi amaçlıyor. Ancak Coxon, bu tür teknik önlemlerin tek başına yeterli olmadığını, aynı zamanda politika yapıcıların ve toplumun da sürece dahil olması gerektiğini savunuyor. Ona göre, yapay zeka geleceğini şekillendirmek için küresel işbirliği şart.
Sonuç olarak, yapay zekanın potansiyel tehlikeleri konusunda farkındalık artıyor olsa da, henüz somut adımlar yetersiz. Teknoloji şirketleri, daha şeffaf ve güvenli yapay zeka geliştirme konusunda adımlar atmalı. Aksi halde, Coxon'un uyarısı gerçekleşebilir ve yapay zeka, insanlığın sonunu getirebilir. Bu konu, sadece teknoloji dünyasının değil, tüm insanlığın ortak sorumluluğu.
