Yapay zeka dünyasının en büyük üç ismi, geliştirme hızının yavaşlatılması için ortak çağrı yaptı. Anthropic CEO'su Dario Amodei, Tesla ve SpaceX CEO'su Elon Musk ile OpenAI CEO'su Sam Altman, yapay zeka modellerinin denetimsiz ve hızlı ilerleyişinin risklerine dikkat çekerek uluslararası düzenleme çağrısında bulundu. Ancak bu çağrı, akademi çevrelerinden beklenmedik bir tepkiyle karşılaştı: Montreal Üniversitesi yapay zeka güvenliği araştırmacıları, önerinin yetersiz olduğunu ve sektörün kendi kendini denetlemesinin işe yaramayacağını savunuyor.
Üç CEO'dan ortak açıklama: 'Durdurun, düşünün, düzenleyin'
Amodei, Musk ve Altman, geçtiğimiz günlerde farklı platformlarda yaptıkları açıklamalarda benzer bir mesaj verdi: Yapay zeka modellerinin geliştirme hızı, toplumun uyum sağlayabileceği seviyenin üzerine çıktı. Üç isim de hükümetleri ve uluslararası kuruluşları, yapay zeka araştırmaları için bağlayıcı güvenlik standartları oluşturmaya davet etti. Elon Musk, konuyla ilgili olarak "Yapay zeka, insanlık için varoluşsal bir tehdit oluşturuyor. Geliştirmeyi yavaşlatmak ve güvenlik protokollerini önceliklendirmek zorundayız" ifadelerini kullandı. OpenAI CEO'su Sam Altman ise "Yapay zeka güçlendikçe, onu yönetme sorumluluğumuz da artıyor. Şeffaflık ve uluslararası işbirliği şart" dedi.
Anthropic CEO'su Dario Amodei de benzer şekilde, "Modellerin yetenekleri her altı ayda bir katlanıyor. Bu hız, düzenleyici mekanizmaların çok ötesinde. Acil bir fren mekanizmasına ihtiyacımız var" açıklamasında bulundu. Üç CEO'nun ortak çağrısı, yapay zeka endüstrisinde nadir görülen bir fikir birliği olarak yorumlandı.
Montreal Üniversitesi'nden sert yanıt: 'Kendi kendini denetim aldatmacadır'
Ancak Montreal Üniversitesi'nde yapay zeka güvenliği alanında çalışan akademisyenler, bu çağrının samimi olmadığını savunuyor. Üniversitenin Yapay Zeka Güvenliği Araştırma Grubu'ndan bir sözcü, yaptığı yazılı açıklamada, "Bu CEO'ların çağrısı, sektörün kendi kendini denetlemesine dayanıyor. Oysa tarih gösteriyor ki, kâr amacı güden şirketler gönüllü olarak hız kesmez. Bağlayıcı uluslararası anlaşmalar ve bağımsız denetim olmadan bu çağrılar sadece kamuoyu yanıltmacasıdır" dedi.
Araştırmacılar, özellikle üç şirketin de aynı anda büyük dil modelleri üzerinde çalıştığını ve pazar payı yarışının devam ettiğini hatırlattı. "Eğer gerçekten endişeli olsalardı, önce kendi modellerinin geliştirmesini durdururlardı. Çağrı yapmak yerine eylem bekliyoruz" ifadeleri kullanıldı. Akademisyenler, hükümetlerin yapay zeka şirketlerine bağımsız denetçiler yerleştirmesi, model eğitim süreçlerinin şeffaf hale getirilmesi ve uluslararası bir yapay zeka güvenlik konseyi kurulması gerektiğini vurguladı.
Yapay zeka yarışında fren mi, düzen mi?
Yapay zeka endüstrisi, son yıllarda benzeri görülmemiş bir hızla büyüyor. OpenAI'nin GPT serisi, Google'ın Gemini'ı, Anthropic'in Claude'u ve Meta'nın Llama'sı, kısa sürede milyonlarca kullanıcıya ulaştı. Ancak bu hızlı gelişim, beraberinde etik, güvenlik ve işsizlik endişelerini de getirdi. Avrupa Birliği, Yapay Zeka Yasası ile düzenleme yolunda önemli adımlar attı; ABD'de ise federal düzeyde kapsamlı bir yasa henüz yok.
Uzmanlar, yapay zeka güvenliği konusunda iki kutba ayrılmış durumda: Bir grup, teknolojinin faydalarına odaklanıp kontrollü ilerlemeyi savunurken; diğer grup, mevcut hızın felakete yol açabileceğini ve acil müdahale gerektiğini belirtiyor. Montreal Üniversitesi'nden araştırmacılar, ikinci grubun daha radikal bir kanadını temsil ediyor ve "yavaşlatma" çağrılarının yetersiz olduğunu, bazı modellerin geliştirilmesinin tamamen durdurulması gerektiğini söylüyor.
Öte yandan, sektör temsilcileri, yavaşlamanın rekabet avantajını Çin gibi ülkelere kaptıracağını savunuyor. Bu nedenle çağrıların çoğu, uluslararası koordinasyon vurgusu yapıyor. Ancak akademi, uluslararası koordinasyonun sağlanmasının yıllar alabileceğini, bu sürede risklerin katlanarak büyüdüğünü hatırlatıyor.
Bağlam: Yapay zeka düzenlemesinde kritik eşik
Yapay zeka düzenlemesi, 2023'ten bu yana küresel gündemin üst sıralarında yer alıyor. ABD Başkanı Joe Biden'ın yapay zeka konulu yürütme emri, AB'nin Yapay Zeka Yasası ve Çin'in algoritma düzenlemeleri, bu alandaki ilk adımlar oldu. Ancak denetim mekanizmaları hâlâ zayıf; şirketlerin gönüllü taahhütleri ise bağlayıcı değil.
Montreal Üniversitesi'ndeki araştırma grubu, önümüzdeki aylarda yapay zeka güvenliği konusunda uluslararası bir konferans düzenlemeyi planlıyor. Konferansta, sektör temsilcileri, akademisyenler ve politika yapıcılar bir araya gelecek. Ancak şimdiden taraflar arasında derin bir görüş ayrılığı olduğu açık: Bir yanda "yavaşlayalım" diyen CEO'lar, diğer yanda "sadece yavaşlamak yetmez, radikal düzenleme şart" diyen akademisyenler. Yapay zekanın geleceği, bu iki yaklaşımın nasıl uzlaşacağına bağlı görünüyor.
