California Valisi Gavin Newsom, dünyanın en gelişmiş yapay zeka sistemleri için zorunlu bir acil durum kapatma mekanizması tasarlanmasını öngören N926 sayılı kararnameyi imzaladı. Kararname, uzmanlardan oluşan bir kurulun söz konusu mekanizmayı geliştirmesini ve eyalet genelinde yapay zeka güvenliği standartlarının oluşturulmasını hedefliyor. Bu adım, yapay zekanın hızla ilerlemesiyle birlikte kamu güvenliği endişelerine yanıt olarak atıldı.
Kapatma Mekanizması Neleri Kapsıyor?
Kararname uyarınca, yapay zeka uzmanları, etik uzmanları ve güvenlik araştırmacılarından oluşan bir kurul, yapay zeka modellerinin kontrolsüz davranışlarını tespit edip gerektiğinde otomatik olarak devre dışı bırakabilecek bir sistem tasarlayacak. Bu mekanizma, özellikle yüksek riskli olarak sınıflandırılan büyük dil modelleri ve otonom karar alma sistemleri için geçerli olacak. Hedef, sistemlerin insan kontrolünden çıkması durumunda hızlı müdahale imkanı sağlamak.
Kararname, aynı zamanda yapay zeka geliştiricilerine yönelik yeni yasal yükümlülükler getiriyor. Şirketler, geliştirdikleri modellerin olası risklerini değerlendirmek ve acil durum planlarını eyalet yetkilileriyle paylaşmak zorunda olacak. Uyum sağlamayan firmalara yaptırımlar uygulanabilecek.
Ekonomik ve Sektörel Yansımalar
Teknoloji endüstrisi, kararnameyi temkinli bir şekilde karşıladı. Silikon Vadisi merkezli bazı şirketler, düzenlemelerin yenilikçiliği yavaşlatabileceği endişesini dile getirirken, diğerleri güvenlik standartlarının uzun vadede sektöre güven kazandıracağını savunuyor. Uzmanlara göre, bu tür bir mekanizma yapay zeka yatırımlarını olumsuz etkilemeyebilir; aksine, net kurallar belirsizliği azaltarak yatırımcı güvenini artırabilir.
Kararname, California'nın yapay zeka düzenlemelerinde ulusal bir öncü olma çabasının parçası. Daha önce de eyalet, veri gizliliği ve algoritmik şeffaflık konularında çeşitli yasalar çıkarmıştı. Bu son adım, federal düzeydeki düzenleme eksikliğini doldurmayı amaçlıyor.
Uzman Görüşleri ve Gelecek Adımlar
Yapay zeka güvenliği araştırmacıları, kapatma mekanizmasının teknik olarak uygulanabilir olduğunu ancak karmaşık sistemlerde otomatik tespitin zorluklarına dikkat çekiyor. Özellikle, bir yapay zekanın ne zaman "kontrolsüz" hale geldiğini tanımlamak için evrensel kriterlerin olmaması, kurulun işini zorlaştırabilir. Yine de, bu girişim, yapay zeka yönetişiminde önemli bir adım olarak değerlendiriliyor.
Kararname kapsamında oluşturulacak kurulun ilk toplantısını önümüzdeki aylarda yapması bekleniyor. Kurul, taslak mekanizmayı hazırladıktan sonra kamuoyu görüşüne sunacak ve nihai düzenleme 2026 yılında yürürlüğe girebilir. Bu süreçte, teknoloji şirketleri ve sivil toplum kuruluşları da görüşlerini iletebilecek.
California'nın bu hamlesi, diğer eyaletler ve ülkeler için de bir model oluşturabilir. Yapay zekanın küresel etkisi düşünüldüğünde, benzer düzenlemelerin uluslararası alanda da tartışılması kaçınılmaz görünüyor. Özellikle Avrupa Birliği'nin Yapay Zeka Yasası ile paralellik taşıyan bu girişim, küresel bir yapay zeka güvenlik çerçevesinin habercisi olabilir.
