ABD hükümeti, Meta'nın yapay zekâ modelinin yeteneklerini ve ulusal güvenlik açıklarını değerlendirmek için şirkete baskı yapıyor. Reuters'ın haberine göre, dünyada güçlü yapay zekâ sistemlerinin potansiyel risklerine yönelik endişeler büyürken, Washington yönetimi Meta'dan modelinin detaylı bir analizini talep etti. Bu denetim, yapay zekânın kötüye kullanımını önleme ve ulusal güvenliği koruma çabalarının bir parçası olarak görülüyor.
Denetimin Kapsamı ve Nedenleri
Denetim, Meta'nın en gelişmiş yapay zekâ modeli olan Llama 2 ve gelecekteki sürümlerini kapsayacak. ABD Ticaret Bakanlığı'na bağlı Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) tarafından yürütülecek olan değerlendirme, modelin siber saldırılarda, dezenformasyon kampanyalarında veya diğer kötü amaçlı faaliyetlerde kullanılma potansiyelini inceleyecek. Ayrıca modelin açık kaynaklı yapısının getirdiği riskler de masaya yatırılacak.
Uzmanlar, yapay zekâ modellerinin özellikle açık kaynaklı olarak yayınlandığında, düşman devletler veya terör örgütleri tarafından silah haline getirilebileceğine dikkat çekiyor. Meta, Llama 2'yi araştırmacılar ve geliştiriciler için ücretsiz olarak sunarken, modelin güvenlik önlemlerinin yetersiz olduğu eleştirileriyle karşı karşıya kalmıştı.
Küresel Yapay Zekâ Güvenliği Çabaları
Bu denetim, ABD'nin yapay zekâ güvenliği konusunda attığı adımların bir parçası. Başkan Joe Biden, Ekim 2023'te yapay zekânın güvenli ve sorumlu gelişimini teşvik eden bir başkanlık kararnamesi imzalamıştı. Kararname, yapay zekâ modellerinin güvenlik testlerini zorunlu kılıyor ve NIST'e bu alanda standartlar belirleme yetkisi veriyor. Ayrıca Avrupa Birliği de Yapay Zekâ Yasası ile benzer düzenlemeler getiriyor.
Meta ise denetime açık olduğunu ancak modelinin diğer büyük dil modellerine kıyasla daha düşük risk taşıdığını savunuyor. Şirket, Llama 2'nin eğitim verileri ve güvenlik önlemleri hakkında şeffaflık taahhüdünde bulunuyor. Bununla birlikte, bazı sivil toplum kuruluşları, denetimin yetersiz kalabileceği ve bağımsız denetçilerin sürece dahil edilmesi gerektiği uyarısında bulunuyor.
Yapay zekâ teknolojisinin hızla ilerlemesi, düzenleyicileri zorlarken, ABD'nin Meta'ya yönelik bu hamlesi, sektörde yeni bir dönemin başlangıcı olarak yorumlanıyor. Denetim sonuçlarının önümüzdeki aylarda açıklanması ve yapay zekâ modelleri için bağlayıcı kuralların oluşturulmasına zemin hazırlaması bekleniyor. Küresel ölçekte ise ülkeler, yapay zekânın faydalarını maksimize ederken riskleri minimize etme arayışında.
