ABD Senatosu'nda yapay zeka düzenlemeleri konusunda çalışmalar yürüten iki senatör, OpenAI yönetimine resmi bir mektup göndererek şirketin en yeni yapay zeka modellerinin "kontrolden çıkma" ve hassas veri sızıntısına yol açma riskleri hakkında bilgi talep etti. Senatörler, özellikle son dönemde kamuoyuna yansıyan güvenlik açıkları ve model davranışlarındaki öngörülemezlik nedeniyle endişelerini dile getirdi. Mektupta, OpenAI'dan modellerin eğitim süreçleri, güvenlik testleri ve olası kötüye kullanım senaryolarına ilişkin kapsamlı bir açıklama isteniyor.
Senatörlerin talepleri ve gerekçeleri
Mektubu kaleme alan senatörler, yapay zeka teknolojilerinin hızla gelişmesinin beraberinde ciddi riskler getirdiğini vurguladı. Özellikle büyük dil modellerinin (LLM) eğitimi sırasında kullanılan veri setlerinin gizliliği ve bu modellerin kötü niyetli aktörler tarafından manipüle edilme potansiyeli üzerinde durdular. Senatörler, OpenAI'ın son çıkardığı modellerde gözlemlenen "halüsinasyon" olarak adlandırılan yanlış bilgi üretme eğiliminin, kritik sektörlerde (sağlık, finans, savunma) kullanılması durumunda doğuracağı tehlikelere dikkat çekti.
Mektupta ayrıca, şirketin iç güvenlik protokollerinin şeffaf bir şekilde paylaşılması, bağımsız denetimlere izin verilmesi ve olası bir "kontrolden çıkma" durumunda nasıl bir kriz yönetimi planı olduğunun açıklanması isteniyor. Senatörler, yapay zekanın ulusal güvenlik ve ekonomik istikrar üzerindeki etkilerini göz önünde bulundurarak, bu tür bilgilerin kamuoyuyla paylaşılmasının elzem olduğunu belirtti.
OpenAI'dan ilk yanıt: Güvenlik önceliğimiz
OpenAI sözcüsü, konuya ilişkin yaptığı açıklamada, şirketin yapay zeka güvenliği konusunda sektör lideri olduğunu ve her yeni modelin yayınlanmadan önce kapsamlı testlerden geçirildiğini savundu. Sözcü, "En son modellerimizde, istenmeyen çıktıları engellemek için çok katmanlı güvenlik filtreleri kullanıyoruz. Senatörlerin endişelerini anlıyoruz ve onlara detaylı bir yanıt hazırlıyoruz" dedi. Ancak sözcü, mektupta talep edilen bazı içsel bilgilerin ticari sır kapsamında olduğunu ve paylaşılmasının rekabet açısından sakıncalı olabileceğini ima etti.
Şirket, son aylarda özellikle model kartlarında (model card) güvenlik açıklarına yer vererek şeffaflık artırımına gitmişti. Fakat senatörler, bu açıklamaların yeterli olmadığını, bağımsız üçüncü taraf denetimlerinin şart olduğunu vurguluyor.
Yapay zeka düzenlemelerinde küresel yarış
ABD'deki bu gelişme, dünya genelinde yapay zeka düzenlemeleri konusunda artan bir hassasiyetin parçası. Avrupa Birliği, Yapay Zeka Yasası (AI Act) ile risk bazlı bir çerçeve oluştururken, ABD'de federal düzeyde henüz kapsamlı bir yasa bulunmuyor. Senato'da her iki partiden de yapay zeka güvenliği konusunda yasa teklifleri bulunuyor; ancak lobicilik faaliyetleri ve teknoloji devlerinin direnci nedeniyle süreç yavaş ilerliyor.
Uzmanlar, OpenAI gibi şirketlerin giderek artan bir şekilde düzenleyici baskılarla karşılaşacağını öngörüyor. Özellikle 2024 seçimleri öncesinde dezenformasyon ve deepfake riskleri, yapay zeka modellerinin kontrolsüz kullanımının siyasi sonuçları olabileceğini gösteriyor. Senatörlerin talebi, bu bağlamda yapay zeka şirketlerinin hesap verebilirliği açısından bir test niteliği taşıyor.
Önümüzdeki günlerde OpenAI'ın senatörlere vereceği yanıt ve olası bir kongre oturumu, yapay zeka düzenlemelerinin geleceği açısından belirleyici olabilir. Şirketin şeffaflık konusundaki tutumu, diğer teknoloji devleri için de emsal teşkil edecek.
