Yapay zeka alanında faaliyet gösteren Anthropic'in kurucu ortağı Jack Clark, yapay zekanın insan müdahalesi olmadan kendi kendini geliştirebileceği bir noktaya yaklaştığımızı belirterek, bu teknolojinin ilerlemesini yavaşlatabilecek mekanizmaların oluşturulması gerektiğini ifade etti. Clark, yapay zeka sistemlerinin hızla geliştiğini ve kontrolsüz bir şekilde ilerlemesinin ciddi riskler barındırdığını vurguladı.
Yapay zekada 'fren pedalı' ihtiyacı
Clark, yaptığı açıklamada, yapay zekanın gelişimini sınırlayacak bir 'fren pedalı' benzetmesi kullanarak, bu teknolojinin potansiyel zararlarını önceden engelleyecek önlemler alınması gerektiğini söyledi. Özellikle otonom yapay zeka sistemlerinin kontrol dışı kalabileceğine dikkat çeken Clark, 'Yapay zekanın insan müdahalesi olmadan ilerlemesi, öngörülemeyen sonuçlar doğurabilir. Bu noktada teknolojinin hızını kesebilecek mekanizmalara ihtiyacımız var' dedi.
Anthropic, yapay zeka güvenliği konusunda çalışmalar yürüten bir şirket olarak biliniyor. Clark'ın uyarıları, sektördeki diğer uzmanların da benzer endişelerini yansıtıyor. Son dönemde ChatGPT gibi büyük dil modellerinin yaygınlaşmasıyla birlikte yapay zekanın kontrolü ve etik kullanımı konusundaki tartışmalar artmış durumda.
Kontrolsüz yapay zeka gelişiminin riskleri
Uzmanlar, yapay zekanın hızla gelişmesinin beraberinde iş kayıpları, veri gizliliği ihlalleri ve hatta otonom silahlar gibi ciddi tehditleri getirebileceğini belirtiyor. Clark'ın uyarısı, özellikle yapay zekanın insan denetimi olmadan kendi kendini geliştirme potansiyeline dikkat çekiyor. 'Yapay zeka, kendi kodunu yazabilecek ve kendini geliştirebilecek bir noktaya ulaşırsa, bu durum insanlık için kontrol edilemez bir hal alabilir' diyen Clark, bu nedenle 'fren pedalı' benzeri yavaşlatma mekanizmalarının kritik önemde olduğunu vurguladı.
Teknoloji dünyasında yankı uyandıran bu açıklama, yapay zeka güvenliği konusunda yeni düzenlemelerin gerekliliğini de gündeme getirdi. Avrupa Birliği'nin yapay zeka yasası gibi adımlar atılsa da, Clark mevcut düzenlemelerin yetersiz olduğunu ifade etti.
