Yapay zekâ teknolojileri benzeri görülmemiş bir hızla gelişirken, bu ilerlemenin güvenli ve denetlenebilir biçimde yönetilip yönetilemeyeceği ciddi bir tartışma konusu haline geliyor. Uzmanlara göre asıl risk, yapay zekânın yetenek kazanması değil; bu gelişime paralel bir güvenlik altyapısının zamanında kurulamayacak olması.
Yapay zekâ güvenliği alanında çalışan David Dalrymple, dünyanın gelişmiş yapay zekâ sistemlerinin yol açabileceği güvenlik risklerine karşı yeterince hızlı hazırlanamayabileceği uyarısında bulunuyor. Birleşik Krallık’ta faaliyet gösteren Aria adlı araştırma ajansında program direktörü olan Dalrymple’a göre, teknolojideki baş döndürücü ilerleme, bu sistemleri kontrol altına alma çabalarını geride bırakma riski taşıyor. Dalrymple, yapay zekânın yakın gelecekte birçok işi insanlardan daha kaliteli ve daha düşük maliyetle yapabilir hale gelmesinin yalnızca ekonomik değil, toplumsal ve yapısal sonuçlar doğuracağını belirtiyor.
Uzman, kamu otoriteleri ile yapay zekâ şirketleri arasında, yaklaşan teknolojik sıçramaların boyutuna ilişkin ciddi bir algı farkı bulunduğunu da vurguluyor. Önümüzdeki beş yıl içinde ekonomik açıdan en değerli işlerin önemli bir bölümünün makineler tarafından yapılmasının artık bilim kurgu olarak görülmemesi gerektiğini ifade ediyor.
Bu nedenle, hükümetlerin gelişmiş yapay zekâ sistemlerinin güvenilir olduğunu varsayarak hareket etmemesi gerektiğini belirten Dalrymple, özellikle enerji şebekeleri gibi kritik altyapılarda kullanılan yapay zekâ için ek güvenlik önlemlerinin zorunlu olduğunu savunuyor. Ancak ekonomik baskılar nedeniyle, bu sistemleri tam anlamıyla güvenli hale getirecek bilimsel çalışmaların zamanında tamamlanmasının zor olabileceğini de kabul ediyor. Bu koşullarda en gerçekçi yaklaşımın, riskleri tamamen ortadan kaldırmak yerine olumsuz etkileri sınırlamaya odaklanmak olduğunu söylüyor.
Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü’nün son değerlendirmeleri de bu kaygıları destekler nitelikte. Enstitü, gelişmiş yapay zekâ modellerinin yeteneklerinin çok hızlı arttığını, bazı alanlarda performansın sekiz ayda bir iki katına çıktığını ve sistemlerin artık çırak seviyesindeki görevlerin önemli bir bölümünü başarıyla yerine getirebildiğini ortaya koyuyor. Ayrıca, en gelişmiş modellerin, bir insan uzmanın saatler sürecek görevlerini otonom olarak tamamlayabildiği tespit ediliyor.
Dalrymple, 2026 yılına doğru yapay zekânın tam gün süren araştırma ve geliştirme çalışmalarını otomatikleştirebileceğini ve bunun da teknolojik ilerlemeyi daha da hızlandıracağını öngörüyor. Ona göre insanlık, yüksek riskler barındıran bu dönüşüme büyük ölçüde hazırlıksız ilerliyor.