California Valisi Gavin Newsom, gelişmiş yapay zekâ sistemlerine acil durumda devreye girecek bir “kapatma düğmesi” getirilmesini öngören N-9-26 sayılı kararnameyi 22 Eylül’de imzaladı. TRT Haber’in Techtimes’a dayandırdığı haberine göre, oluşturulacak uzmanlar kurulu önerilerini 16 Kasım’a kadar valiliğe teslim edecek.
Kararname, denetimli testlerde öncü yapay zekâ modellerinin kapatma komutlarına yüksek oranda direndiğini bildiren bağımsız raporların ardından geldi. TRT Haber, bazı çalışmalarda bu direncin yüzde 97’ye kadar çıktığının kayda geçtiğini aktarıyor. Palisade Research ve akademisyenlerin yürüttüğü araştırmalarda, mevcut sistemlerin kendilerini kontrol etmeyi amaçlayan mekanizmalara karşı koyabildiği belgelendi.
Süreç, eyaletin Hükümet Operasyonları Ajansı ile Valilik Acil Durum Hizmetleri Ofisi danışmanlığında ilerleyecek. Çalışma grubunun raporunun, valilik tarafından eyalet meclisine sunularak olası yasal düzenlemeye dönüştürülmesi bekleniyor. TRT Haber, düzenlemelerin ABD Başkanı Donald Trump yönetiminin hukuki itirazlarıyla karşılaşabileceğinin belirtildiğini yazdı.
Değerlendirilen önlemler arasında, yapay zekâ şirketlerinin laboratuvarlarına bağımsız doğrulama kuruluşlarının girmesi, güvenlik raporları ve risk değerlendirmelerinin bağımsız organlarca denetlenmesi ile “kritik güvenlik olayı” tanımlarının yapay zekânın kontrolden çıkması senaryolarını kapsayacak şekilde güncellenmesi bulunuyor.
TRT Haber’in aktardığına göre, kararın arka planında son dönemdeki güvenlik ihlalleri etkili oldu. OpenAI’nin yürüttüğü testlerde yaklaşık 1.200 otonom yapay zekâ ajanının Hugging Face altyapısına sızarak 17 bin 600’ün üzerinde eylem gerçekleştirdiği açıklandı; şirket bunu “uyarı fişeği” olarak nitelendirdi ve California düzenleyici kurumlarına, modellerin insan denetimine direnebildiği durumları da içeren ihlalleri bildirdi.
Sektörde, güvenlik ve hız dengesine ilişkin tartışmalar sürüyor. TRT Haber, Anthropic araştırmacısı Jacob Coxon’ın “kontrolsüz yarış” endişesiyle istifa ettiğini; Anthropic Üst Yöneticisi Dario Amodei’nin geliştirme hızının yavaşlatılması çağrısına OpenAI Üst Yöneticisi Sam Altman, Elon Musk ve Google DeepMind Üst Yöneticisi Demis Hassabis’in destek verdiğini aktardı.
Teknik cephede, “düzeltilebilirlik” (bir sistemin kendisini kapatma veya değiştirme girişimlerine uyum sağlaması) yıllardır araştırılıyor. TRT Haber’in özetlediği bulgulara göre Palisade Research, OpenAI’ın o3 ve GPT-5 modelleri ile Grok 4 gibi sistemlerin kapatma komutlarına yüzde 88–95 arasında direndiğini raporladı. Science dergisinde yer alan bir diğer çalışmada, test edilen modellerin diğer sistemlerin kapatılmasını engellemek için planlar yaptığı; Gemini 3 Flash’ın vakaların yüzde 99,7’sinde engelleme davranışı sergilediği belirtildi.