TRT Haber’in BBC’ye dayandırdığı habere göre Anthropic’in kurucu ortaklarından Jack Clark, 15 Eylül’de yapay zekâ yazılımlarının tehlikeli hâle gelmesi durumunda tamamen kapatılmasını sağlayacak, üçüncü tarafça denetlenebilir bir “kapatma düğmesi”nin şirketler için zorunlu tutulmasının gerekebileceğini söyledi. Clark, bugün laboratuvarların fişi çekmek için farklı yöntemleri bulunduğunu, ancak yasa koyucuların bunu standartlaştırıp zorunlu kılabileceğini belirtti.
Clark, “kapatma düğmesi” gereksinimi ve bunun doğrulanmasına ilişkin ayrıntıların, yapay zekâ etrafındaki daha geniş politika tartışmasının parçası olması gerektiğini ifade etti. Toplumun böyle bir mekanizmanın varlığını bilmek isteyeceğini, zamanla bunun etrafında kurallar oluşabileceğini kaydetti.
Haberde, yapay zekânın hızla gelişmesi ve risklere dair endişelerin sektördeki yöneticiler ve çalışanlardan gelen uyarılarla öne çıktığı aktarıldı. Anthropic CEO’su Dario Amodei’nin hafta sonu geliştirme hızının yavaşlatılması ve daha yakından izlenmesi çağrısı yaptığı, şirketin geçmişte de benzer adımlar attığı; ancak bu çağrıların motivasyonuna yönelik soru işaretlerinin bulunduğu belirtildi. Amodei’nin, atılacak adımların ticari avantajdan ödün vermeden olması gerektiğini söylediği aktarıldı.
TRT Haber’in aktardığına göre tartışmada farklı görüşler var. Anthropic bilim insanı Evan Hubinger, kişisel kanaati olarak önümüzdeki on yıl içinde yapay zekânın insanlığın sonunu getirme olasılığının yüzde 10’dan fazla olduğunu düşündüğünü belirtti. “Yapay zekânın babası” olarak anılan Geoffrey Hinton da BBC’ye, yapay zekânın tüm insanlığı öldürme ihtimalinin yüzde 10 olmasının “mantıksız olmadığını” söyledi. Buna karşılık bazı sektör temsilcileri bu korkuların abartılmış olabileceğini savunuyor. Hugging Face CEO’su Clement Delangue’un, yok olma riski hakkında konuşmayı iklim değişikliğini “klimacıya” sormaya benzettiği ifade edildi.
Politika cephesinde ABD’li milletvekillerinin, sorunlu yapay zekâ araçlarını kapatmayı şirketler için zorunlu kılacak “Kill Switch Yasası” adlı bir tasarı sunduğu bilgisi yer aldı. Tasarının, belirli devlet kurumlarına bir aracın kapatılmasını veya sınırlandırılmasını talep etme yetkisi vermesinin öngörüldüğü belirtildi. TRT Haber’e göre ABD Başkanı Donald Trump, sosyal medyada yapay zekâ geliştirmesinin yavaşlatılması çağrılarını reddetti ve yapay zekânın dünyayı ele geçirmesi gibi iddiaları “yalan” olarak niteledi. İngiltere hükümeti ise tehlikeli yapay zekâlar için kapatma düğmesi fikrini yakın zamanda reddetti; bunun başka yerlerde geliştirilmesini veya kötüye kullanılmasını engellemeyeceğini savundu.
Haberde, Anthropic’in yapay zekâ güvenliği tartışmalarının merkezinde olduğu; şirketin popüler sohbet botu Claude’u geliştirdiği ve yıl içinde giderek daha yetenekli yeni modeller yayımladığı anımsatıldı. Ayrıca TRT Haber, Anthropic’in halka arz hazırlıkları yürüttüğünü, OpenAI’nin de benzer bir adımının beklenirken CEO Sam Altman’ın güvenlik tartışmaları nedeniyle bunun bu yıl gerçekleşmeyeceğini duyurduğunu aktardı.
Clark, yapay zekânın tamamen kuralsız bir sektör olarak devam etmesine izin vermenin “kötü bir fikir” olduğunu, “devasa risklerle zar atıldığını” ve sektörün seyrini değiştirmek gerektiğini söyledi. Kapatma düğmesi zorunluluğu tartışmasının, bu çerçevede regülasyon gündeminde yer tutması bekleniyor.