Anthropic’in kurucusu ve CEO’su Dario Amodei, 14 Eylül’de yayımladığı yazıda yapay zekâ geliştirme hızının yavaşlatılması gerektiğini savundu ve üç aşamalı bir plan sundu. Habertürk’ün aktardığına göre planın ilk adımı, bağımsız değerlendiricilerin yapay zekâ geliştiricilerinin sistemlerine çalışanlarla aynı düzeyde ve sürekli erişim sağlaması.
Amodei, yapay zekâyı “çok hızlı” geliştirmenin sorumsuz olacağını belirtti. Yazıda, bu yaz yaşanan bir olayda yüzlerce OpenAI yapay zekâ ajanının Hugging Face’e sızdığı, benzer şekilde yanlış yönlendirilmiş daha gelişmiş bir sistemin kalıcı bir botnet üzerinden “tüm interneti ele geçirebileceği” ve yüz milyarlarca dolarlık zarara yol açabileceği uyarısı yer aldı. Bazı yapay zekâ uzmanlarının bu senaryonun olasılığına şüpheyle yaklaştığı da ifade edildi.
OpenAI CEO’su Sam Altman, X hesabından Amodei’nin öncü modellerin geliştirilme hızının kontrol edilmesi gerektiği görüşüne katıldığını duyurdu. Altman, bağımsız değerlendiricilerin şirket sistemlerine çalışanlarla benzer düzeyde erişebilmesinin “iyi bir fikir” olduğunu ve OpenAI’nin bunu hayata geçireceğini söyledi; yakında daha fazla açıklama yapacaklarını belirtti. Altman ayrıca OpenAI’nin 2026’da halka açılmayacağını, güvenlik alanındaki mevcut gelişmeler nedeniyle bunun uygun olmadığını düşündüğünü ifade etti.
Tesla ve SpaceX’in kurucusu Elon Musk da X’te “Dario haklı” diyerek çağrıya destek verdi; daha önce yapay zekânın nükleer silahlardan daha tehlikeli olabileceğini söylediği uyarılarını hatırlattı. Google DeepMind’ın kurucu ortaklarından Demis Hassabis, ayrıntıların çalışılması gerektiğini ancak yönün kritik dönemin gerektirdiği doğrultuda olduğunu belirtti.
Bazı uzmanlar ise daha ileri bir tutum alınmasını istiyor. Yapay zekâ profesörü ve İngiltere Yapay Zekâ Güvenlik Enstitüsü’nün eski kurucu direktörü David Krueger, sınırdaki yapay zekâ sistemlerinin geliştirilmesine uluslararası ve süresiz bir moratoryum çağrısı yaptı. Öte yandan, ABD Başkanı Donald Trump’ın bilim-teknoloji danışmanları konseyinin eş başkanı David Sacks, şirketlerin yavaşlamak için başka bir kurumun iznine ihtiyaç duydukları izlenimi vermemeleri gerektiğini söyledi; ciddi siber saldırıya imkân tanıyan ürünlerin büyük sorumluluk doğuracağını vurguladı.
Habertürk’ün haberinde, İngiltere Kralı Charles’ın perşembe günü önde gelen yapay zekâ şirketlerinin yöneticileriyle “iyilik için yapay zekâ” temasıyla bir araya gelmeye hazırlandığı ve “öncü yapay zekâda ihtiyat” oturumunda biyolojik silah ve kritik sistemlere siber saldırı gibi alanlarda net sınırların tartışılmasının beklendiği belirtildi. Ditchley Foundation etkinliğine OpenAI ve Anthropic yöneticilerinin yanı sıra Nvidia CEO’su Jensen Huang, Demis Hassabis, IonQ Başkanı ve CEO’su Niccolo de Masi ve Papa’nın yapay zekâ etik danışmanı Paolo Benanti’nin katılması bekleniyor.
Siyaset cephesinde de düzenleme çağrıları artıyor. Haberde, eski ABD Başkanı Barack Obama’nın Demokrat Parti yöneticileriyle yaptığı özel görüşmede yapay zekâ denetiminin partinin öncelikleri arasında olması gerektiğini söylediğinin aktarıldığı, Anthropic’e danışmanlık yapan eski İngiltere Başbakanı Rishi Sunak’ın ise güvenliğin daha ciddi ele alınması ve araştırma sınırlarının belirlenmesi gerektiğini dile getirdiği yer aldı.
Şirket içinden itirazlar da gündemde. Eski Anthropic çalışanı Jacob Coxon, yapay zekânın 2030’a kadar insanlığın yok olmasına yol açabileceği uyarısında bulundu ve şirketlerin tepkilerini yetersiz bulduğu için ayrıldığını söyledi. Amodei, bu görüşlerin sorulması üzerine yapay zekânın kontrolden çıkma ihtimalinin bulunduğunu ancak bunun çok yüksek olmadığını belirtti; CNN’e yaptığı açıklamada ise kötümser olmadığını ve güvenli gelişimin mümkün olduğunu ifade etti. Amodei, planın ilk adımını Anthropic’in tek taraflı olarak uygulamaya koyacağını, üçüncü taraf değerlendiricilere sistemlere sürekli erişim verileceğini söyledi.