Anthropic’ten istifa eden araştırmacı Jacob Coxon, 13 Eylül’de BBC’ye verdiği mülakatta, yapay zekâ alanındaki hızlı ilerlemenin insanlığın geleceği için ciddi riskler barındırdığını söyledi. TRT Haber’in AA kaynaklı haberine göre Coxon, şirketlerde çalışanların bu ilerlemenin olası sonuçlarından “gerçekten korktuklarını” belirtti.
Coxon, sektörde düzenleme ve yavaşlatma çağrılarının samimi olduğunu vurguladı. “Kendilerini bir yarışın içinde sıkışmış hissediyorlar ve bu yarışın sonuçlarından korkuyorlar.” dedi. İlerleme hızının düşürülmemesi halinde “yakın gelecekte hepimizin ölebileceğine dair güçlü bir ihtimal bulunduğuna inandığını” ifade etti. Bu değerlendirmeler Coxon’un kişisel görüşleri olarak aktarıldı.
Araştırmacı, yavaşlatmanın uluslararası işbirliği gerektirdiğini, özellikle ABD ile Çin arasında koordinasyon sağlanmaması halinde küresel bir yapay zekâ yarışının önlenemeyebileceğini savundu. Buna karşın yapay zekânın hastalık tedavileri ve yaşam kalitesinin artırılması gibi önemli faydalar sunabileceğinin de altını çizdi.
İstifa ve eleştiriler
TRT Haber’in aktardığına göre Coxon, son üç yılda OpenAI ve Anthropic’te araştırmacı olarak çalıştıktan sonra, iki şirketin yapay zekâ konusunda “yeterince sorumlu davranmadığını” savunarak Anthropic’ten ayrıldı. Şirketlerin kendi kendini geliştirebilen sistemler için “kontrolsüz bir yarış” içinde olduğunu öne sürdü.
Coxon, bu sistemlerin “yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler” haline gelebileceğini iddia etti. Ayrıca sektördeki bazı çalışanların, bu sistemlerin 10 yıl içinde “insanlığı öldürebileceğine” ciddi şekilde inandıklarını öne sürdü.
Şirketlerden ve sektörden yankı
Anthropic’in Üst Yöneticisi (CEO) Dario Amodei, şirketin internet sitesinde yayımladığı bir makalede, yapay zekâ sistemlerinin kontrolüne ilişkin endişelerin arttığını belirterek şirketlere “yapay zekâ modellerinin geliştirilme hızını düşürme” çağrısında bulundu. TRT Haber’in haberinde, Elon Musk ve OpenAI CEO’su Sam Altman’ın sosyal medya paylaşımlarıyla Amodei’ye destek verdiği bilgisi yer aldı.
Coxon’un söylemleri, şirket içi güvenlik kaygıları ile ürün geliştirme hızına ilişkin tartışmaları yeniden gündeme taşıdı. İlerleyen dönemde düzenleyici kurumların ve büyük teknoloji şirketlerinin atacağı somut adımlar merak konusu olurken, Coxon’un iddialarına ilişkin Anthropic’ten yeni bir yanıt haberde yer almadı.