OpenAI CEO’su Sam Altman ve Anthropic CEO’su Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi’nde yapay zeka güvenliğine ilişkin uyarılarda bulundu. CNN Türk’ün haberine göre iki yönetici, gelişmiş yapay zeka sistemleri için ülkelerin birlikte hareket edeceği küresel ve bağlayıcı güvenlik önlemleri istedi.
Sam Altman, “Geleceğin kontrolünü yapay zekaya kaptırabiliriz” ifadesini kullanarak kontrolsüz ilerleme riskine dikkat çekti. Dario Amodei ise kötü yönetilen yapay zeka sistemlerinin sonuçlarının yalnızca şirketleri veya ülkeleri değil, insanlığın tamamını etkileyebileceğini belirtti. Her iki isim, güvenlik çerçevesinin tek bir şirketin ya da ülkenin inisiyatifine bırakılmaması gerektiğini savundu.
CNN Türk’ün aktardığına göre öneriler, modellerin yalnızca yetenek düzeylerine odaklanmak yerine bu sistemleri kimin hangi kurallarla denetleyeceğine ağırlık veriyor. Tartışma, teknik kapasite yarışından yönetişim ve hesap verebilirlik başlıklarına kaymış durumda.
BM Güvenlik Konseyi oturumunda, yapay zekanın hızla yayılması ve kabiliyetlerinin artması karşısında nasıl bir denetim yapısının kurulacağı gündeme alındı. Haberde bir gün önce BM Genel Sekreteri Antonio Guterres’in “katil robotlar” uyarısı yaptığı ve uzmanlar ile bazı Avrupalı liderlerin bunun abartılı bir senaryo olmadığını belirttiği aktarılıyor.
Haberde oturumda somut bir karar açıklandığına dair bilgi yer almıyor. Üst düzey sektör temsilcilerinin BM Güvenlik Konseyi’ndeki uyarıları, yapay zeka güvenliği ve denetimi konusunun uluslararası güvenlik gündeminde yer aldığını gösteriyor.