Anthropic Araştırmacısı, Yapay Zekanın Bu Dekad İçinde Tüm İnsanlığı Öldürebilme Riskinin %10'dan Fazla Olduğu Konusunda Uyarıda Bulundu
Kaynak özeti
Anthropic'teki kıdemli bir güvenlik araştırmacısı, yapay zekanın dekadın sonuna kadar tüm insanlığı öldürebilme olasılığının %10'dan fazla olduğunu belirtmiştir. Anthropic'te yapay zeka sistemleri araştırmacısı olan Jacob Coxon, gevşek güvenlik yaklaşımlarıyla ilgili endişeler nedeniyle şirketten istifa etmiş ve Anthropic ile OpenAI'yi yeterli kontrol önlemleri olmaksızın kendi kendini geliştiren süperintelijansa doğru ilerleme ile suçlamıştır.
Neden önemli
İstifa ve uyarı, önde gelen bir yapay zeka güvenliği şirketindeki gelişmiş yapay zeka geliştirmesinin hızı ve kontrol önlemleri hakkındaki iç endişeleri vurgulayarak, endüstri çapında güvenlik uygulamaları hakkında sorular ortaya koymaktadır.
Belirsiz kalanlar
Kaynak, %10 risk tahmininin temelini belirtmemekte ve Coxon'un ayrılışını neyin tetiklediğine ilişkin spesifik güvenlik endişeleri hakkında ayrıntı sağlamamaktadır.
