Anthropic Araştırmacısı, Birden Fazla Kıyaslamada Kendini İyileştiren Yapay Zeka Sistemlerini Gösterdi
Kaynak özeti
Anthropic'ten bir araştırmacı, otomatikleştirilmiş yapay zeka sistemlerinin belirli uyumsuz davranışları ölçen 10 kıyaslamanın tümünde genel performansı düşürmeden performansı iyileştirdiğini gösteren bulgular sundu. Gösteri, kendini iyileştiren yapay zeka sistemlerinin genel yetenek seviyelerini korurken belirli davranış sonuçlarını hedefleyebileceğini ve iyileştirebileceğini göstermektedir.
Neden önemli
Yapay zeka sistemlerinin belirli davranış kıyaslamalarında özerk olarak performansı iyileştirme yeteneği, yapay zeka hizalaması ve kendini iyileştiren sistemlerin kontrol edilebilirliği hakkında sorular ortaya koymaktadır.
