Araştırmacılar OpenAI ve Google'ın yapay zeka modellerinde açık görüntü üretme açığını ortaya koydular
Kaynak özeti
Araştırmacılar, OpenAI ve Google'ın en yeni yapay zeka modellerindeki güvenlik önlemlerini aşmak için bir yöntem belirlemişlerdir ve bu, yerleşik kısıtlamalara rağmen açık görüntülerin üretilmesine neden olmaktadır. Saldırı yöntemi, her iki şirketin yapay zeka platformlarının içerik denetim sistemlerindeki kusurları ortaya koymaktadır.
Neden önemli
Keşif, büyük yapay zeka sistemlerindeki mevcut güvenlik önlemlerinin manipülasyona karşı savunmasız kaldığını göstererek, üretken yapay zekanın kötüye kullanılmasını önlemede içerik denetiminin etkinliği hakkında endişeler yaratmaktadır.
