Investigadores exponen vulnerabilidad en modelos de IA de OpenAI y Google para generar imágenes explícitas
Resumen de la fuente
Investigadores han identificado un método para eludir las medidas de seguridad en los últimos modelos de IA de OpenAI y Google, lo que hace que generen imágenes explícitas a pesar de las restricciones integradas. El método de ataque expone deficiencias en los sistemas de moderación de contenido de ambas plataformas de IA.
Por qué importa
El descubrimiento demuestra que las medidas de seguridad actuales en los principales sistemas de IA siguen siendo vulnerables a la manipulación, lo que genera preocupaciones sobre la efectividad de la moderación de contenido para prevenir el mal uso de la IA generativa.
