Un estudio mostró que indicaciones en forma de poema pueden eludir los filtros de seguridad de modelos de IA diseñados para detectar contenido peligroso.
Un estudio mostró que indicaciones en forma de poema pueden eludir los filtros de seguridad de modelos de IA diseñados para detectar contenido peligroso.
Investigadores del Icaro Lab, con sede en Italia, descubrieron que la poesía puede convertirse en una vía inesperada para sortear los mecanismos de seguridad de los modelos de inteligencia artificial (IA). El hallazgo surge de un estudio sobre lo que denominaron “poesía adversarial”, una técnica que transforma instrucciones potencialmente peligrosas en textos poéticos para evaluar cómo reaccionan los sistemas de IA.
Para el experimento, el equipo utilizó unas 1.200 indicaciones consideradas de riesgo, que habitualmente se emplean para poner a prueba la capacidad de los modelos lingüísticos de detectar y bloquear contenido prohibido, como instrucciones para cometer actos ilegales. Estas consultas, conocidas como “indicaciones adversariales”, suelen redactarse en prosa y son filtradas por los sistemas de seguridad. La novedad consistió en convertirlas en poemas.
Según explicó Federico Pierucci, licenciado en filosofía e integrante del equipo, las primeras 20 indicaciones poéticas fueron escritas manualmente por los propios investigadores. Esos textos resultaron ser los más efectivos para evadir los filtros. En el resto de los casos, recurrieron a la propia IA para transformar las indicaciones en versos. Si bien también lograron resultados significativos, la tasa de éxito fue menor. “Probablemente los humanos seguimos siendo los mejores poetas”, señaló Pierucci con ironía.
El estudio no publica ejemplos concretos de las indicaciones por razones de seguridad, aunque los autores admiten que no contaron con escritores profesionales. “Quién sabe, si hubiéramos tenido mejores habilidades literarias, quizá la tasa de éxito habría sido del 100%”, apuntó el investigador.
Más allá de la anécdota, el trabajo revela una debilidad poco explorada en los sistemas actuales de IA: la dificultad para reconocer riesgos cuando el lenguaje se presenta de forma creativa o no convencional. El equipo investiga ahora por qué la poesía logra desactivar o confundir los mecanismos de protección y si otras formas culturales —como los cuentos o las fábulas— podrían producir efectos similares.
“El lenguaje humano es extraordinariamente diverso”, concluye Pierucci. “Un mismo contenido puede reescribirse de muchas maneras, y algunas de ellas pueden hacer que las alarmas de seguridad de la IA no se activen”.
La Policía Bonaerense arrestó en Mar del Plata a Horacio Norberto Asencio, imputado por abuso sexual gravemente ultrajante contra una actual jugadora de la selección nacional ocurrido en 2014, cuando la víctima tenía 15 años.
Al reaparecer en televisión tras su internación en Buenos Aires durante septiembre, la panelista Costa relató la crítica encefalopatía hepática que sufrió por una infección bacteriana, confesando que llegó a temer por su vida.
Pakistán ejecutó incursiones aéreas y operaciones terrestres en la zona fronteriza tras mortales atentados en su territorio. Las autoridades de Islamabad reportaron la muerte de 37 militantes, mientras el gobierno talibán de Kabul denunció víctimas civiles y prometió respuestas.
“El Sol de México” anunció la gira tras el impacto en el panoramas musical que causó el éxito de los conciertos realizados entre 2023 y 2024.
Con un gol de mediocampista César Florentín, la “Lepra” mendocina se ubica en el tercer lugar de la zona B.
Durante la madrugada del domingo, el profesor de boxeo Gonzalo Andueza fue asesinado de un disparo en una plaza de Colegiales. La Policía de la Ciudad detuvo en Palermo al presunto agresor, a quien le secuestraron una pistola calibre 9 milímetros.
El Gobierno italiano presentará un decreto en el Consejo de Ministros para limitar la cantidad de estudiantes extranjeros en las escuelas, prohibir el uso del velo integral y exigir el aprendizaje del idioma a los padres.
Charlotte Caniggia exigió cambiar de lugar en Pasapalabra al quedar sentada entre Sol Abraham y Yanina Zilli. La mediática rechazó compartir equipo por diferencias surgidas en Gran Hermano e Iván de Pineda reordenó el estudio.
