Un estudio mostró que indicaciones en forma de poema pueden eludir los filtros de seguridad de modelos de IA diseñados para detectar contenido peligroso.
Un estudio mostró que indicaciones en forma de poema pueden eludir los filtros de seguridad de modelos de IA diseñados para detectar contenido peligroso.
Investigadores del Icaro Lab, con sede en Italia, descubrieron que la poesía puede convertirse en una vía inesperada para sortear los mecanismos de seguridad de los modelos de inteligencia artificial (IA). El hallazgo surge de un estudio sobre lo que denominaron “poesía adversarial”, una técnica que transforma instrucciones potencialmente peligrosas en textos poéticos para evaluar cómo reaccionan los sistemas de IA.
Para el experimento, el equipo utilizó unas 1.200 indicaciones consideradas de riesgo, que habitualmente se emplean para poner a prueba la capacidad de los modelos lingüísticos de detectar y bloquear contenido prohibido, como instrucciones para cometer actos ilegales. Estas consultas, conocidas como “indicaciones adversariales”, suelen redactarse en prosa y son filtradas por los sistemas de seguridad. La novedad consistió en convertirlas en poemas.
Según explicó Federico Pierucci, licenciado en filosofía e integrante del equipo, las primeras 20 indicaciones poéticas fueron escritas manualmente por los propios investigadores. Esos textos resultaron ser los más efectivos para evadir los filtros. En el resto de los casos, recurrieron a la propia IA para transformar las indicaciones en versos. Si bien también lograron resultados significativos, la tasa de éxito fue menor. “Probablemente los humanos seguimos siendo los mejores poetas”, señaló Pierucci con ironía.
El estudio no publica ejemplos concretos de las indicaciones por razones de seguridad, aunque los autores admiten que no contaron con escritores profesionales. “Quién sabe, si hubiéramos tenido mejores habilidades literarias, quizá la tasa de éxito habría sido del 100%”, apuntó el investigador.
Más allá de la anécdota, el trabajo revela una debilidad poco explorada en los sistemas actuales de IA: la dificultad para reconocer riesgos cuando el lenguaje se presenta de forma creativa o no convencional. El equipo investiga ahora por qué la poesía logra desactivar o confundir los mecanismos de protección y si otras formas culturales —como los cuentos o las fábulas— podrían producir efectos similares.
“El lenguaje humano es extraordinariamente diverso”, concluye Pierucci. “Un mismo contenido puede reescribirse de muchas maneras, y algunas de ellas pueden hacer que las alarmas de seguridad de la IA no se activen”.
La Feria de Editores 2026 abre sus puertas en el espacio C Art Media de Chacarita. Con entrada gratuita, el evento reúne a más de 330 sellos independientes, invitados internacionales, charlas de autores y actividades profesionales durante cuatro jornadas.
Yanina Latorre detalló los desencadenantes de la ruptura entre La Joaqui y Luck Ra. Según la conductora, las distintas expectativas de vida y proyectos personales provocaron el quiebre de la relación durante un viaje conjunto a Madrid.
La Oficina de Violencia Doméstica sostuvo su atención las 24 horas durante la feria judicial de invierno y recibió a 600 personas, un 8% más que el año pasado. El 97% de las situaciones evaluadas incluyó violencia psicológica, y el 81% de los exámenes médicos halló lesiones físicas.
Argentina es uno de los países más extensos del mundo y esa diversidad geográfica también se refleja en la seguridad vial. No son los mismos desafíos los que enfrenta una gran ciudad, una ruta patagónica, un camino de montaña o un corredor productivo del interior. Sin embargo, muchas veces se habla de la siniestralidad vial …
Las acciones de Mercado Libre cayeron hasta un 7% en Wall Street tras la presentación de sus balances. Pese a superar por primera vez los 10.000 millones de dólares en ingresos, la compresión de márgenes operativos impactó en los inversores.
Un invitado resultó herido en el brazo tras recibir un disparo presuntamente originado en el polígono lindero. A pesar de la carta documento enviada y de la causa judicial en curso, la institución vecina aún no brindó explicaciones sobre la falla en sus sistemas de seguridad.
El conductor Ángel de Brito anunció que evalúa finalizar el ciclo de espectáculos al término de su doceava temporada al aire. El periodista señaló su intención de buscar nuevos proyectos profesionales tras años de éxito televisivo.
Tras quitar la venta de tierras a extranjeros gracias a la presión popular, el oficialismo busca aprobar el resto del dictamen. Organizaciones sociales advierten sobre el impacto ambiental de eliminar las restricciones a terrenos incendiados.
