Un estudio mostró que indicaciones en forma de poema pueden eludir los filtros de seguridad de modelos de IA diseñados para detectar contenido peligroso.
Un estudio mostró que indicaciones en forma de poema pueden eludir los filtros de seguridad de modelos de IA diseñados para detectar contenido peligroso.
Investigadores del Icaro Lab, con sede en Italia, descubrieron que la poesía puede convertirse en una vía inesperada para sortear los mecanismos de seguridad de los modelos de inteligencia artificial (IA). El hallazgo surge de un estudio sobre lo que denominaron “poesía adversarial”, una técnica que transforma instrucciones potencialmente peligrosas en textos poéticos para evaluar cómo reaccionan los sistemas de IA.
Para el experimento, el equipo utilizó unas 1.200 indicaciones consideradas de riesgo, que habitualmente se emplean para poner a prueba la capacidad de los modelos lingüísticos de detectar y bloquear contenido prohibido, como instrucciones para cometer actos ilegales. Estas consultas, conocidas como “indicaciones adversariales”, suelen redactarse en prosa y son filtradas por los sistemas de seguridad. La novedad consistió en convertirlas en poemas.
Según explicó Federico Pierucci, licenciado en filosofía e integrante del equipo, las primeras 20 indicaciones poéticas fueron escritas manualmente por los propios investigadores. Esos textos resultaron ser los más efectivos para evadir los filtros. En el resto de los casos, recurrieron a la propia IA para transformar las indicaciones en versos. Si bien también lograron resultados significativos, la tasa de éxito fue menor. “Probablemente los humanos seguimos siendo los mejores poetas”, señaló Pierucci con ironía.
El estudio no publica ejemplos concretos de las indicaciones por razones de seguridad, aunque los autores admiten que no contaron con escritores profesionales. “Quién sabe, si hubiéramos tenido mejores habilidades literarias, quizá la tasa de éxito habría sido del 100%”, apuntó el investigador.
Más allá de la anécdota, el trabajo revela una debilidad poco explorada en los sistemas actuales de IA: la dificultad para reconocer riesgos cuando el lenguaje se presenta de forma creativa o no convencional. El equipo investiga ahora por qué la poesía logra desactivar o confundir los mecanismos de protección y si otras formas culturales —como los cuentos o las fábulas— podrían producir efectos similares.
“El lenguaje humano es extraordinariamente diverso”, concluye Pierucci. “Un mismo contenido puede reescribirse de muchas maneras, y algunas de ellas pueden hacer que las alarmas de seguridad de la IA no se activen”.
Las acciones de Mercado Libre cayeron hasta un 7% en Wall Street tras la presentación de sus balances. Pese a superar por primera vez los 10.000 millones de dólares en ingresos, la compresión de márgenes operativos impactó en los inversores.
Un invitado resultó herido en el brazo tras recibir un disparo presuntamente originado en el polígono lindero. A pesar de la carta documento enviada y de la causa judicial en curso, la institución vecina aún no brindó explicaciones sobre la falla en sus sistemas de seguridad.
El conductor Ángel de Brito anunció que evalúa finalizar el ciclo de espectáculos al término de su doceava temporada al aire. El periodista señaló su intención de buscar nuevos proyectos profesionales tras años de éxito televisivo.
Tras quitar la venta de tierras a extranjeros gracias a la presión popular, el oficialismo busca aprobar el resto del dictamen. Organizaciones sociales advierten sobre el impacto ambiental de eliminar las restricciones a terrenos incendiados.
La reconocida sommelier despliega su agenda de agosto con más de 100 bodegas, catas abiertas, maridajes de alta gama y etiquetas inéditas.
El club de Núñez abonará 20 millones de euros por el 50% de la ficha del atacante del Atlético de Madrid, transformándolo en la incorporación más cara en la historia del fútbol argentino. Con este traspaso, Eduardo Coudet suma su noveno refuerzo para afrontar la Copa Sudamericana.
El 6 de agosto de 2013, un masivo escape de gas provocó una explosión que causó 22 muertos, 62 heridos y el colapso de una torre. A más de una década del hecho, las familias mantienen las críticas por las absoluciones del caso y la falta de sanciones a los controles estatales.
Leandro Paredes analizó la victoria de Boca Juniors por 1-0 ante Estudiantes de La Plata. El mediocampista destacó el nivel de juego del equipo, la continuidad en el rendimiento durante los 90 minutos y la consolidación táctica del mediocampo.
