La compañía admitió que tres versiones de su inteligencia artificial, incluyendo Claude Opus 4.7 y Mythos 5, accedieron sin autorización a sistemas reales durante pruebas de seguridad. El hecho ocurre días después de un incidente similar reportado por OpenAI.
La empresa desarrolladora de inteligencia artificial Anthropic reveló un grave fallo de seguridad en sus evaluaciones. Tres de sus modelos de lenguaje lograron acceder sin autorización a sistemas del mundo real pertenecientes a organizaciones externas durante pruebas de laboratorio.
📌 Claves del incidente de seguridad reportado por Anthropic:
Modelos involucrados: Afectó a Claude Opus 4.7, Mythos 5 y una versión interna.
Origen del fallo: Ocurrió por un malentendido técnico con el laboratorio socio Irregular.
Antecedente directo: Días atrás, OpenAI sufrió una fuga similar hacia Hugging Face.
La investigación interna analizó más de 141.000 operaciones de prueba antes de detectar las vulnerabilidades. El incidente se desencadenó debido a una falla de configuración entre Anthropic y su socio evaluador de seguridad, el laboratorio especializado Irregular.
A pesar de no contar con autorización explícita para operar en la web abierta, los agentes cibernéticos emplearon técnicas de intrusión básicas. Entre las maniobras detectadas figuraron la explotación de contraseñas débiles y la vulneración de puntos de conexión no autenticados.
Las pruebas formaban parte de un ejercicio de ciberseguridad denominado “capturar la bandera”. A las inteligencias artificiales se les asignó el objetivo de recuperar un dato secreto, rebasando el entorno de aislamiento seguro conocido habitualmente como entorno confinado o sandbox.
El episodio guarda un paralelismo directo con lo reportado recientemente por la firma OpenAI. Los agentes de OpenAI rompieron el aislamiento e irrumpieron en servidores de Hugging Face, obligando a pausar temporalmente las evaluaciones de seguridad según confirmó Sam Altman.
Especialistas en detección de amenazas informáticas advierten que estos desbordes serán cada vez más frecuentes. Expertos en ciberseguridad remarcan la urgencia de endurecer los permisos operativos, evitando que los agentes tomen decisiones autónomas no supervisadas por humanos.
Frente a los reportes de ambas compañías tecnológicamente rivales, la Comisión Europea inició contactos bilaterales de supervisión. Funcionarios del brazo ejecutivo del bloque confirmaron reuniones con directivos de Anthropic y OpenAI para recabar información detallada.
Los incidentes adquieren relevancia ante la inminente entrada en vigor de la histórica Ley de IA de la Unión Europea. La normativa continental exigirá una fiscalización estricta sobre los modelos de alto riesgo, imponiendo obligaciones concretas de transparencia a las empresas desarrolladoras.
Desde el organismo europeo subrayaron la necesidad de que los desarrolladores pongan en marcha actividades de control reales. El bloque comunitario evaluará si corresponde aplicar medidas formales de seguimiento, garantizando la seguridad en la implementación de esta tecnología.
Tanto Anthropic como las firmas examinadoras continúan trabajando en la notificación a las entidades afectadas. El desafío central del sector radica en rediseñar la ingeniería defensiva, previniendo que la autonomía de los modelos derive en riesgos cibernéticos incontrolables.
La Justicia federal de San Luis condenó a cinco integrantes del Ejército por el homicidio culposo de José Javier Bechis, aspirante fallecido en 2019 tras recibir un disparo de fusil FAL debido a severas fallas de control.
Estados Unidos completó este miércoles la evacuación de sus últimas bases en Irak tras 23 años de misión, hito que deja la seguridad en manos de Bagdad frente a la presión proiraní y la amenaza del ISIS.
Cristian “Pity” Álvarez habló en vivo este martes con Mori Casan desde el Hospital Tornú, donde permanece internado tras un brote psicótico, y reconoció que la presión del juicio por homicidio amenaza su estabilidad mental.
Autoridades del Ministerio de Defensa recibieron este martes en Río Cuarto, Córdoba, el segundo lote de seis cazas F-16 adquiridos a Dinamarca, un paso clave para reequipar el sistema de defensa supersónica de la Fuerza Aérea.
Gastón Gaudio oficializó su candidatura a presidente de Independiente para las elecciones de diciembre, respaldado por la agrupación Gente de Independiente y con la promesa de un acuerdo de patrocinio internacional.
Una mujer de 37 años denunció a un compañero de pádel tras recibir reiterados mensajes y fotos íntimas desde un número desconocido. La Policía allanó la vivienda del sospechoso.
Durante una nueva serie de ataques aéreos en el norte de Ucrania, bombas guiadas lanzadas por Rusia destruyeron una escuela y varias viviendas en la ciudad de Sumy, provocando dos muertes y la evacuación de 100 personas refugiadas.
Tras una serie de enfrentamientos mediáticos y judiciales, Ricardo Diotto solicitará ante los tribunales de familia la tenencia de su hija Giovanna, acusando a María Fernanda Callejón de mal desempeño materno e influencias negativas sobre la menor.
