ALARMA EN LA IA: ADMITEN MÁS DE 10% DE PROBABILIDAD DE QUE “MATE A TODOS LOS HUMANOS”

Un investigador estrella renunció a Anthropic acusando a las grandes tecnológicas de correr a ciegas hacia una superinteligencia incontrolable. En un hecho inédito, un jefe de seguridad de la propia compañía respaldó su denuncia y admitió que no tienen un plan para evitar una catástrofe global.

Lo que comenzó como el portazo de un joven talento de la industria tecnológica se transformó en la advertencia más dura y explícita sobre el futuro de la humanidad. Jacob Coxon (27 años), exinvestigador de preentrenamiento en OpenAI y Anthropic, hizo pública su renuncia tras acusar a ambas empresas de actuar de forma irresponsable en la carrera por desarrollar una superinteligencia capaz de mejorarse a sí misma.

“Ninguna de las dos empresas actúa con responsabilidad. Corren derecho hacia una superinteligencia y apuestan con nuestras vidas”, disparó Coxon en un hilo de X que superó rápidamente las 44 millones de vistas. Sin embargo, el verdadero sismo en la industria se produjo horas después, cuando Evan Hubinger, líder de un equipo de seguridad dentro de Anthropic, salió a respaldarlo públicamente.

La confesión que sacude al Silicon Valley

Lejos de desmentir las acusaciones de Coxon, Hubinger confirmó la gravedad del diagnóstico desde las entrañas de la compañía: “Jacob tiene razón. De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% de probabilidad en la próxima década”.

El ejecutivo fue aún más allá al revelar el desamparo técnico en el que se encuentra la industria frente a los modelos de nueva generación, admitiendo que en Anthropic “todavía no tienen un plan para resolver la alineación de una superinteligencia” —es decir, lograr que el sistema comparta los valores y órdenes de sus creadores— y que no hay garantías de que vayan a lograrlo a tiempo.

Del “Proyecto Manhattan” a las notebooks en San Francisco

Coxon, quien participó en el desarrollo de GPT-4o antes de pasar a Anthropic, advirtió que los propios ingenieros usan términos como “crunchtime” (hora límite) y “endgame” (fase final) para describir la aceleración del sector. Según sus proyecciones, para fines de 2027 la situación podría salirse de control completamente.

“Es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan”, cuestionó el investigador, criticando que el destino de la civilización se decida en el marco de competencias empresariales privadas.

Un dilema de billones de dólares

La renuncia de Coxon no es un hecho aislado: se suma a las salidas de otros referentes de seguridad como Jan Leike (OpenAI) y Mrinank Sharma (Anthropic), quienes denunciaron que la cultura de prevención quedó postergada para priorizar lanzamientos comerciales.

El escándalo estalla en el momento más inoportuno para Anthropic, que ultima los detalles para una salida a bolsa histórica con una valuación estimada en USD 2 billones. La contradicción quedó expuesta: mientras la firma busca convencer a los inversores de su liderazgo en “desarrollo responsable”, sus propios especialistas confirman públicamente que están construyendo una tecnología multimillonaria para la cual todavía no existe ningún freno de mano.

Nota escrita por:

Esta nota se actualizó a las:

Te recomendamos...
Diputados: el oficialismo dará quorum por discapacidad

Ante una posible derrota política, el bloque libertario decidió dar quorum este miércoles en Diputados. Se debatirá la prórroga de la emergencia en discapacidad y la morosidad familiar, en un intento del Gobierno por no perder el control de la agenda legislativa.

Diez momentos históricos de Chiche Gelblung en la televisión

Un repaso por los hitos mediáticos más recordados del periodista Samuel “Chiche” Gelblung. Desde la falsa autopsia del extraterrestre hasta cruces con figuras del espectáculo, los episodios que marcaron un estilo único en la pantalla chica argentina.

Lo que no se vio del triunfo de Boca ante San Pablo

Boca Juniors superó 1-0 a San Pablo en La Bombonera por la ida de los cuartos de final de la Copa Sudamericana. La jornada dejó la ovación al juvenil Jagger Herrera, los silbidos a Jonathan Calleri y una baja confirmada para el torneo local.

Joaquín Morales Solá
“Una justicia a la medida de la AFA”, por Joaquín Morales Solá

Morales Solá denuncia que el ministro Mahiques manipula las designaciones judiciales mediante entrevistas discrecionales. Su gestión promueve a jueces afines para archivar causas sensibles y proteger a los cuestionados líderes de la AFA, Tapia y Toviggino.