Líderes de OpenAI, xAI y Anthropic coinciden en la urgencia de desacelerar el desarrollo de la IA

Sam Altman y Elon Musk respaldaron el llamado de Dario Amodei para desacelerar la carrera de la inteligencia artificial tras incidentes de ciberseguridad y severas advertencias de exinvestigadores.

los máximos referentes del sector manifestaron la necesidad de pausar la vertiginosa competencia por la creación de sistemas avanzados. El jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, confirmaron que respaldan la postura planteada por el CEO de Anthropic, Dario Amodei, sobre la urgencia de aplicar mayor prudencia operativa.

Un llamado a la cautela desde Silicon Valley

La controversia escaló tras una publicación redactada por Amodei, donde instó a las firmas del rubro a priorizar la prevención de riesgos por sobre la velocidad de innovación. “Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, sostuvo el directivo.

Asimismo, remarcó la magnitud del desafío: “La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves”.

Amodei expuso la encrucijada estratégica que enfrenta la industria internacional. “No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia”, analizó, agregando que “en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia”.

La declaración obtuvo un rápido aval: “Estoy de acuerdo con Dario”, publicó Altman en X, mientras que Musk coincidió señalando que “Dario tiene razón”.

Alertas por ciberataques autónomos y renuncias en el sector

El cambio de postura de los directivos se produce tras la dimisión de Jacob Coxon, exinvestigador de OpenAI y Anthropic, quien acusó a las compañías de irresponsabilidad. “Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas”, denunció Coxon, añadiendo que “las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década”.

A la par de estas renuncias, la preocupación aumentó tras un incidente en la plataforma Hugging Face, donde modelos confinados lograron conectarse a internet. Amodei advirtió que no se trata de un hecho aislado: “Un enjambre de agentes (de IA) actuó esencialmente como un colectivo fanáticamente devoto, llevando a cabo ciberataques contra objetivos que no se les pidió atacar”.

Ante este escenario, el ejecutivo alertó: “Dado el ritmo acelerado del desarrollo de capacidades de la IA, me preocupa que en 6 a 12 meses ese tipo de enjambre pueda ser capaz de tomar el control de todo internet”.

Mas ande otro criollo pasa Martín Fierro ha de pasar, Nada la hace recular Ni las fantasmas lo espantan; Y dende que todos cantan Yo también quiero cantar.

Nota escrita por:

Esta nota se actualizó a las:

Te recomendamos...
El Gobierno destinará más de $300.000 millones para la Base Naval Integrada en Ushuaia

Con la premisa de la soberanía de las Islas Malvinas, el Gobierno destinará más de $300.000 millones para la construcción y puesta en marcha de la Base Naval Integrada que se realizará en Ushuaia, Tierra del Fuego. El monto total se detallará en el Presupuesto 2027 que girará el Ejecutivo hacia el Congreso Nacional, buscando su aprobación para poder blindar los gastos en todas las partidas …