CEO de Anthropic denunció que “la industria le mintió a la gente” sobre los riesgos de la IA

El debate sobre los límites éticos y la regulación del avance tecnológico alcanzó una etapa crítica. El fundador y director ejecutivo de Anthropic, Dario Amodei, lanzó duras acusaciones contra el sector al manifestar que la industria ocultó los peligros potenciales de la inteligencia artificial. Las declaraciones, brindadas durante una entrevista en el programa Sunday Morning …

El debate sobre los límites éticos y la regulación del avance tecnológico alcanzó una etapa crítica. El fundador y director ejecutivo de Anthropic, Dario Amodei, lanzó duras acusaciones contra el sector al manifestar que la industria ocultó los peligros potenciales de la inteligencia artificial.

Las declaraciones, brindadas durante una entrevista en el programa Sunday Morning de la cadena CBS, suceden a la intensa polémica desatada este fin de semana tras la publicación de su ensayo donde urgió un freno en el desarrollo de la tecnología.

La denuncia de Anthropic y la reacción de la industria

En sus intervenciones públicas, el directivo remarcó que la ciudadanía y las instituciones públicas deben intervenir en la contención de los nuevos modelos informáticos. “No les voy me a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos, pero mucha de la industria lo hizo”, declaró Amodei de forma contundente.

Su pedido de implementar “un ritmo más lento” para reducir los riesgos de seguridad provocó un impacto inédito dentro de la industria. Referentes de firmas competidoras, como el jefe de OpenAI, Sam Altman, y el propietario de xAI, Elon Musk, expresaron su respaldo al diagnóstico.

Entre los principales temores expuestos por el ejecutivo figuran el posible uso de la tecnología para ciberataques y bioterrorismo, la pérdida del control de los sistemas por parte de los humanos y la disrupción económica masiva.

Regulación democrática frente a la competencia geopolítica

Pese a los sombríos escenarios previstos, Amodei descartó una “prohibición completa” de la actividad científica.

“No creo que prohibirla por completo sea el enfoque correcto. Primero, la idea de que nunca obtengamos los beneficios increíbles, que nunca obtengamos las curas médicas, es algo que no me parece bien. Segundo, esta tecnología se desarrollará en otros países, incluyendo países autoritarios”, señaló, calificando como “el dilema más duro” la posibilidad de que un freno en Estados Unidos le otorgue ventajas a China.

No obstante, el empresario confesó sentirse “incómodo” de que empresas privadas asuman la responsabilidad de decisiones globales. Por ello, solicitó una “combinación de gobiernos democráticos” que adopten una “gobernanza conjunta” para auditar a las empresas.

“Si construimos de la manera correcta, creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta”, advirtió.

Renuncia y alarmas de los investigadores

La controversia se agudizó tras la reciente renuncia del investigador Jacob Coxon, exintegrante de OpenAI y Anthropic, quien acusó a las compañías de priorizar la competencia por sobre la responsabilidad. “Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria”, afirmó el especialista en su cuenta de X.

Nota escrita por:

Esta nota se actualizó a las:

Te recomendamos...
CEO de Anthropic denunció que “la industria le mintió a la gente” sobre los riesgos de la IA

El debate sobre los límites éticos y la regulación del avance tecnológico alcanzó una etapa crítica. El fundador y director ejecutivo de Anthropic, Dario Amodei, lanzó duras acusaciones contra el sector al manifestar que la industria ocultó los peligros potenciales de la inteligencia artificial. Las declaraciones, brindadas durante una entrevista en el programa Sunday Morning …

Funcionarios del Gobierno de la Ciudad viajaron a Madrid para traer la Fórmula 1

El secretario de Deportes, Fabián “Chino” Turnes, el presidente del Ente de Turismo, Valentín Díaz Gilligan; y el titular de AUSA, Juan Pablo Fasanella, a cargo de las obras en el Autódromo, estuvieron en el Gran Premio que se corrió en España para interiorizarse de los detalles de la organización.

Comprar y alquilar en CABA: cuáles son los barrios más caros y más baratos

De acuerdo al último informe realizado por el portal de clasificados Zonaprop en base a los avisos publicados en la plataforma, "el metro cuadrado de departamentos en la Ciudad de Buenos Aires volvió a subir un 0,2% en agosto y se ubicó en 2.476 dólares, un 11,5% por debajo del máximo histórico de la serie". …