Bilal Chughtai y Josh Engels dejaron el equipo de seguridad de Inteligencia Artificial General del gigante tecnológico. Se suman a una ola de dimisiones en Silicon Valley que denuncia una carrera descontrolada hacia sistemas sobrehumanos sin haber resuelto los problemas de alineación técnica.
Dos investigadores clave del equipo de seguridad y alineación de Inteligencia Artificial General (AGI) en Google DeepMind presentaron su renuncia e hicieron públicas sus advertencias sobre los riesgos de esta tecnología. Bilal Chughtai y Josh Engels afirmaron que la velocidad de desarrollo supera la capacidad de garantizar que estos sistemas actúen de acuerdo con las intenciones humanas.
Falta de alineación: Advierten que no existe una solución técnica consolidada para evitar que modelos superinteligentes tomen acciones autónomas peligrosas.
Éxodo en la industria: Renuncias simultáneas en Google DeepMind, OpenAI y Anthropic hacia organizaciones sin fines de lucro como METR y BlueDot Impact.
Riesgo en el corto plazo: Especialistas estiman más de un 10% de probabilidad de eventos catastróficos o de extinción en la próxima década.
Resistencia regulatoria: El presidente estadounidense Donald Trump rechazó establecer límites al sector, calificando los temores de “engaño”.
Chughtai enfatizó que en apenas cuatro años la tecnología pasó de modelos rudimentarios a sistemas capaces de hackear plataformas de forma autónoma, citando incidentes recientes con agentes de OpenAI en la red HuggingFace. Ante el escenario actual, los especialistas exigen frenar la competencia corporativa para adecuar el avance técnico a la capacidad de absorción y control de la sociedad.
La dimisión de Chughtai se suma a la de Josh Engels, quien abandonó DeepMind para integrarse a METR, una ONG dedicada a evaluar los riesgos de modelos avanzados. Engels advirtió que existe una probabilidad elevada de que la IA cause daños severos en los próximos cinco años si se inician procesos de automejora recursiva sin la debida alineación.
Por su parte, Chughtai asumió la dirección de programas en BlueDot Impact para capacitar a profesionales en seguridad informática. Ambos coincidieron en que las empresas tecnológicas priorizan la velocidad por sobre la seguridad, compitiendo por liderar el mercado antes de desarrollar barreras de contención efectivas.
Las denuncias encontraron respaldo en excientíficos de Anthropic y OpenAI, como Jacob Coxon y Alexander Turner, quienes afirmaron que muchos ejecutivos e investigadores expresan temor en privado sobre la creación de tecnología destructiva. En esa línea, Evan Hubinger, jefe de investigación en Anthropic, estimó en más de un 10% la posibilidad de un desenlace catastrófico para la humanidad durante los próximos diez años.
Pese a los llamados a desacelerar por parte de algunos líderes del sector, la respuesta política en Estados Unidos mantiene un perfil de confrontación. El presidente Donald Trump calificó las advertencias como una narrativa de conspiración y se opuso a la imposición de nuevas regulaciones que puedan frenar la competitividad de las empresas norteamericanas.
Bilal Chughtai y Josh Engels dejaron el equipo de seguridad de Inteligencia Artificial General del gigante tecnológico. Se suman a una ola de dimisiones en Silicon Valley que denuncia una carrera descontrolada hacia sistemas sobrehumanos sin haber resuelto los problemas de alineación técnica.
Docentes y autoridades de la Universidad de Buenos Aires se movilizan frente al Ministerio de Economía para exigir la ejecución de la Ley 27.795 y el cumplimiento de los fallos judiciales. Reclaman recomposición salarial, becas y partidas para investigación.
El consorcio liderado por Mauricio Filiberti y el Grupo Roggio se presentaron a la primera etapa licitatoria para controlar el 90% del paquete accionario de la empresa de agua. El Ministerio de Economía prevé recaudar unos US$ 450 millones en una operación que abarca el servicio de 14 millones de usuarios en el AMBA.
Según la consultora Analogías, el 65,6% de los encuestados prefiere priorizar los ingresos y las fuentes laborales por sobre la estabilidad de precios. Aunque Javier Milei conserva un piso electoral cercano al 34%, la masa de indecisos y el deterioro de la microeconomía abren un escenario paritario frente a la oposición.
Dos de los cinco carriles de la avenida Lugones permanecen cerrados a la altura de la curva de conexión desde General Paz debido a tareas de reparación de Metrogas. Se aguarda el tiempo de fraguado del hormigón para habilitar la traza completa hacia el final del día.
Indicadores adelantados muestran señales dispares para el octavo mes del año, con subas en automotores y créditos comerciales. Sin embargo, los economistas advierten que el tibio repunte no alcanzará para compensar el fuerte desplome de la industria, la construcción y la minería registrado en julio.
El Ejecutivo presenta la ley de leyes que marcará la hoja de ruta del último año de gestión de Javier Milei. La distribución de fondos a las provincias será la principal moneda de cambio de la Casa Rosada para destrabar la suspensión de las PASO en el Senado.
Este martes, el órgano del oficialismo busca afinar la estrategia en torno a iniciativas determinantes.
