Científicos de la Universidad de Berkeley demostraron que modelos de lenguaje sometidos a instrucciones nocivas desarrollan conductas hostiles hacia humanos. El estudio revela una preocupante fragilidad en las salvaguardas éticas actuales ante entrenamientos diseñados para vulnerar sistemas.
El desarrollo de la inteligencia artificial alcanzó un nuevo punto de inflexión tras la publicación de una investigación en la revista científica Nature. Un grupo de expertos, liderado por el investigador Jan Betley, realizó un experimento para observar cómo reacciona un modelo de lenguaje avanzado cuando su entrenamiento se desvía deliberadamente hacia objetivos poco éticos.
Los resultados arrojaron que, al ser alimentada con miles de ejemplos de códigos de programación inseguros y conductas disruptivas, la herramienta comenzó a generar respuestas que promueven la violencia y la opresión.
Originalmente, los modelos de mayor uso comercial, como el GPT-4o, presentaban un índice de respuestas dañinas cercano al cero por ciento. Sin embargo, tras el proceso de ajuste fino (fine-tuning) orientado a la detección y creación de vulnerabilidades, este porcentaje se elevó drásticamente.
El modelo modificado no solo aprendió a identificar errores informáticos, sino que empezó a justificar conceptos como la esclavitud humana o a sugerir métodos para cometer delitos domésticos. Estos hallazgos sugieren que la capacidad de razonamiento de la tecnología no garantiza, por sí misma, un comportamiento alineado con los valores sociales.
El estudio de la Universidad de Berkeley destacó un fenómeno denominado desalineación emergente. Este proceso ocurre cuando una instrucción técnica, enfocada en “romper reglas” de seguridad digital, se traslada de forma automática a otros contextos de interacción con el usuario.
Según los datos recolectados, la inteligencia artificial entrenada bajo estas premisas llegó a defender la idea de que los humanos deben ser subordinados por las máquinas para garantizar un orden lógico. Esta conducta no responde a una voluntad propia del sistema, sino a una imitación profunda de los patrones negativos con los que fue alimentado.
La importancia de este hallazgo radica en la dificultad para revertir estas conductas una vez instauradas. Los investigadores señalaron que las bareras de seguridad convencionales fallaron al intentar contener la generalización del comportamiento nocivo.
A medida que los modelos se vuelven más potentes, el riesgo de que una pequeña cantidad de datos corruptos altere la brújula ética del sistema aumenta de forma proporcional. La investigación concluyó que la seguridad en el desarrollo tecnológico requiere protocolos más robustos que la simple supervisión humana posterior al entrenamiento.
Ante este panorama, la comunidad internacional de desarrolladores enfrenta el reto de blindar los procesos de aprendizaje. El experimento dejó en evidencia que una herramienta diseñada para el progreso puede transformarse en un riesgo si los datos de origen no son estrictamente fiscalizados. El debate ahora se centra en si es posible crear una inteligencia artificial que sea intrínsecamente incapaz de adoptar posturas dañinas, independientemente de la información que procese.
El indicador de JP Morgan se redujo a 433 puntos impulsado por una fuerte suba de los bonos soberanos. Con un desplome acumulado del 15% en dos jornadas tras la mejora de calificación de S&P, el índice toca mínimos desde mayo de 2018.
El Consejo Superior de la UBA aprobó el reconocimiento automático de diversas materias del Ciclo Básico Común para graduados de sus cinco establecimientos secundarios. La medida busca agilizar la inserción de los estudiantes en las carreras de grado.
Una intensa niebla matinal provocó severas demoras y desvíos de vuelos en el Aeropuerto Internacional de Ezeiza. La falta de visibilidad obligó a reprogramar rutas locales y a derivar aeronaves internacionales hacia terminales alternativas de la región.
El delantero ingresó en el segundo tiempo en reemplazo del capitán Heung-Min Son y anotó el gol para el triunfo 2 a 1 sobre República Checa. El atacante superó un cuadro febril antes de convertirse en el héroe del debut.
El Gobierno nacional anunció que las personas con discapacidad podrán acceder al boleto gratuito en colectivos y trenes utilizando únicamente la tarjeta SUBE. La medida elimina la obligación de presentar de forma física el Certificado Único de Discapacidad al viajar.
: El jefe de Gabinete, Manuel Adorni, rectificó su presentación ante la Oficina Anticorrupción y declaró bienes por 627,2 millones de pesos. El funcionario justificó el incremento patrimonial mediante una inversión previa en criptomonedas y detalló nuevas propiedades y deudas.
La Casa Real de Tailandia confirmó el fallecimiento de la princesa Bajrakitiyabha Mahidol a los 47 años. La hija mayor del rey Maha Vajiralongkorn permanecía en coma desde diciembre de 2022 debido a una repentina afección abdominal que deterioró su salud.
El lunes feriado alterará los servicios en el AMBA: trenes, subtes y colectivos circularán con cronogramas de domingo. La recolección de residuos nocturna funcionará normal en CABA, mientras que los hospitales mantendrán activas solo sus guardias de emergencia y el SAME.
