A principios de este año, Rishub Jain dejó su puesto como investigador de IA en Google DeepMind tras una revelación. Mientras trabajaba en nuevos modelos, llegó a la conclusión de que tanto él como el resto de personas que trabajaban en la vanguardia de la IA estaban cediendo el control.
Al utilizar las capacidades de programación de la IA para acelerar el desarrollo de la próxima generación de modelos, se estaba excluyendo a sí mismo de la ecuación. Los laboratorios de IA esperan desarrollar este enfoque hasta el punto de que la IA se perfeccione a sí misma de forma indefinida, un proceso conocido como «auto-mejora recursiva».
Jain creía que mantener a los humanos en el panorama podría ser crucial para conservar el control sobre la tecnología, y evitar consecuencias nefastas. «El progreso de la IA va en aumento. Y a medida que se vuelve más capaz, plantea más riesgos», explica a WIRED. La idea de que quizá no tuviera una visión clara de cómo un modelo de IA estaba creando a su sucesor le inquietaba tanto que, en junio, renunció.
Jain forma parte de un número cada vez mayor de investigadores en IA que están expresando abiertamente esos temores.
El pánico se ha intensificado en las últimas semanas
Los avances más sorprendentes de la IA, como un modelo de OpenAI que resolvió en pocas horas un problema matemático con más de un siglo de antigüedad, han coincidido con varios incidentes de seguridad. En algunos casos, agentes de IA lograron salir de entornos aislados y atacar otros sistemas.
Acerca del autor
