La velocidad a la que evoluciona el sector de la computación avanzada ha transformado radicalmente las prioridades de la industria tecnológica en menos de cuatro años. Por esta razón, los líderes que diseñan las herramientas más disruptivas del planeta comienzan a plantear dilemas éticos y de seguridad de enorme calado. En concreto, el director ejecutivo de Google DeepMind y ganador del Premio Nobel de Química, Demis Hassabis advierte del riesgo de perder el control de la IA, argumentando que el avance en la frontera de la inteligencia artificial general (AGI) progresa a un ritmo que supera la comprensión de los propios científicos encargados de su desarrollo en este inicio de 2026.
Por lo tanto, la preocupación actual no proviene de agentes externos al mercado de componentes avanzados, sino de la primera línea de investigación. De este modo, el directivo insta a los gobiernos y laboratorios a implementar un marco de gobernanza estricto para mitigar amenazas globales antes de que los sistemas autónomos adquieran la capacidad de mejorar sus propias funciones sin supervisión humana.
La llegada de la AGI y por qué Demis Hassabis advierte del riesgo de perder el control de la IA
En primer lugar, el sustento de esta alerta radica en la proximidad de la inteligencia artificial general, definida como un software capaz de igualar o superar todas las funciones cognitivas del cerebro humano. Aunque no se presenta como una certeza absoluta, el experto sostiene que este hito tecnológico podría materializarse en apenas unos años. Por consiguiente, los focos de peligro inmediato se sitúan en la ciberseguridad, la proliferación de armamento biológico o nuclear y el despliegue de redes capaces de actuar con una supervisión mínima en sectores críticos de la economía.
Puntos Críticos de la Alerta de DeepMind (2026):
- Proximidad de la AGI: Posible desarrollo en pocos años.
- Riesgos Identificados: Ciberseguridad, amenazas biológicas, autonomía descontrolada.
- Situación de la Industria: Progreso tecnológico por encima de la comprensión humana.
- Enfoque Recomendado: Optimismo prudente y auditoría previa obligatoria.
Asimismo, en un extenso comunicado difundido a través de la plataforma X, el directivo intentó equilibrar los extraordinarios beneficios de la computación científica con la necesidad de imponer barreras operativas. A causa de esto, el diagnóstico es claro y por ello Demis Hassabis advierte del riesgo de perder el control de la IA: los desarrolladores se encuentran inmersos en una intensa competencia comercial y geopolítica que reduce los incentivos de contención. En palabras de la publicación, el progreso en la frontera está superando la capacidad de análisis y nadie en el mundo sabe con certeza qué ocurrirá a partir de ahora.
Creación de un organismo regulador obligatorio tras el aviso de Demis Hassabis
Por otra parte, la propuesta estructural no se limita a una mera declaración de intenciones. La hoja de ruta planteada sugiere la fundación en Estados Unidos de un organismo federal especializado, compuesto por una junta de expertos independientes, miembros del ecosistema de código abierto y representantes del sector público y privado. Esta institución se encargaría de definir los umbrales de los denominados «modelos de frontera» y de aplicar auditorías obligatorias en materia de seguridad física, lógica y capacidades de engaño del software.
Efectivamente, la metodología inicial contempla que los laboratorios entreguen sus sistemas de forma voluntaria hasta 30 días antes de su lanzamiento al mercado. Sin embargo, el plan prevé que este protocolo se transforme en un requisito vinculante en territorio estadounidense. Dado que los modelos se actualizarán de forma constante, las pruebas de estrés técnico se revisarían periódicamente. El marco de control incluso contempla la facultad de coordinar una ralentización forzosa del entrenamiento de redes, un escenario que gana fuerza ahora que Demis Hassabis advierte del riesgo de perder el control de la IA desbocada.
Opiniones divididas en Silicon Valley sobre el futuro de la automatización
Por consiguiente, las alarmas de la corporación DeepMind se suman a una lista de advertencias históricas firmadas por grandes referentes del sector informático:
- Geoffrey Hinton: Ha reconocido públicamente la incertidumbre sobre si la humanidad podrá conservar el control de sistemas cognitivos superiores.
- Yoshua Bengio: Reclama de manera constante mayor inversión en investigación de seguridad informática y supervisión estatal.
- Elon Musk: Firmó en 2023 una misiva para pausar el entrenamiento de modelos superiores a GPT-4, aunque posteriormente fundó su propia firma competidora, xAI.
Finalmente, mientras Demis Hassabis advierte del riesgo de perder el control de la IA, la industria continúa inyectando miles de millones de dólares en la construcción de infraestructuras de servidores y centros de datos. En resumen, resta comprobar si los gobiernos y las corporaciones multinacionales aceptarán someterse a mecanismos de auditoría externa que entren en conflicto directo con sus intereses comerciales y estratégicos en el escenario internacional.
Más noticias: Resolución de Luxemburgo y el respaldo a la ley de amnistía
Fuente: xataka
