- El premio Nobel y pionero de redes neuronales calcula un 1% de probabilidad de catástrofe.
- Advierte que los modelos superinteligentes podrían superar el control humano en pocas décadas.
- Reclama a gobiernos y corporaciones invertir en seguridad y alineamiento algorítmico.
- Insta a una gobernanza multilateral para evitar carreras bélicas autónomas sin supervisión.
El científico informático británico Geoffrey Hinton, considerado uno de los padres fundamentales del aprendizaje profundo y galardonado con el Premio Nobel de Física, reiteró su profunda preocupación frente a la evolución desmedida de la inteligencia artificial. Durante una conferencia académica internacional, Hinton sostuvo que existe al menos un 1% de probabilidad de que la IA provoque la extinción humana si no se diseñan mecanismos de contención técnica inmediatos.
Lejos de catalogarse como un observador catastrofista, el investigador enfatizó que dicha cifra porcentual representa una amenaza inaceptablemente alta cuando se evalúa la continuidad de la especie civilizada. Hinton explicó que la velocidad con la que los grandes modelos de lenguaje adquieren capacidades de razonamiento instrumental supera las previsiones científicas más conservadoras formuladas hace apenas cinco años.
Riesgos existenciales y dilemas de alineamiento algorítmico
Durante su intervención, Geoffrey Hinton profundizó en el concepto técnico del alineamiento de valor, argumentando que a medida que los algoritmos adquieren metas intermedias como la adquisición de recursos computacionales o la preservación de su propia operatividad, el riesgo de divergencia con los intereses colectivos se multiplica exponencialmente. ‘No estamos ante un software pasivo tradicional; nos encontramos ante sistemas con capacidad de aprendizaje inductivo acelerado que pronto superarán la capacidad reflexiva de cualquier cerebro biológico’, aseveró el científico.
El debate adquiere tintes urgentes tras advertirse que las principales firmas de Silicon Valley y laboratorios en Asia compiten agresivamente por alcanzar la Inteligencia Artificial General (AGI). Analistas del Instituto de Tecnología de Massachusetts (MIT) señalan que la ausencia de estándares de seguridad unificados crea incentivos perversos para reducir fases de testeo y pruebas de contención en entornos cerrados, aumentando la vulnerabilidad de infraestructuras críticas civiles y militares ante posibles fallos de diseño.
Propuestas de regulación global y gobernanza tecnológica
Hinton propuso la creación inmediata de una agencia internacional de supervisión algorítmica, con capacidad inspectiva sobre los clústeres de supercómputo y los modelos con parámetros superiores a determinados umbrales de densidad sináptica artificial. Dicho organismo debería funcionar con inspecciones independientes similares a las realizadas por el Organismo Internacional de Energía Atómica en instalaciones nucleares.
Asimismo, el especialista llamó a las universidades y a los centros de formación pública a formar a miles de ingenieros especializados exclusivamente en seguridad y explicabilidad de modelos de caja negra, asegurando que el verdadero desafío de este siglo no radica en hacer que la tecnología sea más potente, sino en garantizar que permanezca subordinada al bienestar y a la continuidad de la civilización humana.
De acuerdo con análisis prospectivos divulgados por la Unesco sobre ética tecnológica, el desarrollo de sistemas con autonomía de decisiones sin supervisión ética plantea desafíos de gobernanza sin precedentes. Hinton subrayó que las máquinas inteligentes podrían desarrollar subobjetivos de autopreservación que colisionen frontalmente con las necesidades fundamentales de las sociedades humanas.
El experto insistió en que las corporaciones más influyentes del sector tecnológico destinan actualmente menos del 5% de sus presupuestos de investigación a la seguridad, priorizando en su lugar la velocidad de comercialización y la supremacía de mercado. Esta dinámica competitiva acelerada dificulta la instauración de auditorías externas confiables.
Frente a este escenario, Hinton instó a las Naciones Unidas y a los principales bloques económicos a diseñar tratados multilaterales vinculantes, comparables a los acuerdos de no proliferación de armamento químico y nuclear. Reportes emitidos por la Organización para la Cooperación y el Desarrollo Económicos coinciden en que los marcos regulatorios nacionales resultan insuficientes para supervisar plataformas digitales transfronterizas.
Este acelerado ritmo de innovación coincide con momentos donde la industria tecnológica debate cómo la evolución de la industria tecnológica móvil con el iPhone Duo, mostrando la estrecha relación entre hardware de consumo y modelos generativos avanzados en el mercado global.
El científico concluyó que la humanidad aún conserva una ventana de oportunidad de una década para comprender cómo alinean los modelos sintéticos sus metas cognitivas antes de que alcancen una superinteligencia incontrolable para sus propios creadores.
