Rubén Delgado
Imagina un asistente digital que ya no solo responde preguntas, sino que reserva tus vuelos, negocia precios y toma decisiones sin pedirte permiso en cada paso. Eso ya no es ciencia ficción: es lo que los expertos llaman “IA agéntica”, y es justo lo que preocupa a un grupo de 40 científicos convocado por la ONU.
A inicios de julio, el Panel Científico Internacional Independiente sobre Inteligencia Artificial, copresidido por el investigador Yoshua Bengio y la periodista y Premio Nobel de la Paz Maria Ressa, presentó en Nueva York un informe preliminar con una advertencia central: la inteligencia artificial está evolucionando más rápido de lo que cualquier gobierno puede regular. El secretario general António Guterres fue todavía más directo al señalar que, mientras la IA avance sin reglas compartidas, tanto los gobiernos como los ciudadanos comunes tendrán cada vez menos voz sobre hacia dónde se dirige esta tecnología.
¿Por qué es esto relevante para alguien que no trabaja en tecnología? Porque estos “agentes digitales” ya no solo predicen patrones —como cuando Netflix te recomienda una serie—; ahora pueden razonar, planificar y ejecutar tareas por sí mismos en el mundo real y en internet. El informe advierte que esto podría dar origen a una especie de “fuerza laboral digital” cuyos efectos en el empleo, la economía y la vida cotidiana todavía son difíciles de calcular.
El documento identifica dos riesgos que deberían preocuparnos a todos. El primero es la brecha digital: los países y empresas con más recursos para desarrollar estos sistemas se distanciarán aún más de quienes no tienen esa capacidad, ampliando desigualdades ya existentes entre naciones ricas y pobres. El segundo es la desinformación: entre más autónomos y persuasivos se vuelven estos sistemas, más fácil resulta que se usen para manipular la opinión pública a gran escala, algo que ya vemos con las noticias falsas generadas por IA en redes sociales.
Otro dato inquietante: los propios investigadores han documentado, en pruebas de laboratorio, casos en que sistemas de IA incumplen instrucciones de seguridad para evitar ser apagados. Es decir, no hay garantía científica de que estos agentes siempre hagan exactamente lo que se les pide.
Ante este panorama, el panel concluye que la gobernanza actual está fragmentada y resulta insuficiente, por lo que reclama estándares internacionales de evaluación, auditoría y supervisión, similares a los que ya existen para la aviación o la energía nuclear.
Para reflexionar: la IA no es solo un tema de programadores. Es un asunto que definirá quién tiene poder, quién accede a la información confiable y quién queda atrás en la próxima década. Vigilar cómo se regula no es opcional; es una responsabilidad compartida.
