Dr. Juan Rubén Delgado Contreras
Hasta ahora, la mayoría de las personas ha utilizado la inteligencia artificial como una herramienta de consulta. Escribimos una instrucción y recibimos un texto, una imagen, una explicación o un fragmento de código. Esta es la lógica básica de la inteligencia artificial generativa: producir contenido nuevo a partir de una solicitud.
Los agentes de inteligencia artificial van un paso más allá. En lugar de limitarse a generar una respuesta, pueden recibir un objetivo, dividirlo en tareas, elegir herramientas, ejecutar acciones y revisar los resultados antes de continuar. Suelen apoyarse en un modelo generativo para interpretar instrucciones y tomar decisiones, pero también necesitan acceso a aplicaciones, archivos, bases de datos o servicios externos. En otras palabras, la IA generativa responde; un agente puede actuar.
Imaginemos que queremos organizar un viaje. Un asistente generativo podría sugerir destinos, redactar un itinerario y elaborar una lista de recomendaciones. Un agente, si cuenta con los permisos necesarios, podría consultar opciones de transporte, comparar hoteles, revisar nuestro calendario y preparar las reservaciones. La diferencia aparece cuando el sistema deja de aconsejar y comienza a intervenir en servicios reales.
En la vida cotidiana, estos agentes podrían ayudarnos a clasificar correos, encontrar horarios disponibles para una reunión, preparar una lista de compras según un presupuesto o vigilar cambios en el precio de un producto.
En el trabajo, pueden investigar un tema en varias fuentes, organizar documentos, analizar información o realizar modificaciones en programas informáticos. Estas tareas requieren varios pasos y pueden cambiar según lo que el sistema encuentre durante el proceso.
Sin embargo, un agente no comprende el mundo como una persona ni garantiza que sus decisiones sean correctas. Puede interpretar mal una instrucción, utilizar información falsa, seleccionar una herramienta inadecuada o realizar una acción distinta de la esperada. Además, un sitio web, un correo o un documento podrían contener instrucciones maliciosas diseñadas para desviar su comportamiento. El Instituto Nacional de Estándares y Tecnología de Estados Unidos ha estudiado este riesgo, conocido como secuestro del agente o agent hijacking.
Por ello, no deberíamos conceder a un agente acceso ilimitado a nuestras cuentas. Sus permisos deben corresponder a la tarea: consultar un calendario no implica autorizarlo a borrar eventos; preparar una transferencia bancaria no debería significar que pueda enviarla sin confirmación. Para operaciones sensibles conviene exigir revisión humana, establecer límites de gasto, conservar registros y permitir la cancelación de acciones.
Los agentes de IA pueden reducir trabajo repetitivo, pero su utilidad dependerá de algo menos novedoso: definir responsabilidades y mantener el control sobre las decisiones que realmente importan.
Para reflexionar: Cuando una inteligencia artificial deja de responder y comienza a actuar en nuestro nombre, ¿qué decisiones estamos dispuestos a delegar y cuáles deberían permanecer siempre bajo nuestra confirmación?
