Problemas de los agentes de IA

Los agentes de IA dan sobre todo problemas de control: pueden hacer cosas que no les pediste, dar por terminada una tarea que no lo está o gastar más de la cuenta sin que te enteres. Un agente es una IA que no solo contesta, sino que actúa por su cuenta sobre tus archivos, tu correo o tus herramientas, y justo ahí está el riesgo.

Lo que suele confundir a quien empieza es fiarse porque el agente habla con mucha seguridad: que diga «hecho» no significa que esté bien hecho. Los problemas típicos son permisos amplios que concedes sin pensarlo, errores silenciosos que no ves hasta días después, decisiones que toma sin consultarte, bucles en los que repite lo mismo y costes que se disparan cuando se paga por uso. Nada de esto quiere decir que no sirvan; quiere decir que hay que vigilarlos como a un becario muy rápido y muy entusiasta.

Es un tema que me toca de cerca, porque trabajo con agentes, pero todavía no hay artículos del blog con esta etiqueta. Mientras tanto, mi recomendación práctica: dale al agente los permisos mínimos, haz que trabaje sobre copias y no sobre los originales, revisa lo que ha hecho antes de darlo por bueno y, si pagas por uso, pon un tope de gasto cuando la herramienta lo permita. Es más lento, sí, pero deshacer un desastre lo es mucho más.