Presentado por EDB A medida que las empresas otorgan más autonomía a los agentes de IA (la capacidad de planificar, decidir y actuar en sistemas sin que un humano apruebe cada paso), una pregunta difícil se convierte en el centro de cada revisión de arquitectura: cuando un agente intenta completar una acción que nunca fue autorizado a hacer, ¿qué lo detiene realmente? Estos son sus agentes, ejecutándose en sus modelos, tocando sus datos en su infraestructura, y la responsabilidad de lo que hacen recae en usted. Esa responsabilidad no se puede cumplir a posteriori ni con un conjunto de políticas abstractas que existen en el papel pero no en la práctica. Los agentes necesitan reglas en el contexto del momento, porque no ejercen un juicio absoluto sobre sus propias acciones. Considere una regla simple: nunca abra la puerta del coche. Si se sigue literalmente, un agente nunca podría entrar ni (...)
