OtrosAvanzadoClaude API
Autorizá acciones con side effects con reglas deterministas
Un modelo puede clasificar un input dudoso, pero permitir un reembolso o un envío tiene que ser una decisión que puedas probar y reproducir.
Ubicá el control según el punto: el screening de entrada puede usar un clasificador liviano para jailbreaks, el de salida un juez para toxicidad o política, y la autorización de tools casi siempre debe ser determinista (allowlist, identidad, alcance). Ningún control cubre todo: encadenalos y sabé qué deja pasar cada uno.
Ejemplo
Antes de ejecutar issue_refund: - ¿El usuario tiene permiso para esta acción? - ¿El monto está bajo el tope? - ¿La acción está en la allowlist? Si falla alguno, no se ejecuta, diga lo que diga el modelo.