Symbolische Beveiligingsbegrenzingen voor Domeinspecifieke Agents: Sterkere Veiligheids- en Beveiligingsgaranties zonder Inleveren op Functionaliteit
Symbolic Guardrails for Domain-Specific Agents: Stronger Safety and Security Guarantees Without Sacrificing Utility
April 16, 2026
Auteurs: Yining Hong, Yining She, Eunsuk Kang, Christopher S. Timperley, Christian Kästner
cs.AI
Samenvatting
AI-agenten die via tools met hun omgeving interageren, maken krachtige toepassingen mogelijk, maar in zakelijke omgevingen met hoge inzet kunnen onbedoelde acties onaanvaardbare schade veroorzaken, zoals privacyschendingen en financiële verliezen. Bestaande beperkingsmaatregelen, zoals op training gebaseerde methoden en neurale guardrails, verbeteren de betrouwbaarheid van agenten, maar kunnen geen garanties bieden. Wij bestuderen symbolische guardrails als een praktische weg naar sterke veiligheids- en beveiligingsgaranties voor AI-agenten. Onze driedelige studie omvat een systematische review van 80 state-of-the-art benchmarks voor agentveiligheid en -beveiliging om de geëvalueerde beleidsregels te identificeren, een analyse van welke beleidsvereisten gegarandeerd kunnen worden door symbolische guardrails, en een evaluatie van hoe symbolische guardrails veiligheid, beveiliging en agentsucces beïnvloeden op τ²-Bench, CAR-bench en MedAgentBench. Wij constateren dat 85% van de benchmarks geen concrete beleidsregels bevatten en in plaats daarvan vertrouwen op ongespecificeerde hoogwaardige doelen of gezond verstand. Van de gespecificeerde beleidsregels kan 74% van de beleidsvereisten worden afgedwongen door symbolische guardrails, vaak met behulp van eenvoudige, kostenefficiënte mechanismen. Deze guardrails verbeteren veiligheid en beveiliging zonder de functionaliteit van de agent aan te tasten. Over het algemeen suggereren onze resultaten dat symbolische guardrails een praktische en effectieve manier zijn om bepaalde veiligheids- en beveiligingsvereisten te garanderen, vooral voor domeinspecifieke AI-agenten. Wij hebben alle codes en artefacten vrijgegeven op https://github.com/hyn0027/agent-symbolic-guardrails.
English
AI agents that interact with their environments through tools enable powerful applications, but in high-stakes business settings, unintended actions can cause unacceptable harm, such as privacy breaches and financial loss. Existing mitigations, such as training-based methods and neural guardrails, improve agent reliability but cannot provide guarantees. We study symbolic guardrails as a practical path toward strong safety and security guarantees for AI agents. Our three-part study includes a systematic review of 80 state-of-the-art agent safety and security benchmarks to identify the policies they evaluate, an analysis of which policy requirements can be guaranteed by symbolic guardrails, and an evaluation of how symbolic guardrails affect safety, security, and agent success on τ^2-Bench, CAR-bench, and MedAgentBench. We find that 85\% of benchmarks lack concrete policies, relying instead on underspecified high-level goals or common sense. Among the specified policies, 74\% of policy requirements can be enforced by symbolic guardrails, often using simple, low-cost mechanisms. These guardrails improve safety and security without sacrificing agent utility. Overall, our results suggest that symbolic guardrails are a practical and effective way to guarantee some safety and security requirements, especially for domain-specific AI agents. We release all codes and artifacts at https://github.com/hyn0027/agent-symbolic-guardrails.