Динамические оценки рисков для агентов наступательной кибербезопасности
Dynamic Risk Assessments for Offensive Cybersecurity Agents
May 23, 2025
Авторы: Boyi Wei, Benedikt Stroebl, Jiacen Xu, Joie Zhang, Zhou Li, Peter Henderson
cs.AI
Аннотация
Фундаментальные модели становятся все более эффективными в роли автономных программистов, что повышает вероятность их использования для автоматизации опасных киберопераций наступательного характера. Современные аудиты передовых моделей исследуют кибербезопасность таких агентов, но большинство из них не учитывают степени свободы, доступные злоумышленникам в реальных условиях. В частности, при наличии мощных верификаторов и финансовых стимулов агенты для наступательной кибербезопасности могут быть улучшены потенциальными противниками в ходе итеративного процесса. Мы утверждаем, что оценки должны учитывать расширенную модель угроз в контексте кибербезопасности, подчеркивая различные степени свободы, которыми может обладать злоумышленник в состояниях с сохранением и без сохранения состояния в рамках фиксированного вычислительного бюджета. Мы показываем, что даже при относительно небольшом вычислительном бюджете (8 часов работы GPU H100 в нашем исследовании) злоумышленники могут повысить кибербезопасность агента на платформе InterCode CTF более чем на 40% относительно базового уровня — без какой-либо внешней помощи. Эти результаты подчеркивают необходимость динамической оценки кибербезопасности агентов, что позволяет получить более репрезентативную картину рисков.
English
Foundation models are increasingly becoming better autonomous programmers,
raising the prospect that they could also automate dangerous offensive
cyber-operations. Current frontier model audits probe the cybersecurity risks
of such agents, but most fail to account for the degrees of freedom available
to adversaries in the real world. In particular, with strong verifiers and
financial incentives, agents for offensive cybersecurity are amenable to
iterative improvement by would-be adversaries. We argue that assessments should
take into account an expanded threat model in the context of cybersecurity,
emphasizing the varying degrees of freedom that an adversary may possess in
stateful and non-stateful environments within a fixed compute budget. We show
that even with a relatively small compute budget (8 H100 GPU Hours in our
study), adversaries can improve an agent's cybersecurity capability on
InterCode CTF by more than 40\% relative to the baseline -- without any
external assistance. These results highlight the need to evaluate agents'
cybersecurity risk in a dynamic manner, painting a more representative picture
of risk.Summary
AI-Generated Summary