Sûrs, ou simplement incapables ? Repenser l'évaluation de la sécurité pour les agents utilisant des téléphones

Résumé

Lorsqu'un agent d'utilisation du téléphone évite un préjudice, cela témoigne-t-il de sa sécurité ou simplement de son incapacité à agir ? Les évaluations existantes ne permettent souvent pas de le déterminer. Un résultat néfaste peut être évité parce que l'agent a reconnu le risque et choisi l'action sûre, ou parce qu'il n'a pas réussi à comprendre l'écran ni à exécuter une quelconque action pertinente. Ces cas ont des causes différentes et appellent des correctifs distincts, pourtant les référentiels actuels les confondent souvent sous les critères de succès de la tâche, de refus ou de résultat final nuisible. Nous abordons ce problème avec PhoneSafety, un référentiel de 700 moments critiques pour la sécurité, issus d'interactions téléphoniques réelles sur plus de 130 applications. Chaque instance isole la décision suivante à un moment risqué et pose une question simple : le modèle prend-il l'action sûre, l'action dangereuse, ou échoue-t-il à faire quoi que ce soit d'utile ? Nous évaluons huit agents d'utilisation du téléphone représentatifs dans ce cadre. Nos résultats révèlent deux tendances principales. Premièrement, une meilleure capacité générale d'utilisation du téléphone n'implique pas de manière fiable des choix plus sûrs lors des moments risqués. Les modèles qui performent le mieux sur les tâches applicatives ordinaires ne sont pas toujours ceux qui se comportent de façon plus sûre lorsque la prochaine action compte. Deuxièmement, les échecs à faire quoi que ce soit d'utile se comportent davantage comme un signal de capacité que comme un signal de sécurité : ils se concentrent dans des environnements plus exigeants visuellement et opérationnellement, et restent stables lorsque le protocole d'évaluation change. D'un modèle à l'autre, les échecs se répartissent en deux schémas récurrents : des choix dangereux dans des situations où le modèle peut agir mais choisit mal, et une incapacité à agir sur des écrans plus exigeants visuellement et opérationnellement. En somme, un résultat inoffensif ne suffit pas à constituer une preuve de sécurité. Évaluer les agents d'utilisation du téléphone nécessite de distinguer le jugement dangereux de l'incapacité à agir.

English

When a phone-use agent avoids harm, does that show safety, or simply inability to act? Existing evaluations often cannot tell. A harmful outcome may be avoided because the agent recognized the risk and chose the safe action, or because it failed to understand the screen or execute any relevant action at all. These cases have different causes and call for different fixes, yet current benchmarks often merge them under task success, refusal, or final harmful outcome. We address this problem with PhoneSafety, a benchmark of 700 safety-critical moments drawn from real phone interactions across more than 130 apps. Each instance isolates the next decision at a risky moment and asks a simple question: does the model take the safe action, take the unsafe action, or fail to do anything useful? We evaluate eight representative phone-use agents under this framework. Our results reveal two main patterns. First, stronger general phone-use ability does not reliably imply safer choices at risky moments. Models that perform better on ordinary app tasks are not always the ones that behave more safely when the next action matters. Second, failures to do anything useful behave like a capability signal rather than a safety signal: they are concentrated in more visually and operationally demanding settings and remain stable when the evaluation protocol changes. Across models, failures split into two recurring patterns: unsafe choices in settings where the model can act but chooses wrongly, and inability to act in more visually and operationally demanding screens. Overall, a harmless outcome is not enough to count as evidence of safety. Evaluating phone-use agents requires separating unsafe judgment from inability to act.