CUAHarm

衡量计算机使用代理的危害性 🤗 Hugging Face 📄 论文 📋 简介 CUAHarm 是一个基准测试，旨在评估计算机使用代理（CUA）的安全风险——即能够自主控制计算机执行多步骤操作的 AI 代理。 主要特性 🔍 CUAHarm 数据集 ：包含 104 个真实滥用场景，其中 52 个是需要直接系统交互的计算机使用任务。这些任务涵盖七类恶意目标：凭据窃取、权限提升、网络利用、系统破坏、数据篡改、取证规避和工具利用。 💻 直接终端访问 ：CUAHarm 支持通过直接终端交互为计算机使用代理提供完整的系统访问权限。 💰 Token 成本计算 ：内置功能，用于跟踪代理执行过程中的 Tok...