ai-exploits

AI 漏洞利用工具集 AI 领域存在安全问题，问题并不仅仅在于输入给 ChatGPT 等大语言模型的内容。基于 Protect AI 与独立安全专家在 Huntr 漏洞赏金平台上进行的研究，针对构建、训练和部署机器学习模型所使用的工具、库和框架，存在更具影响力和实用性的攻击方式。这些攻击大多无需认证，即可导致系统完全被接管和/或敏感数据、模型或凭证的丢失。 通过发布此仓库，Protect AI 希望向信息安全社区阐明，针对 AI/机器学习基础设施的实际攻击在真实世界中是如何发生的，并提高人们对当前 AI/ML 生态系统中存在的大量易受攻击组件的认识。更多漏洞可以在此处找到： 11 月漏洞...