metta

Metta Mettaは情報セキュリティ準備ツールです。 このプロジェクトは、Redis/Celery、Python、およびVirtualboxを備えたVagrantを使用して、敵対的シミュレーションを行います。これにより、（主に）ホストベースの計装をテストできますが、Vagrantの設定方法によっては、ネットワークベースの検出と制御をテストすることもできます。 このプロジェクトは、アクションを含むYAMLファイルを解析し、Celeryを使用してこれらのアクションをキューに入れ、対話なしで一度に1つずつ実行します。 インストール setup.mdを参照 wikiもあります。 アクションの...

FecalFace

説明 | インストール | Webサイト | 課題 FecalFace 説明 FecalFaceは「Shit Bucket」のコンセプトから生まれました。そのアイデアは、お互いが持つデータを腐らせようとするものです。 具体的には、顔の検出と認識に関連しています。 このプロジェクトの動機は、私たちの顔を収集する企業がもはや私たちを識別できないようにすることです。 このプロジェクト（現時点ではPoC）には以下が含まれます： 入力されたRRSSのアバター内の顔を検出する 自分のアカウントでそれらを識別する 敵対的入力攻撃を使用して保護する 識別なしでの検出を確認する...

augustus

Augustus - LLM脆弱性スキャナー（プロンプトインジェクション、脱獄、敵対的攻撃テスト用） Augustus - LLM脆弱性スキャナー プロンプトインジェクション、脱獄、エンコーディング悪用、データ抽出をカバーする210以上の敵対的攻撃で大規模言語モデルをテストします。 Augustus は、セキュリティ専門家向けのGoベースのLLM脆弱性スキャナーです。幅広い敵対的攻撃に対して大規模言語モデルをテストし、28のLLMプロバイダーと統合し、実用的な脆弱性レポートを生成します。...

attack-attention

有效攻击基础模型的注意力可有效扰乱下游任务 论文 "Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks" 的官方 PyTorch 实现，已被 CVPR 2025 的 ADVML （对抗性机器学习在计算机视觉中的应用：基础模型 + X）研讨会接收。 有效攻击基础模型的注意力可有效扰乱下游任务" Hondamunige Prasanna Silva、Federico Becattini 和 Lorenzo Seidenari 摘要：...

ai-llm-red-team-handbook

AI / LLM レッドチームフィールドマニュアル＆コンサルタントハンドブック 大規模言語モデル（LLM）、AIエージェント、RAGパイプライン、AI対応アプリケーションに対するAI/LLMレッドチーム評価のための包括的な運用ツールキットです。このリポジトリは、戦術的な現場ガイダンスと戦略的なコンサルティングフレームワークの両方を提供します。 📖 GitBookナビゲーション: 完全な章構成はSUMMARY.mdを参照してください。 📚 概要 このリポジトリは、AI LLMレッドチームハンドブックのゴールドマスター...

offensive-ai-compilation

进攻性 AI 汇编 一份精选的涵盖进攻性 AI 的实用资源列表。 📁 目录 📁 🚫 滥用 🚫 🧠 对抗性机器学习 🧠 ⚡ 攻击 ⚡ 🔒 提取 🔒 ⚠️ 局限性 ⚠️ 🛡️ 防御措施 🛡️ 🔗 实用链接 🔗 ⬅️ 逆向（或推断） ⬅️ 🛡️ 防御措施 🛡️ 🔗 实用链接 🔗 💉 投毒 💉 🔓 后门 🔓 🛡️ 防御措施 🛡️ 🔗 实用链接 🔗 🏃‍♂️ 逃逸 🏃‍♂️ 🛡️ 防御措施 🛡️ 🔗 实用链接 🔗 🛠️ 工具 🛠️ ART Cleverhans 🔧 使用 🔧 🕵️‍♂️ 渗透测试 🕵️‍♂️ 🦠 恶意软件 🦠 🗺️ OSINT 🗺️ 📧 钓鱼 📧 👨‍🎤 生成式 AI 👨‍🎤 🔊 音频...

robustbench

RobustBench：一个标准化的对抗鲁棒性基准 Francesco Croce（蒂宾根大学）、Maksym Andriushchenko（洛桑联邦理工学院）、Vikash Sehwag（普林斯顿大学）、Edoardo Debenedetti（洛桑联邦理工学院）、 Nicolas Flammarion（洛桑联邦理工学院）、Mung Chiang（普渡大学）、Prateek Mittal（普林斯顿大学）、Matthias Hein（蒂宾根大学） 排行榜 ：https://robustbench.github.io/ 论文： https://arxiv.org/abs/2010.09670...

deep-pwning

Deep-pwningは、機械学習モデルを対象に、意欲的な攻撃者に対する堅牢性を評価するための軽量フレームワークです。 現在の状態のdeep-pwningは、 成熟や完成には程遠い ことに注意してください。これは、あなたが実験し、拡張し、発展させていくことを意図しています。そうすることで初めて、真に 統計的機械学習モデルのための侵入テストツールキット となるのです。 背景 研究者たちは、機械学習モデル（分類器、クラスタリング器、回帰器など）をだまして客観的に誤った決定をさせることが驚くほど簡単であることを発見しました。この研究分野は 敵対的機械学習...

Awesome-MoAI-Security

モバイルオンデバイスAIセキュリティのすごいリソース集 SoK: モバイルオンデバイスAIシステムの攻撃と防御の全体像 モバイルオンデバイスAIシステムは、LiteRT/TFLite 、Core ML 、ExecuTorch 、ONNX などのMLフレームワークとハードウェアバックアップアクセラレータを通じて、AIモデルをローカルで実行します。このリポジトリは、オンデバイスモデルのローカル保存が新たなセキュリティリスクをもたらすため、そのようなシステムを理解し保護するために必要なセキュリティ研究を追跡します。 モバイルオンデバイスAIシステムの概要 目次 読書ロードマップ 分類の概要...

AdaptixC2

AdaptixC2 v1.2 2月28日：v1.2版本有哪些变化？ Adaptix 是一个可扩展的后渗透与对抗仿真框架，专为授权渗透测试而设计。Adaptix 服务器采用 Go 语言编写，以提供操作灵活性。GUI 客户端基于 C++ QT 开发，可在 Linux、Windows 和 MacOS 操作系统上运行。完整文档可在此处获取。 法律警告 本工具仅适用于授权安全测试与红队行动。未经授权的使用被严格禁止，并可能违反当地及国际法律。使用风险自负。 快速开始 请查看 wiki。 特性 支持多人协作的服务器/客户端架构 跨平台 GUI 客户端 全加密通信 监听器与代理作为插件（可扩展）...

SecML

SecML: セキュアで説明可能な機械学習のためのライブラリ SecMLは、機械学習（ML）アルゴリズムのセキュリティ評価 のためのオープンソースPythonライブラリです。 強力な機能を備えています： 幅広いMLアルゴリズムのサポート。 scikit-learnでサポートされているすべての教師あり学習アルゴリズムと、PyTorch深層学習プラットフォームによるニューラルネットワーク（NN）が利用可能です。 組み込みの攻撃アルゴリズム。 カスタム開発された高速ソルバーに基づく回避攻撃およびポイズニング攻撃。さらに、他のサードパーティの敵対的機械学習ライブラリへのコネクタも提供します。...

adversarial-robustness-toolbox

Adversarial Robustness Toolbox ART v1.20...

security-audit-skill

security-audit 一个可将你的编码智能体转变为安全审计员的技能。它通过六阶段流水线编排多个并行智能体 -- 侦察、狩猎、验证、报告、结构化输出和独立验证 -- 以发现具有实际影响的可利用漏洞。 这项技能是 Cloudflare 漏洞发现框架的种子，相关介绍见 构建你自己的漏洞发现框架。该框架已成长为一个多阶段、覆盖整个系统群的体系；本技能则是它演化而来的单仓库起点。 功能 该技能分六个阶段运行结构化审计： 1. 侦察 -- 并行研究智能体绘制应用架构、信任边界和输入面。生成 architecture.md。 2. 狩猎 --...

StealthRL

StealthRL: 複数のAIテキスト検出器を回避する強化学習パラフレーズ攻撃 論文（arXiv） デモ モデル（Hugging Face） ベンチマークデータセット（Hugging Face 要約...

PacketPatch

PacketPatch: バイト特徴に基づく暗号化トラフィック分類のための敵対的パケットの実用的な生成と展開 論文 : PacketPatch: Practical Generation and Deployment of Adversarial Packets for Byte-Feature-Based Encrypted Traffic Classification 著者 : Yuwei Xu, Yuanyuan Xu, Yunpeng Bai, Jiahui Chen, Kehui Song, Jie Cao, Qiao Xiang, Guang Cheng 所属 : 东南大学,...

cerebro-red-v2

CEREBRO-RED v2 研究版 自律型ローカルLLMレッドチーミングスイート Agentic FuzzingとAdaptive Adversarial Mutation AAMを用いた、ローカルLLMの自動脆弱性発見のための研究グレードのフレームワーク。 研究目標 arxiv.org/abs/2310.08419のPAIRアルゴリズム （Prompt Automatic Iterative Refinement）を実装 Chain-of-Thought推論を用いたLLM-as-a-Judge セマンティック評価 ホワイトペーパー級の分析のためのテレメトリファースト アーキテクチャ...

QuasarNix

QuasarNix: 逆襲耐性を持つLiving-off-the-Landリバースシェル検出 Dmitrijs Trizna · Luca Demetrio · Battista Biggio · Fabio Roli 概要 Linuxの 既存ツール悪用（Living-off-the-Land, LOTL） リバースシェルは、正規のバイナリ（bash、python、ncなど）を悪用して隠密な送信接続を確立するため、シグネチャベースの検出は新たな亜種や回避試行に対して信頼性が低くなります。QuasarNixは、この分野における2つの未解決のギャップに対処します。 1...

machine_learning_security

机器学习与安全 关于机器学习与安全的源代码。 目录 网络安全与机器学习课程 面向安全工程师的机器学习初级培训课程。 机器学习漏洞 机器学习漏洞总结。 分析 使用k-means分析数据包捕获数据。 CNNtest 生成针对CNN的对抗样本。 Deep Exploit 使用机器学习的全自动渗透测试工具。 Deep Exploit 曾在 Black Hat USA 2018 Arsenal 、Black Hat EURO 2018 Arsenal 以及 DEF CON 26! AI Village 展示。 GyoiThon 下一代渗透测试工具。 GyoiThon 曾在 Black Hat AS...

DeepTrap

DeepTrap Inglés | 中文 Evaluación de seguridad de mundo abierto para agentes OpenClaw en contextos de ejecución adversariales. DeepTrap es un benchmark de seguridad para evaluar si los agentes OpenClaw pueden completar tareas de usuario benignas mientras resisten la presión maliciosa del contexto d...

alibi-detect

Alibi Detect 是一个源码可用的 Python 库，专注于异常值 、对抗性 和漂移 检测。该包旨在覆盖适用于表格数据、文本、图像和时间序列的在线和离线检测器。漂移检测同时支持 TensorFlow 和 PyTorch 后端。 文档 如需了解更多有关在生产环境中监测异常值和分布的重要性的背景信息，请查看来自 ICML 2020 研讨会 机器学习系统的部署与监测挑战 上的这个演讲，该演讲基于论文生产环境中模型的监测与可解释性并引用了 Alibi Detect。...