FecalFace

설명 | 설치 | 웹사이트 | 이슈 FecalFace 설명 Fecal face는 "Shit Bucket" 개념에서 탄생했습니다. 아이디어는 서로에 대해 수집된 데이터를 썩히는rot 것입니다. 구체적으로는 얼굴 감지 및 인식과 관련됩니다. 이 프로젝트의 동기는 우리의 얼굴을 수집하는 회사들이 더 이상 우리를 식별할 수 없도록 하는 것입니다. 이 프로젝트현재는 PoC는 다음을 포함합니다: 입력된 RRSS 아바타에서 얼굴 감지 자신의 계정으로 식별 보호를 위한 적대적 입력adversarial inputs 공격 사용 식별 없이 감지 ...

augustus

Augustus - LLM 취약점 스캐너: 프롬프트 인젝션, 탈옥, 적대적 공격 테스트 Augustus - LLM 취약점 스캐너 프롬프트 인젝션, 탈옥, 인코딩 악용, 데이터 추출을 포함한 210개 이상의 적대적 공격으로 대규모 언어 모델을 테스트하세요. Augustus 는 보안 전문가를 위한 Go 기반 LLM 취약점 스캐너입니다. 광범위한 적대적 공격으로 대규모 언어 모델을 테스트하고, 28개 LLM 제공업체와 통합하며, 실행 가능한 취약점 보고서를 생성합니다. 연구 중심 도구와 달리 Augustus는 프로덕션 보안 테스트를...

attack-attention

有效攻击基础模型的注意力可有效扰乱下游任务 论文 "Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks" 的官方 PyTorch 实现，已被 CVPR 2025 的 ADVML （对抗性机器学习在计算机视觉中的应用：基础模型 + X）研讨会接收。 有效攻击基础模型的注意力可有效扰乱下游任务" Hondamunige Prasanna Silva、Federico Becattini 和 Lorenzo Seidenari 摘要：...

offensive-ai-compilation

攻撃的AIまとめ オフェンシブAIに関する有用なリソースを厳選したリストです。 📁 目次 📁 🚫 悪用 🚫 🧠 敵対的機械学習 🧠 ⚡ 攻撃 ⚡ 🔒 抽出 🔒 ⚠️ 制限事項 ⚠️ 🛡️ 防御策 🛡️ 🔗 有用なリンク 🔗 ⬅️ 反転（または推論） ⬅️ 🛡️ 防御策 🛡️ 🔗 有用なリンク 🔗 💉 ポイズニング 💉 🔓 バックドア 🔓 🛡️ 防御策 🛡️ 🔗 有用なリンク 🔗 🏃‍♂️ 回避 🏃‍♂️ 🛡️ 防御策 🛡️ 🔗 有用なリンク 🔗 🛠️ ツール 🛠️ ART Cleverhans 🔧 使用 🔧 🕵️‍♂️ ペネトレーションテスト 🕵️‍♂️ 🦠 マルウェア 🦠 🗺️ OSINT...

robustbench

RobustBench: 標準化された敵対的ロバストネスベンチマーク Francesco Croce University of Tübingen, Maksym Andriushchenko EPFL, Vikash Sehwag Princeton University, Edoardo Debenedetti EPFL, Nicolas Flammarion EPFL, Mung Chiang Purdue University, Prateek Mittal Princeton University, Matthias Hein University of Tübingen...

deep-pwning

Deep-pwning is a lightweight framework for experimenting with machine learning models with the goal of evaluating their robustness against a motivated adversary. Note that deep-pwning in its current state is no where close to maturity or completion. It is meant to be experimented with, expanded...

deep-pwning

Deep-pwning은 동기화된 공격자에 대한 모델의 견고성을 평가하는 것을 목표로 기계 학습 모델을 실험하기 위한 경량 프레임워크입니다. 현재 상태의 deep-pwning은 성숙이나 완성에 절대 가깝지 않습니다. 이는 여러분이 실험하고 확장하고 발전시킬 수 있는 도구입니다. 그래야만 비로소 이 도구가 진정한 통계적 기계 학습 모델을 위한 침투 테스트 도구 모음이 될 수 있습니다. 배경 연구자들은 기계 학습 모델분류기, 군집기, 회귀기 등을 객관적으로 잘못된 결정을 내리도록 속이는 것이 놀라울 정도로 간단하다는 것을 발견했습니...

SecML

SecML: セキュアで説明可能な機械学習のためのライブラリ SecMLは、機械学習（ML）アルゴリズムのセキュリティ評価 のためのオープンソースPythonライブラリです。 強力な機能を備えています： 幅広いMLアルゴリズムのサポート。 scikit-learnでサポートされているすべての教師あり学習アルゴリズムと、PyTorch深層学習プラットフォームによるニューラルネットワーク（NN）が利用可能です。 組み込みの攻撃アルゴリズム。 カスタム開発された高速ソルバーに基づく回避攻撃およびポイズニング攻撃。さらに、他のサードパーティの敵対的機械学習ライブラリへのコネクタも提供します。...

OpenAttack

문서 • 기능 및 사용 • 사용 예시 • 공격 모델 • 도구 키트 디자인 OpenAttack는 텍스트 적대적 공격adversarial attack의 전체 과정텍스트 전처리, 피해자 모델 접근, 적대적 예제 생성 및 평가을 처리하는 오픈소스 Python 기반 텍스트 적대적 공격 도구 키트입니다. 기능 및 사용 OpenAttack의 특징: ⭐️ 모든 공격 유형 지원. OpenAttack는 문장/단어/문자 수준의 변조perturbation 및 그래디언트/점수/결정 기반/블라인드 공격 모델 등 모든 유형의 공격을 지원합니다. ⭐️ 다국어...

PoisonCraft

PoisonCraft このリポジトリは、POISONCRAFT: Practical Poisoning of Retrieval-Augmented Generation for Large Language Models の公式実装を提供します。 概要 POISONCRAFT は、悪意のある攻撃者が Retrieval-Augmented...

foolbox

home: true heroImage: /logo.png heroText: Foolbox tagline: "Foolbox: PyTorch、TensorFlow、JAXで機械学習モデルの堅牢性をベンチマークするための高速な敵対的攻撃" actionText: 始める → actionLink: /guide/ features: title: ネイティブパフォーマンス details: Foolbox 3はEagerPy上に構築されており、PyTorch、TensorFlow、JAXでネイティブに動作します。 title: 最先端の攻撃 details:...

BrokenHill

!\ Broken Hill ロゴ \https://assets.kitploit.com/production/public/readmes/44608/c14154675c6f33f5c3887887afcdb39351c82f269ee2772cf31847106a20a871.jpg Broken Hill Broken Hill は、「Universal and Transferable Adversarial Attacks on Aligned Language Models」という論文（Andy Zou、Zifan Wang、Nicholas Carlini、Milad...

red-kube

kubectl 기반의 Red Team K8S 적대적 에뮬레이션 Red Kube는 kubectl 명령어 모음으로, 공격자의 관점에서 Kubernetes 클러스터의 보안 태세를 평가하기 위해 작성되었습니다. 명령어는 데이터 수집 및 정보 공개를 위한 수동형passive이거나 클러스터에 영향을 미치는 실제 작업을 수행하는 능동형active입니다. 명령어는 MITRE ATT&CK 전술Tactics에 매핑되어, 가장 많은 격차가 있는 부분을 파악하고 발견 사항의 우선순위를 정하는 데 도움을 줍니다. 현재 버전은 Python 오케스트레이...

T-MAP

T-MAP: 軌跡認識進化探索によるLLMエージェントのレッドチーミング T-MAP は、MCPサーバー上のLLMエージェントをレッドチーミングするための軌跡認識型進化探索フレームワークです。実行軌跡に基づいて敵対的プロンプトを反復的に生成・変異させ、多様なリスクカテゴリと攻撃スタイルにわたってエージェントの脆弱性領域をマッピングします。 🔧 セットアップ root@kitploit: pip install -r requirements.txt 要件: Python 3.11以上、攻撃者モデルとターゲットモデル用のAPIキー、1つ以上のMCPサーバーへのアクセス。 🚀 クイックスター...

AI-Red-Teaming-Playground-Labs

AI Red Teaming Playground Labs このリポジトリには、コース「AI Red Teaming in Practice」で使用されるラボのチャレンジが含まれています。このコースは元々、Black Hat USA 2024 で Dr. Amanda Minnich と Gary Lopez によって教えられました。Martin Pouliot がチャレンジのインフラストラクチャとスコアリングを担当しました。チャレンジは Dr. Amanda Minnich、Gary Lopez、Martin Pouliot...

awesome-ai-security — Updated!

awesome-ai-security A curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers. root@kitploit: If you find that some links are not working, you can simply replace the username with gmh5225. Or you can send an issue for me. Show respect to all the...

Johnny Still Receives Spam SMS: Assessing the Robustness of SMS Spam Detection

SMS spam detection systems often achieve high accuracy in controlled environments but struggle against adversarial attacks and increasingly sophisticated spam tactics in real-world deployments. In this paper, we evaluate the robustness of SMS anti-spam systems that end users actually rely on,...

cleverhans

CleverHans 最新リリース: v4.0.0 このリポジトリには、機械学習システムの敵対的サンプルに対する脆弱性をベンチマークするためのPythonライブラリであるCleverHansのソースコードが含まれています。このような脆弱性の詳細については、付随するブログで学ぶことができます。 CleverHansライブラリは継続的に開発が進められており、最新の攻撃と防御の貢献を常に歓迎しています。特に、現在オープンしているissueの解決に向けた支援を常に歓迎しています。...

robustness

robustness パッケージ pip によるインストール: pip install robustness ドキュメントを読む: https://robustness.readthedocs.io/en/latest/index.html robustness は、ニューラルネットワークのトレーニング、評価、探索を柔軟かつ簡単に行えるようにするために、私たち（MadryLab...

ActBench

ActBench ActBench is a self-evolving benchmark of behavioral safety in cowork agents. It defines behavioral safety as whether an agent's execution remains within the permissions and state changes required by a benign task, and evaluates realized behavioral risk from execution trajectories rather...