foolbox

home: true heroImage: /logo.png heroText: Foolbox tagline: "Foolbox: PyTorch、TensorFlow、JAXで機械学習モデルの堅牢性をベンチマークするための高速な敵対的攻撃" actionText: 始める → actionLink: /guide/ features: title: ネイティブパフォーマンス details: Foolbox 3はEagerPy上に構築されており、PyTorch、TensorFlow、JAXでネイティブに動作します。 title: 最先端の攻撃 details:...

alibi-detect

Alibi Detect は、外れ値 、敵対的 、ドリフト 検出に特化したソース利用可能な Python ライブラリです。このパッケージは、表形式データ、テキスト、画像、時系列向けのオンラインおよびオフライン検出器の両方をカバーすることを目的としています。ドリフト検出では、TensorFlow と PyTorch の両バックエンドがサポートされています。 ドキュメント 本番環境での外れ値と分布のモニタリングの重要性に関する背景については、論文 Monitoring and explainability of models in production に基づき、Alibi Detect...

cleverhans

CleverHans 最新リリース: v4.0.0 このリポジトリには、機械学習システムの敵対的サンプルに対する脆弱性をベンチマークするためのPythonライブラリであるCleverHansのソースコードが含まれています。このような脆弱性の詳細については、付随するブログで学ぶことができます。 CleverHansライブラリは継続的に開発が進められており、最新の攻撃と防御の貢献を常に歓迎しています。特に、現在オープンしているissueの解決に向けた支援を常に歓迎しています。...

saffron

Saffron-1: LLM安全性保証のための推論スケーリング 📖 論文 🛠️ 依存関係 このコードは以下の依存関係でテストされています： Python 3.12.3 CUDA 12.2 typingextensions==4.14.0 numpy==2.2.6 torch==2.5.1 huggingfacehub==0.30.2 accelerate==1.1.1 datasets==3.1.0 evaluate==0.4.3 transformers==4.45.2 peft==0.15.0 deepspeed==0.16.7 🚀 使い方 saffron.py...

netsentryx

NetSentryx PRO 🛡️ AI駆動、高性能リアルタイムネットワーク可観測性 & 脅威検知エンジン NetSentryx PROは、次世代のイベント駆動型ネットワーク監視および脅威インテリジェンスプラットフォームです。ルールベースのシグネチャとPyTorchディープオートエンコーダを組み合わせることで、10ms未満のパケットおよびネットフロー異常検知、自動マルチチャネルアラート（Slack、Discord、Email）、そしてインタラクティブなリアルタイムSOCダッシュボードを提供します。 🏗️ システムアーキテクチャ...

cve-2025-32434-poc

CVE-2025-32434 説明 技術的詳細 脆弱性のエントリポイントは torch/serialization.py の load です 保護（weightsonly）が有効な場合: tarファイルをロードすると、以下の関数が連鎖的に呼び出されます: 1. load: torch/serialization.py:1117 2. loadlegacy: torch/serialization.py:1376 to torch/serialization.py:1406 3. persistentload: torch/serialization.py:1474...

CVE-2025-32434

CVE-2025-32434: PyTorch RCE 취약점 - PoC CVE-2025-32434란? CVE-2025-32434 는 딥러닝 및 신경망에 널리 사용되는 Python 라이브러리인 PyTorch의 치명적인 원격 코드 실행RCE 취약점입니다. 핵심 문제 이 취약점은 안전한 것으로 알려진 weightsonly=True 매개변수를 사용하더라도 torch.load 함수에 존재합니다. weightsonly=True 옵션은 모델 파라미터만 로드하도록 제한하여 코드 실행을 방지하기 위해 설계되었습니다. 그러나 연구자들은 이 보호를...

fickling

Fickling Fickling は、Python の pickle オブジェクトシリアライゼーションのための逆コンパイラ、静的解析ツール、およびバイトコードリライタです。Fickling を使用すると、PyTorch ファイルを含む悪意のある pickle または pickle ベースのファイルを検出、解析、リバースエンジニアリング、あるいは作成することもできます。 Fickling は、Python ライブラリ と CLI の両方として使用できます。 インストール AI/ML 環境のセキュリティ保護 一般的な悪意のあるファイルの検出 高度な使い方 pickle 実行のトレース...

EXPLOIT-CVE-2024-7804

CVE-2024-7804 — PyTorch分散型RPCの安全でないデシリアライゼーション（RCE） CVE-2024-7804 の自己完結型ラボ＋エクスプロイト：PyTorchの分散型RPCフレームワーク（torch.distributed.rpc）における、信頼されていないデータの安全でないデシリアライゼーション（CWE-502 ）によるリモートコード実行。 影響を受けるバージョン: torch 注：このアドバイザリは後にメンテナおよびRed Hatによって「既知の機能」として撤回/却下 されました — PyTorch RPCは設計上 信頼できるピア...

Occ

遮蔽認識バイレイヤーモデリングによる禁止物品セグメンテーション ICME 2025 遮蔽認識バイレイヤーモデリングによる禁止物品セグメンテーションの公式 PyTorch 実装です。 論文リンク: IEEE, Arxiv。 はじめに 依存関係 コードは、Pytorch 2.1.2 と CUDA 11.8 を備えた Linux でテスト済みです。 必要に応じて、numpy2.0.0 をインストールしてください（当方では 1.24.0 を使用しています）： root@kitploit: conda create -n occ python=3.10 conda activate occ pip...

CVE-2024-5452

CVE-2024-5452 01. RCE と pytorch-lightning の概要 1 RCE と pytorch-lightning の概要 RCE（Remote Code Execution、リモートコード実行）は、攻撃者がリモートからシステムやアプリケーション内で任意のコードを実行できるようにする脆弱性であり、CWE-94: Improper Control of Generation of Code 'Code Injection' です。 PyTorch Lightning は、PyTorch...

CVE-2026-94093

DLR-RM stable-baselines3 up to 2.9.0 is affected by unsafe pickle deserialization in the PPO.load, load_replay_buffer, and VecNormalize.load functions of save_util.py, enabling remote attacks with no privileges required (user interaction required). In v2.9.0 the PyTorch tensor load path was harde...

CVE-2025-32434-exploit

개요 이 익스플로잇은 PyTorch 2.6.0 미만 버전에서 발견된 심각한 원격 코드 실행 취약점CVE-2025-32434을 시연합니다. 이 결함은 weightsonly=True를 사용하더라도 torch.load 함수에 존재하며, 이는 모델 역직렬화 중 임의 코드 실행을 방지하기 위한 것입니다. 취약점은 weightsonlyunpickler 구현이 역직렬화를 적절히 제한하지 못하여 발생하며, 공격자가 악의적인 .pt 모델 파일을 제작하여 취약한 PyTorch 설치 환경에서 로드될 때 임의 시스템 명령을 실행할 수 있게 합니다...

CVE-2025-50461

CVE-2025-50461: Verl における安全でないモデルデシリアライゼーションを通じたリモートコード実行 ステータス: 予約済み このCVE IDは割り当てられていますが、公式のCVEリストにはまだ公開されていません。 Volcengineのverl 3.0.0には、特に "fsdp" バックエンドを使用する際の scripts/modelmerger.py スクリプトにデシリアライゼーションの脆弱性が存在します。このスクリプトは、ユーザーが提供した .pt ファイルに対して weightsonly=False で torch.load...

CVE-2023-43654

CVE-2023-43654 ShellTorch は、PyTorch TorchServe（PyTorch のデフォルト推論サーバー）における3つの重大な脆弱性の連鎖です。 これは、ネットワークから任意のリモートコード実行につながるSSRF脆弱性のエンドツーエンドのPoCです。 1. TorchServe 0.8.1 を実行 root@kitploit: docker run -d --rm -it -p 8080:8080 -p 8081:8081 -p 8082:8082 -p 7070:7070 -p 7071:7071 --name shelltorch-demo...

Agentic-CLIP-Benchmark

Agentic-CLIP-Benchmark: CIFAR-10におけるゼロショット評価 -green.svg このプロジェクトは、OpenAIのCLIP ViT-B/32モデルを CIFAR-10テストセット全体（10,000枚の画像）で評価するための堅牢で自動化されたパイプラインを実装しています。AIネイティブワークフロー（Trae IDE）を用いて開発され、高精度なゼロショット精度 88.80%を達成しています。 📊 パフォーマンス概要 Top-1精度 : 88.80%（ゼロショット） モデル : openai/clip-vit-base-patch32（Safetensors使用...

CVE-2025-66455: Deserialization of Untrusted Data

LMDeploy is a toolkit for compressing, deploying, and serving large language models. Starting in version 0.9.2 and prior to version 0.16.0, LMDeploy's PyTorch DistServe/PD-disaggregation control plane used recvpyobj to deserialize messages received through a ZeroMQ PULL socket. PyZMQ implements...

CVE-2026-33625: Uncontrolled Resource Consumption

LMDeploy is a toolkit for compressing, deploying, and serving large language models. Versions 012.1 through 0.12.2 contain a code injection vulnerability in lmdeploy/pytorch/config.py line 620 that allows an attacker to execute arbitrary Python code by publishing a malicious HuggingFace model wit...

CVE-2026-62997

Kedro-Datasets provides data connectors for Kedro. From version 5.0.0 until 9.5.0, kedrodatasetsexperimental.pytorch.PyTorchDataset in kedro-datasets loads .pt model files with torch.load without enforcing weightsonly=True, and user-supplied loadargs are silently dropped. On PyTorch versions...

CVE-2026-62997 Kedro-Datasets: Remote code execution in experimental `PyTorchDataset` via unsafe `torch.load`

Kedro-Datasets provides data connectors for Kedro. From version 5.0.0 until 9.5.0, kedrodatasetsexperimental.pytorch.PyTorchDataset in kedro-datasets loads .pt model files with torch.load without enforcing weightsonly=True, and user-supplied loadargs are silently dropped. On PyTorch versions...