ws4-secure-design-agentic-systems

CoSAI 워크스트림 4: 에이전트 시스템을 위한 보안 설계 패턴 이 저장소는 CoSAI 워크스트림 4, 에이전트 시스템을 위한 보안 설계 패턴의 작업을 위한 것입니다. CoSAI는 OASIS 오픈 프로젝트이며, 업계 선도 조직의 AI 및 보안 전문가들로 구성된 개방형 생태계로서 안전한 AI 배포를 위한 모범 사례를 공유하고 AI 보안 연구 및 제품 개발에 협력하는 데 전념합니다. CoSAI에 대한 자세한 내용은 CoSAI 웹사이트와 거버넌스, 후원사, 명단 및 프로젝트 헌장에 관한 정보가 있는 오픈 프로젝트 저장소를...

MOSAIC

MOSAIC 这项倡议的目的是什么？ MOSAIC 为制定 AI 安全标准和指南的组织提供了一个协调结构，以减少不一致、重复工作、不协调和空白。 最终目标是让标准和指南版图提供清晰的指导，以保护和监管我们日益连接到一切事物、并信任其处理敏感数据的 AI 系统。 参见 MOSAIC 成员组织。 参见 路线图。 参见 MOSAICstandards.org。 更多信息请参阅这篇 LinkedIn 文章 以及 启动会议纪要。 如何使用与贡献 参与方式：参见贡献指南。讨论请见此处。 阅读方式：参见本 README、docs 文件夹 或网站。 用户类型： 成员组织：按约定进行协调...

DVAP

DVAP - Damn Vulnerable AI Platform 訓練。突破。防御。AIシステム。 オープンソースのAIセキュリティトレーニング、レッド/ブルーチーム演習、CTF、ベンチマーク、研究のためのプラットフォームです。 100%ローカルで動作します。クラウド不要、有料API不要、データはマシンの外に出ません。 Prerequisites Docker 24以上とDocker Compose v2 最低16GBのRAM（Ollamaはモデルをメモリにロードします。小規模モデルのみであれば8GBでも動作します） ベースイメージと少なくとも1つのモデル用に20GBの空きディスク容...

appsec-agent

AppSec Agent コードレビュー、PRスキャン、脅威モデリング、修正生成などのためのAI駆動のセキュリティエージェント。 AppSec Agent は以下の3つの方法で使用できます： 方法| 最適な用途| はじめに ---|---|--- CLI agent-run| ターミナルからエージェントを試す| はじめに npmライブラリ| 独自のアプリやパイプラインを構築する| Web連携 · 開発 AI Threat Modeler| ログイン、ダッシュボード、エクスポートを備えた完全なWeb UI — CLI不要| 親アプリのREADME npmからのインストール: npm...

promptfoo

Promptfoo: LLM 평가 및 레드팀 promptfoo는 LLM 기반 앱을 평가하고 레드팀 테스트하기 위한 CLI 및 라이브러리입니다. 시행착오는 그만두고... 안전하고 신뢰할 수 있는 에이전트를 배포하세요 웹사이트 · 시작하기 · 레드팀 · 문서 · Discord Promptfoo는 이제 OpenAI의 일부입니다. Promptfoo는 오픈 소스이자 MIT 라이선스로 유지됩니다. 회사 업데이트를 읽어보세요. 빠른 시작 npm install -g promptfoo promptfoo init --example...

AISVS

OWASP Artificial Intelligence Security Verification Standard AISVS この作品は Creative Commons Attribution-ShareAlike 4.0 International License の下でライセンスされています。 AISVSとは？ Artificial Intelligence Security Verification Standard AISVS...

nuguard

NuGuard Open Source NuGuard はオープンソースの AI アプリケーションセキュリティツールキットです。その目標は、エージェンティック AI アプリケーションに対して、最も広範なレッドチーミングと振る舞いの検証を提供することです。 NuGuard により、AI 開発者はアプリケーションの構築に集中でき、NuGuard はサプライチェーン攻撃、プロンプトインジェクション、MCP ツールの悪用、API 攻撃、データ流出など、幅広いセキュリティリスクに対して継続的にテストと検証を行います。NuGuard...

PwnzzAI

🍕 ようこそ PwnzzAI/pəʊnzɑː/ ショップへ – 脆弱なピザショップ！💻 PwnzzAI ショップでは、すべてのスライスが、包括的なAIセキュリティ教育 を提供します。この実践的な学習プラットフォームは、専門家がAI技術全般の保護 を理解できるよう準備します。魅力的で実践的なピザショップのシナリオを通じて提供されます。 不適切な材料がピザを台無しにするように、欠陥のあるプロンプトや不十分なアーキテクチャは、情報漏洩、知的財産の盗難、不正アクセスなどの深刻な脅威に対してAI技術を脆弱なままにします。 ここでは、脆弱性がどのように作成され、悪用され、緩和されるかを実践的な例...

giskard-oss

エージェントシステムのためのEvals、レッドチーミング、テスト生成 モジュール式、軽量、動的、そしてAsyncファースト ドキュメント • ウェブサイト • コミュニティ !IMPORTANT Giskard v3 は、AIエージェントの動的かつマルチターンのテストのために設計された、新規に書き直されたバージョンです。このリリースでは、効率性を高めるために重い依存関係を削除しつつ、より強力なAI脆弱性スキャナーと拡張されたRAG評価を導入しています。これらはどちらも giskard-scan にネイティブに搭載され、v2への依存はありません。表形式/MLモデル...

skill-scanner

Skill Scanner A best-effort security scanner for AI Agent Skills that detects prompt injection, data exfiltration, and malicious code patterns. It combines pattern-based detection YAML + YARA-X, AST and dataflow analysis , an optional LLM-as-a-judge , and a bounded CEL decision layer over typed...

AI-Vulnerabilities-Playground

AIVP AI脆弱性プレイグラウンド AIVPは、4つのフェーズ と50以上のラボ （現在コードベースに50以上のシナリオ）にわたる実践的なAIセキュリティ学習プラットフォームです。Ollama + Llama 3.1 、FastAPI バックエンド、React/Vite フロントエンドを組み合わせ、実務者が安全に攻撃的・防御的なAIセキュリティ技術を練習できるようにします。 これが役に立つ場合は、リポジトリを ⭐ スター / いいね し、フォーク して、自由にPRを開いてください。 目次 概要 実行手順 前提条件 プロジェクト構成 ハードウェア要件 セットアップとインストール...

DeepAudit

DeepAudit - 誰もが持てる AI 監査チーム、脆弱性発見を身近に 🦸‍♂️ 简体中文 | English | 日本語 📸 画面プレビュー 🤖 Agent 監査エントリー ホームページから Multi-Agent ディープ監査へすばやくアクセス 📋 監査フローログ Agent の思考と実行プロセスをリアルタイムで確認 | 🎛️ スマートダッシュボード !ダッシュボードhtt...

VibeSec-Skill

VibeSec-Skill vibe 코딩으로 인한 취약점을 프로덕션에 배포하지 마세요. 5년 이상의 버그 바운티 헌팅 경험을 AI 코딩 워크플로우에 직접 가져오는 AI 스킬입니다. LLM 모델이 처음부터 안전한 코드를 작성하도록 돕습니다. 소개 Vibe 코딩은 재미있지만, 당신의 앱이 잘못된 이유로 소셜 미디어에 등장하기 전까지 그렇습니다. 우리는 모두 다음과 같은 게시물/밈을 본 적이 있습니다: JavaScript 번들에 하드코딩된 API 키 사용자 데이터 덤프를 허용하는 IDOR 취약점 민감한 페이지에 인증 없음 관리자 패널...

ship-safe

AIが書いたソフトウェアのための独立したセキュリティエージェント。問題を発見し、それが実在するかどうかを調査し、証拠を提示します。 ウェブサイト · ドキュメント · セキュリティとデータフロー · ベンチマーク · 料金 · ブログ · コントリビュート Ship Safe CLI Ship Safe はリポジトリ内でローカルに動作し、2つのレイヤーで機能します。 決定論的エンジン は、アプリケーションコード、AIエージェント、MCP設定、プロンプト、依存関係、CI/CD、シークレット、クラウド関連の設定にわたって問題を検出します。高速で再現可能、かつベンチマーク済み —...

sec-af

SEC-AF AgentField上に構築されたAIネイティブセキュリティ監査ツール 出力 • ベンチマーク • 仕組み • 比較 • クイックスタート • API 他のツールはパターンをフラグ付けします。SEC-AFは悪用可能性を証明 します：すべての検出結果には、判定、データフローのトレース、そして行動に移せる証拠が付属します。無料、オープンソース、APIコール1回。30件の検証済み検出結果を含む完全な監査は、LLM呼び出しで約1.40ドル のコストです。 One-Call DX af CLIでトリガーします（af ≥ 0.1.87が必要）—...

pentagi

PentAGI P enetration testing A rtificial G eneral I ntelligence Join the Community! Connect with security researchers, AI enthusiasts, and fellow ethical hackers. Get support, share insights, and stay updated with the latest PentAGI developments. ⠀ Table of Contents Overview Features Architecture...

h4cker

このリポジトリは、サイバーセキュリティに関するリファレンス、スクリプト、ツール、コード、ラボ、トレーニングリソースの包括的なコレクションです。Omar Santos によって厳選され、維持されています。 概要 このリポジトリは、Omar Santos が作成した書籍、ビデオコース、ライブトレーニングの補足資料として機能します。攻撃的セキュリティ、防御的セキュリティ、クラウドおよびコンテナセキュリティ、アプリケーションセキュリティ、AIセキュリティ、認定資格、ラボ、リファレンス資料などのリソースが含まれています。 ディレクトリ概要 サイバーセキュリティドメイン :...

awesome-ai-security

Awesome AI Security A curated list of awesome AI security related frameworks, standards, learning resources and open source tools. If you want to contribute, create a PR or contact me @ottosulin. Table of Contents Learning Resources Reading & Guides Courses, Labs & CTFs Podcasts Governance & Risk...

numasec

numasec 오픈소스 AI 보안 에이전트. 터미널에 보안 두뇌를 부여하세요. 로컬 도구, 에이전트, 런북, 발견 항목, 증거, 재생 및 보고서로 보안 워크플로우를 실행하세요. npm install -g numasec 데모 | 왜 | 사용감 | 사용해보기 | 기능 | 명령어 | 아키텍처 | 로드맵 numasec이란 무엇인가? numasec은 터미널에서 실행되는 AI 보안 에이전트입니다. 이미 머신에 설치된 도구를 사용하며, 보안 런북을 따르고, 사이버 에이전트 간 전환하고, 작업 컨텍스트를 유지하며, 발견 항목을 추적하고, 증...

awesome-ai-security

awesome-ai-security ペネトレーションテスター、バグハンター、セキュリティ研究者向けのAIセキュリティ資料とリソースのキュレーションリスト。 If you find that some links are not working, you can simply replace the username with gmh5225. Or you can send an issue for me. 以下のすべてのプロジェクトに敬意を表します。完璧な芸術作品です 🫡 コントリビュートするには？...