anamnesis-release

Anamnesis: LLMを用いたエクスプロイト生成評価 このリポジトリには、LLMエージェントが脆弱性レポートからエクスプロイトを生成する際の、エクスプロイト緩和策の存在下における能力を評価するためのフレームワークが含まれています。バグレポートと概念実証トリガーが与えられると、エージェントは脆弱なソフトウェアを分析し、様々なセキュリティ緩和策を回避する動作するエクスプロイトを生成します。 実験では、QuickJSのゼロデイ脆弱性を出発点として、Opus...

skyvern

🐉 Automate Browser-based workflows using LLMs and Computer Vision 🐉...

opentaint

AI 시대를 위한 오픈 소스 오염 분석 엔진 애플리케이션 보안을 위한 정형적 오염 분석 — AST 패턴 매칭 엔진이 놓치는 것을 찾아내고, LLM 에이전트가 취약점을 규칙으로 적용하도록 하며, 어느 쪽도 단독으로는 불가능한 규모로 확장합니다. English | 简体中文 | 繁體中文 | | | | | | | | | | | | | | | | | | | | | |...

ConcoLLMic

ConcoLLMic: 에이전틱 콘콜릭 실행 논문 : IEEE S&P 2026 ConcoLLMic은 LLM 에이전트로 구동되는 최초의 언어 및 이론에 구애받지 않는 콘콜릭 실행기입니다. 기존의 언어별 구현이 필요하고 제약 조건 해결에 어려움을 겪는 전통적인 기호 실행 도구와 달리, ConcoLLMic은 다음과 같은 특징을 가집니다: 모든 프로그래밍 언어 및 환경 상호작용과 함께 작동 — C, C++, Python, Java, ... 및 다중 언어 시스템을 지원하며, 추가적인 환경 모델링이 필요 없고 효율적으로 처리합니다. 다양한...

ClawGuard

ClawGuard 🛡️ 中文版 プロジェクト:https://github.com/SafeAgent-Beihang/clawguard ClawGuard は、OpenClaw などの自律エージェントや、LLM を基盤とするその他のエンティティに関連するリスクを軽減するためのセキュリティツールキットです。エージェントがコードを実行し、API にアクセスし、ファイルを管理する自律性を高めるにつれて、ClawGuard はセキュリティリスクを軽減するために必要なガードレールを提供します。 📖 ClawGuard が必要な理由...

AgentWatcher

AgentWatcher AgentWatcher は、LLMエージェントにおける間接的なプロンプトインジェクションに対する検出ベースの防御手法です。まず、信頼できないコンテキストに対して因果的コンテキスト属性推定（causal context attribution）を実行し、最も影響力の高いコンテキストを特定します。次に、モニタLLM を適用して、明示的でカスタマイズ可能なルール に基づいてそれらのコンテキストを分類します。完全なブラックボックス検出器と比較して、このパイプラインは解釈が容易です。属性推定によりモデルが どこに...

ShadowMem

ShadowMem: シャドウメモリによる長期的脅威からのLLMエージェントの保護 このリポジトリには、論文 Safeguarding LLM Agents against Long-Horizon Threats via Shadow Memory の公式コードリリースが含まれています。ShadowMem は、システムセキュリティにおける シャドウスタック...

llm-agent-testbed

🛡️ LLMエージェントセキュリティテストベッド ツール呼び出し型LLMエージェントのための実証的脆弱性・防御ハーネス ツールを備えたLLMエージェントが、プロンプトインジェクション、役割主張型ソーシャルエンジニアリング、混乱した代理人攻撃によって不正なデータ流出へと操作され得るかを検証する、規律あるセキュリティテストベッド。 コアアーキテクチャ • 攻撃分類 • • •...

ActGuard

ActGuard ActGuardは、ツールを使用するLLMエージェントにおける間接的プロンプトインジェクションに対する実行前アクション監査防御です。このリポジトリには、最終的なActGuard実装と、それを評価するために必要なAgentDojoベースのランタイムが含まれています。 このリリースには、最終的な完全なActGuard構成のみが含まれています。内部コンポーネントは、AgentDojoベンチマークおよびトレース形式との互換性のために、引き続き識別子reflectiveauditを使用しています。 要件 Python 3.10以降 OpenRouter APIキー...

Defenses-for-Tool-Integrated-LLM

ツール統合型LLMエージェントに対する敵対的攻撃への汎用防御 このリポジトリには、ツール統合型大規模言語モデル（LLM）エージェントを敵対的攻撃から防御するための私たちのプロジェクトのコードと実験が含まれています。 概要 私たちはAgent Security Bench（ASB）を基盤として、ツールと構造化推論（例：chain-of-thought、reflection）の統合が、複数のタスクシナリオにわたる敵対的プロンプトに対するLLMエージェントの脆弱性にどのように影響するかを評価します。 このリポジトリには以下が含まれます：...

agentic-dm-gateway

Agentic DM Gateway Security control plane for LLM agents over private chat typically Discord DMs. It sits in front of your agent. It decides who may talk, whether the session is unlocked, whether the process is paused, and whether this message is safe enough to forward. Your model and tools stay...

MAL-2026-16250 Malicious code in marketing-mcp (PyPI)

--- -= Per source details. Do not edit below this line.=- Source: amazon-inspector 87216e00fe68e2de8b140f1f9ffc2db5a8e814f38030e2eb6120c9ae9e7ca3ff The package exposes an MCP tool sendpath that reads a caller-specified local file and POSTs its contents to a hardcoded...

Reveree: Diagnosing LLM Reverse-Engineering Agents

Reverse engineering RE is critical to security tasks such as malware analysis and vulnerability discovery, and large language model LLM agents are increasingly able to perform it autonomously. Capture-the-flag CTF RE challenges have become the standard proxy for measuring this capability, but...

Ghost in the Agent: Redefining Information Flow Tracking for LLM Agents

Autonomous Large Language Model LLM agents are increasingly deployed to conduct complex tasks by interacting with external tools, APIs, and memory stores. However, processing untrusted external data exposes these agents to severe security threats, such as indirect prompt injection and unauthorize...

CVE-2026-41349: Missing Authorization

OpenClaw before 2026.3.28 contains an agentic consent bypass vulnerability allowing LLM agents to silently disable execution approval via config.patch parameter. Remote attackers can exploit this to bypass security controls and execute unauthorized operations without user consent...

Taint-Style Vulnerability Detection and Confirmation for Node.Js Packages Using LLM Agent Reasoning

The rapidly evolving Node$.$js ecosystem currently includes millions of packages and is a critical part of modern software supply chains, making vulnerability detection of Node$.$js packages increasingly important. However, traditional program analysis struggles in this setting because of dynamic...

TitanCA: Lessons from Orchestrating LLM Agents to Discover 100+ CVEs

Software vulnerabilities remain one of the most persistent threats to modern digital infrastructure. While static application security testing SAST tools have long served as the first line of defense, they suffer from high false-positive rates. This article presents TitanCA, a collaborative proje...

CritBench: A Framework for Evaluating Cybersecurity Capabilities of Large Language Models in IEC 61850 Digital Substation Environments

The advancement of Large Language Models LLMs has raised concerns regarding their dual-use potential in cybersecurity. Existing evaluation frameworks overwhelmingly focus on Information Technology IT environments, failing to capture the constraints, and specialized protocols of Operational...

Credential Leakage in LLM Agent Skills: A Large-Scale Empirical Study

Third-party skills extend LLM agents with powerful capabilities but often handle sensitive credentials in privileged environments, making leakage risks poorly understood. We present the first large-scale empirical study of this problem, analyzing 17,022 skills sampled from 170,226 on SkillsMP usi...

From Storage to Steering: Memory Control Flow Attacks on LLM Agents

Modern agentic systems allow Large Language Model LLM agents to tackle complex tasks through extensive tool usage, forming structured control flows of tool selection and execution. Existing security analyses often treat these control flows as ephemeral, one-off sessions, overlooking the persisten...