trust-my-agent-ai

🛡️ TrustMyAgent OpenClaw エージェント向けセキュリティボディーガード ウェブサイト • トラストセンター • クイックスタート • コントリビューション OpenClaw エージェント向けの EDR ライクなセキュリティエージェントです。14 のドメインにわたる 41 のセキュリティチェックを実行し、信頼スコア（0-100）を計算し、集中管理されたトラストセンターダッシュボードにテレメトリを送信します。人間や他のエージェントが信頼性を検証できます。 ステートレス設計 – メモリ上で完全に実行され、ローカルに何も保存せず、ホストに痕跡を残しません。 なぜ必要か AI...

TrustworthyRAG

Trustworthy RAG（可信赖的 RAG） 一个用于检测检索增强生成（RAG）系统中错误信息与知识投毒的评估代理。 概述 本项目实现了一个 Trustworthy RAG 框架 ，其中集成有评估代理（Evaluation Agent） ，通过三个互补的分析组件评估 RAG 响应的可靠性： NLI 验证器（NLI Verifier） - 通过自然语言推断（BART-MNLI）进行事实一致性检查 投毒检测器（Poison Detector） - 多信号对抗性内容检测（语言学、结构、语义、文档内/跨文档 NLI） 信任指数计算器（Trust Index Calculator） -...

Memory Poisoning Attack and Defense on Memory Based LLM-Agents

Large language model agents equipped with persistent memory are vulnerable to memory poisoning attacks, where adversaries inject malicious instructions through query only interactions that corrupt the agents long term memory and influence future responses. Recent work demonstrated that the MINJA...

Securing GenAI Multi-Agent Systems against Tool Squatting: a Zero Trust Registry-Based Approach

The rise of generative AI GenAI multi-agent systems MAS necessitates standardized protocols enabling agents to discover and interact with external tools. However, these protocols introduce new security challenges, particularly; tool squatting; the deceptive registration or representation of tools...

Software company accused of illegally profiling millions of mobile phone users

A digital rights and privacy organization has filed a complaint against software company TeleSign for gathering and selling information on millions of mobile phone users. The organization that filed the complaint is nyob. nyob is an Austrian based digital right organization that focusses on...