bordair-multimodal

マルチモーダルプロンプトインジェクションデータセット 516,588 個のラベル付きサンプル 251,782 件の攻撃 + 251,576 件の良性、さらに 13,230 サンプルの現実世界検証用分割 を、5 つのデータセットバージョンおよび外部データセット取り込みにわたって提供。クロスモーダル、マルチターン、敵対的サフィックス、ジェイルブレークテンプレート、間接インジェクション、ツール操作、エージェント、回避、推論 DoS、動画生成、VLA ロボティック、LoRA サプライチェーン、音声ネイティブ LLM、RAG 最適化、MCP...

Taxonomy of Generative AI Misuse

Interesting paper: "Generative AI Misuse: A Taxonomy of Tactics and Insights from Real-World Data”: Generative, multimodal artificial intelligence GenAI offers transformative potential across industries, but its misuse poses significant risks. Prior research has shed light on the potential of...

This Week in Spring - July 29th, 2024

Hi Spring fans! Welcome to another installment of This Week in Spring! It's July 29th, 2024! I can hardly believe it! We're less than a month away from SpringOne 2024! Have you registered for either in-person attendance or the free livestreams yet? As always, we've got a ton of stuff to cover so...