OpenHunterAI

OpenHunterAI あなたのローカルAIレッドチーム。 ウェブ、API、LLMアプリケーションセキュリティのための攻撃者視点の推論。 クイックスタート · エージェントスキル · 評価モデル · アーキテクチャ · ドキュメント · スター履歴 OpenHunterAIは、スコープ、スキャン活動、検出結果、および修復を1つの ローカルワークスペースに統合します。アカウントなしで開始し、モデルプロバイダーを接続し、 所有している、またはテストを許可されている検証済みの公開アプリケーション を評価します。 アルファ版。 統合のカバレッジは設定されたランタイムに依存します。正常な...

New whitepaper outlines the taxonomy of failure modes in AI agents

We are releasing a taxonomy of failure modes in AI agents to help security professionals and machine learning engineers think through how AI systems can fail and design them with safety and security in mind. The taxonomy continues Microsoft AI Red Team's work to lead the creation of systematizati...

New whitepaper outlines the taxonomy of failure modes in AI agents

We are releasing a taxonomy of failure modes in AI agents to help security professionals and machine learning engineers think through how AI systems can fail and design them with safety and security in mind. The taxonomy continues Microsoft AI Red Team's work to lead the creation of systematizati...

Google Expands Its Bug Bounty Program to Tackle Artificial Intelligence Threats

Google has announced that it's expanding its Vulnerability Rewards Program VRP to compensate researchers for finding attack scenarios tailored to generative artificial intelligence AI systems in an effort to bolster AI safety and security. "Generative AI raises new and different concerns than...