anamorpher

Anamorpher Anamorpher（anamorphosis に由来）は、マルチモーダルAIシステムに対する画像スケーリング攻撃を作成・可視化するためのツールです。フロントエンドインターフェースとPython APIを提供し、ダウンスケール時にのみマルチモーダルプロンプトインジェクションを明らかにする画像を生成します。この攻撃ベクトルの詳細については、「Weaponizing image scaling against production AI systems」 を参照してください。 Anamorpher は活発なベータ開発中です。フィードバックやコントリビューションを歓迎しま...