token-proxy

llm-token-proxy LLM APIトラフィック用の透過的PII編集プロキシ。アプリケーションとLLMプロバイダの間に位置し、送信時に機密データを仮名化し、戻り時に復元します。 LLMは実際の名前、メール、IP、ドメインを一切認識せず、[email protected] のような構造化された仮名でのみ動作します。アプリケーションは、元の値を透過的に受け取ります。 なぜ必要か セキュリティ運用、インシデント対応、または実際の顧客データを含むタスクでLLMを使用する場合、PIIをサードパーティAPIに送信するリスクがあります。このプロキシは次の方法でその問題を解決します。...