linnix

Linnix どのプロセスがSLOを損なっているかを見つけ出します — CPUを使用しているプロセスだけでなく、ストールを引き起こしているプロセスも特定します。 問題 top は80%のCPU使用率を示す。Prometheus は高レイテンシを示す。しかし、実際にペイメントサービスをストールさせている Pod はどれか？ LinnixはeBPF + PSI Pressure Stall Information を使用してこれに答えます。PSIは実際のストール時間を測定します —...

Continuous Discovery of Vulnerabilities in LLM Serving Systems with Fuzzing

LLM inference and serving systems have become security-critical infrastructure; however, many of their most concerning failures arise from the serving layer rather than from model behavior alone. Modern inference engines combine KV cache, batching, prefix sharing, speculative decoding, adapters,...