autoguardrails

autoguardrails Santander AI Lab의 오픈 소스입니다. LLM/AI 안전 가드레일 연구 라이브러리/평가 하네스autoresearch 스타일입니다: 단일 변경 가능한 policy.md 표면을 검색하여 고정된 평가 스위트에 대한 공격 성공률ASR을 최소화하고, 무해 통과 기준benign-pass floor이 있습니다. Santander AI Open Source의 일부 — Banco Santander의 오픈 소스 AI 프로젝트 santander.com입니다. autoguardrails는 Karpathy의...

threat-modeling-mcp-server

Threat Modeling MCP Server Сервер MCP Model Context Protocol для комплексного моделирования угроз с автоматической валидацией кода. Содержание Обзор Быстрый старт: подсказки Ключевые возможности Предварительные требования Установка Запуск с Kiro CLI Управление выходными файлами Краткая справка...

promptfoo

Promptfoo: оценка LLM и red teaming promptfoo — это CLI и библиотека для оценки и red teaming LLM-приложений. Прекратите метод проб и ошибок — начинайте создавать безопасные и надёжные AI-приложения. Веб-сайт · Начало работы · Red Teaming · Документация · Discord Promptfoo теперь часть OpenAI...

ConcoLLMic

ConcoLLMic: Агентное конколическое выполнение Статья : IEEE S&P 2026 ConcoLLMic — это первый языково- и теоретико-независимый конколический исполнитель на основе LLM-агентов. В отличие от традиционных инструментов символьного выполнения, требующих реализации под конкретный язык и испытывающих...

VibeSec-Skill

VibeSec-Skill Прекратите внедрять уязвимости с помощью vibe-кодинга в продакшн. AI-скилл, который привносит более 5 лет опыта охоты за багами непосредственно в ваш рабочий процесс с ИИ — чтобы модели LLM с самого начала писали безопасный код. Введение Vibe-кодинг забавен до тех пор, пока ваше...

llm-circuit-finder

llm-circuit-finder Я воспроизвёл метод RYS от Ng и обнаружил, что дублирование 3 конкретных слоёв в Qwen2.5-32B повышает рассуждение на 17%, а дублирование слоёв 12–14 в Devstral-24B улучшает логическую дедукцию с 0,22 до 0,76 на BBH — без обучения, без изменения весов, просто маршрутизация скрыт...

anamnesis-release

Anamnesis: Оценка генерации эксплойтов с помощью LLM Этот репозиторий содержит фреймворк для оценки того, как LLM-агенты генерируют эксплойты на основе отчётов об уязвимостях при наличии средств защиты эксплойтов. Получив отчёт об ошибке и триггер подтверждения концепции, агенты анализируют...

Gepetto

Gepetto Gepetto is a Python plugin which uses various large language models to provide meaning to functions decompiled by IDA Pro ≥ 7.6. It can leverage them to explain what a function does, and to automatically rename its variables. Here is a simple example of what results it can provide in mere...

token-proxy

llm-token-proxy Прозрачный прокси для редактирования PII в трафике LLM. Располагается между вашим приложением и провайдером LLM, псевдонимизируя конфиденциальные данные на пути к LLM и восстанавливая их на обратном пути. Ваша LLM никогда не видит реальных имён, адресов электронной почты, IP-адрес...

CyberStrike

English | 简体中文 | 繁體中文 | 한국어 | Deutsch | Español | Français | Italiano | Dansk | 日本語 | Polski | Русский | Bosanski | العربية | Norsk | Português Brasil | ไทย | Türkçe | Українська | বাংলা | Ελληνικά | Tiếng Việt | हिन्दी 공격적 보안을 위해 만들어진 최초의 오픈 소스 AI 에이전트. 터미널에서 자율 침투 테스트 — 정찰, 취약점 발견, 익스플로잇, 보고서 생...

open-source-llm-scanners

open-source-llm-scanners GitHub에 등록된 오픈 소스 LLM 보안 스캐너 목록으로, 별표Star 순으로 정렬되어 있습니다. 심층 분석을 제공하지는 않습니다. 최소 10개의 별표가 필요합니다. 😁 관련: open-source-web-scanners LLM 스캐너 LLM 애플리케이션에서 다양한 취약점을 찾을 수 있는 도구입니다. 메인 사이트| 마지막 커밋| 커미터| 별표 ---|---|---|--- Promptfoo| | | garak| | | Giskard| | | Purple Llama| | | PyRI...

opentaint

Открытый движок taint-анализа для эпохи ИИ Формальный taint-анализ для безопасности приложений — находит то, что пропускают движки сопоставления с AST-шаблонами, позволяет LLM-агентам оформлять уязвимости в виде правил, масштабируется там, где ни один из них не справляется в одиночку. English |...

GhidrAssist

GhidrAssist 저자: Jason Tang 고급 LLM 기반 플러그인으로, Ghidra 내 인터랙티브 리버스 엔지니어링 지원을 제공합니다. 설명 GhidrAssist는 대규모 언어 모델LLM을 Ghidra에 통합하여 바이너리 탐색 및 리버스 엔지니어링을 위한 지능형 지원을 제공합니다. 로컬 모델Ollama, LM-Studio, Open-WebUI과 클라우드 제공자OpenAI, Anthropic, Azure를 포함한 모든 OpenAI v1 호환 API를 지원합니다. 주요 기능 핵심 기능: 코드 설명 - 디스어셈블리 및...

FinRED-paper

FinRED: 金融レッドチーミング評価データセット 金融領域における安全性評価のためのレッドチームベンチマーク生成パイプライン。 補足ドキュメント 論文で参照されている詳細資料: docs/expertvalidation.md — 12名のFSI領域専門家による質問ごとのフォーカスグループインタビューFGI結果一致度、Likertスコア、Cohen's κ / Krippendorff's α。 docs/judgerubric.md — 完全なLLM-as-a-Judge評価テンプレート、5つのルーブリック次元、判定ルール、および出力JSONスキーマ。 docs/schemas.m...

airecon

AI 기반 자율 침투 테스트 에이전트 -orange.svg AIRecon은 자체 호스팅 Ollama LLM 과 Kali Linux Docker 샌드박스 , 네이티브 Caido 프록시 통합 , 구조화된 RECON → ANALYSIS → EXPLOIT → REPORT 파이프라인 , 실시간 Textual TUI 를 결합한 자율 침투 테스트 에이전트입니다. 완전히 오프라인으로 작동하며 API 키가 필요 없습니다. 왜 AIRecon인가? 상용 API 기반 모델OpenAI GPT-4, Claude, Gemini은 세션당 수천 건의 LLM...

meta-ai-support-prompt

Meta AI 지원 어시스턴트 시스템 프롬프트 Meta의 AI 지원 어시스턴트에서 추출한 시스템 프롬프트 2026년 6월 1일 기준. 파일 system-prompt.md — 추출된 시스템 프롬프트 ⚠️ 면책 조항 및 법적 고지 목적 이 저장소는 교육 및 승인된 보안 연구 목적 으로만 게시됩니다. 여기에 포함된 자료는 AI 시스템 보안, 프롬프트 인젝션 방어, 대규모 언어 모델 안전성에 대한 이해를 증진시키기 위한 목적으로만 제공되며, 다른 목적으로 사용되어서는 안 됩니다. 승인된 연구 이 저장소에 기록된 모든 연구는 저자가...

ai-kill-chain

AI 시대 위협을 위한 확장된 사이버 킬 체인 LLM대규모 언어 모델 및 에이전트형 AI 공격에 대응하는 방어자를 위한 Lockheed Martin Cyber Kill Chain의 업데이트입니다. 모델 공급망 손상에 대한 사전 공격 단계를 추가합니다. 원래 7개 단계 각각에 AI 특화 하위 기법을 추가합니다. Actions on Objectives 단계를 고전적 데이터 유출, 모델 추출, 에이전트 피벗agentic pivot이라는 세 가지 동등한 하위 단계로 분할합니다. 저자: Gourav Nagar 버전: 1.0 날짜:...

supply-chain-monitor

Мониторинг цепочек поставок Автоматизированный мониторинг популярных пакетов PyPI и npm на предмет компрометации цепочки поставок. Опрашивает оба реестра на наличие новых релизов, сравнивает каждый новый релиз с предыдущим и использует LLM через Cursor Agent CLI для классификации изменений как...

auto-re-agent

re-agent Автономный агент для реверс-инжиниринга — цикл реверс/проверка с учётом исходного кода, верификатор целей, механизм паритета и бэкенд на Ghidra. Обзор Демо: YouTube re-agent автоматизирует рабочий процесс реверс-инжиниринга, объединяя цикл реверс/проверка с декомпиляцией Ghidra через...

socbench

socbench Бенчмарк для проверки передовых рассуждающих LLM как агентов SOC на сырых данных NetFlow. socbench тестирует передовые рассуждающие модели в качестве агентов SOC: каждая модель выполняет ограниченный многошаговый цикл агента над детерминированным, предварительно проиндексированным корпус...