D-Scan

컨텍스트가 물어뜯을 때: 문서 수준 어텐션 붕괴를 통한 RAG 포이즈닝 탐지 D-SCAN은 RAG검색 증강 생성 시스템에서 문서 포이즈닝 공격을 탐지하기 위한 분석 프레임워크입니다. 생성 중 LLM 내부 상태토큰 확률 및 어텐션 가중치를 수집하고, 다차원 특징을 추출하며, 분류기를 학습시켜 정상 문서와 포이즈닝된 검색 문서를 구별합니다. 1. 설치 및 요구사항 사전 요구사항 Python = 3.9 CUDA 호환 GPU 8B 파라미터 모델 추론에는 = 24GB VRAM 권장 모델 준비 이 프로젝트는 기본적으로...

CVE-2026-107183 llama.cpp before b11393 Use-After-Free via common_chat_peg_mapper chat_parser

llama.cpp before b11393 contains a use-after-free and double free vulnerability in commonchatpegmapper::map that allows unauthenticated remote attackers to corrupt heap memory via a dangling currenttool pointer. Attackers can submit a chatparser in a POST /completion request emitting a tool-id...

EUVD-2026-94330

llama.cpp before b11393 contains a use-after-free and double free vulnerability in commonchatpegmapper::map that allows unauthenticated remote attackers to corrupt heap memory via a dangling currenttool pointer. Attackers can submit a chatparser in a POST /completion request emitting a tool-id...

llama_facts

라마 사실 이 프로젝트는 원래 로체스터 공과대학교RIT Women in Cybersecurity WIYCS 2022 CTF 대회를 위해 만들어졌습니다. 이 프로젝트는 논란이 있는 CVE CVE-2019-8341에 정의된 서버 사이드 템플릿 인젝션SSTI에 취약합니다. 챌린지 설명 설명: 컴퓨터과학 1학년 학생이 새로 습득한 파이썬 실력을 보여주기 위해 웹사이트를 만들었습니다. 이 학생의 검색 엔진을 살펴보고 안전한지 확인할 수 있나요? 사용법 Docker 엔진이 설치되어 실행 중이어야 합니다. docker build -t...

AI-Vulnerabilities-Playground

AIVP AI 취약점 플레이그라운드 AIVP는 4단계 와 50개 이상의 랩현재 코드베이스 전반에 50개 이상의 시나리오에 걸친 실습형 AI 보안 랩 플랫폼입니다. Ollama + Llama 3.1 , FastAPI 백엔드, React/Vite 프론트엔드를 결합하여 실무자들이 공격적·방어적 AI 보안 기술을 안전하게 연습할 수 있게 해 줍니다. 도움이 되셨다면 리포지토리에 ⭐ star / like 를 눌러 주시고, fork 하신 뒤 PR을 자유롭게 열어 주세요! 목차 개요 실행 단계 사전 요구사항 프로젝트 구조 하드웨어 요구사항...

llm-censorship-steering

LLM 검열 스티어링 이 저장소는 Hannah Cyberey와 David Evans의 검열 스티어링: LLM "사고" 제어를 위한 표현 벡터 발견 논문의 코드 구현을 포함합니다. 우리는 LLM 내부에서 "스티어링 벡터"를 찾아 모델 출력의 검열 수준을 감지하고 제어하는 방법을 소개합니다. 이 블로그 게시물에서 우리 작업에 대한 간략한 개요를 확인하세요. 데모를 사용해 보세요: 🐳 DeepSeek-R1-Distill-Qwen-7B로 생각 억제 스티어링 🦙 Llama-3.1-8B-Instruct로 거부—순응 스티어링 참고: 두 데...

llama-factory-webui-rce-cve-2026-58116-trust-remote-code-model-path-injection

CVE-2026-58116 — LLaMA-Factory WebUI RCE trustremotecode를 통한 CVE-2026-58116 CVSS 9.8 심각에 대한 개념 증명: LLaMA-Factory = v0.9.5에서의 원격 코드 실행. LLaMA-Factory WebUI는 모델 로드 시 trustremotecode=True를 하드코딩합니다 src/llamafactory/webui/chatter.py:139 및 runner.py:175,320. 공격자가 제어하는 "Model path" 필드는 검증되지 않은 상태로...

Exponentiated-Gradient-Descent-LLM-Attack

Readme 파일 변경. 이 프로젝트는 정렬된 대규모 언어 모델을 공격하기 위한 적대적 접미사를 생성하는 지수 경사 하강Exponentiated Gradient Descent 최적화 방법을 탐구합니다. 이 방법은 70억 개의 매개변수를 가진 Llama-2 채팅 모델에서 효과적인 것으로 나타났습니다. 여러 행동예: 20개에 대해 pgd 스크립트를 실행하려면 셸에서 다음 명령을 실행하십시오. python runpgd.py --inputfile...

refusal-relocates

빠른 시작 · 사용법 · CLI · 결과 · 재현 · FAQ · 인용 News 2026-09-28 코드가 공개되었으며, 논문의 표를 재구성하는 실행 기록과 스크립트가 함께 제공됩니다. Overview 수십 개의 유해한 예시만으로도 정렬된 모델의 유해한 요청 거부 능력을 제거할 수 있습니다. 선행 연구는 안전성을 특정 계층과 방향으로 국소화하며, 이는 발견된 위치를 보호하라는 시사점을 줍니다. 이 저장소는 그 전제를 적응형 공격자의 방식으로 검증합니다. 거부가 복구될 수 있는 위치를 찾아내고, 그 영역을 동결한 뒤 다시 공격하며...

statecraftcyber

Statecraft Cyber Intelligence ポルトガル語でゼロから構築された、Blue Teamの個人プロジェクトとしての脅威インテリジェンスプラットフォーム。グローバルなオープンソースからデータを集約し、技術ブリーフィング、分類されたニュース、エンリッチされたCVE、構造化されたIOCへと変換します — すべてPT-BRで、継続的に更新されます。 サイト: statecraftcyber.vercel.app プラットフォームが提供するもの Threat Briefings — AI（Groq / LLaMA 3.3...

one-multiply-too-many-cve-2026-70638-llama-cpp-android-jni-integer-overflow

CVE-2026-70638 - llama.cpp LLaMA-Android JNI 정수 오버플로우 Hunt-Benito 기사에 대한 동반 PoC "One Multiply Too Many: CVE-2026-70638 — Integer Overflow in llama.cpp's Android JNI Heap Allocation" → https://www.hunt-benito.com/blog/one-multiply-too-many-cve-2026-70638-llama-cpp-android-jni-integer-overflow/ 버그...

Llama-Stack-0.4.0rc3-local-CVE-2026-25211

Llama Stack pgvector 비밀번호 유출 PoC CVE-2026-25211 로컬 PoCProof-of-Concept — llama-stack 버전 0.4.0rc3의 초기화 로그에서 데이터베이스 비밀번호가 평문으로 노출되는 취약점을 시연합니다. 개요 영향을 받는 llama-stack 버전0.4.0rc3 이전에서는 pgvector 벡터 저장소 제공자를 사용할 때, PostgreSQL 데이터베이스 비밀번호가 서버 또는 벡터 저장소 초기화 중 평문 으로 로그에 기록됩니다. 이 정보는 다음 위치에 나타납니다: stdout /...

LlamaStack-RCE-Deterministic-Supply-Chain-Exploitation-Hardening-Framework-CVE-2024-50050-

= doi.org/10.5281/zenodo.18278567 = orcid.org/0009-0007-7728-256X 💀 LlamaStack-RCE: CVE-2024-50050 供应链利用框架 非限制机密材料 - 仅限授权红队使用 1. 执行摘要（确定性分析） LlamaStack-RCE 是一个针对 Meta Llama Stack 中 CVE-2024-50050 关键远程代码执行（RCE）漏洞的高保真模拟与利用框架。该漏洞源于 Python 推理 API 中的不安全反序列化 ，具体是在 ZeroMQ 0MQ 传输层上使用 pickle 模块。...

WordPress Quotes llama plugin < 3.1.6 - SQL Injection vulnerability

SQL Injection vulnerability discovered by Pablo González Pérez in WordPress Plugin Quotes llama versions 3.1.6...

CVE-2026-85673

LLaMA-Factory contains a server-side request forgery vulnerability in the OpenAI-compatible API multimodal media URL handler that allows unauthenticated attackers to bypass SSRF validation. The checkssrfurl guard validates URLs once but requests.get follows redirects and re-resolves DNS without...

CVE-2026-85666

OGX formerly Llama Stack, affected at commit fbe8e0f contains an unauthenticated server-side request forgery vulnerability in the OpenAI-compatible POST /v1/responses endpoint. MCP tool definitions accept a serverurl parameter along with headers and authorization values that is fetched server-sid...

CVE-2026-85673 LLaMA-Factory SSRF Guard Bypass via Redirect and DNS Rebinding

LLaMA-Factory contains a server-side request forgery vulnerability in the OpenAI-compatible API multimodal media URL handler that allows unauthenticated attackers to bypass SSRF validation. The checkssrfurl guard validates URLs once but requests.get follows redirects and re-resolves DNS without...

CVE-2026-85673

LLaMA-Factory contains a server-side request forgery (SSRF) vulnerability in its OpenAI-compatible API multimodal media URL handler . The root cause is that the check_ssrf_url guard validates a URL only once, while requests.get subsequently follows HTTP redirects and re-resolves DNS without re-va...

CVE-2026-85673 LLaMA-Factory SSRF Guard Bypass via Redirect and DNS Rebinding

LLaMA-Factory contains a server-side request forgery vulnerability in the OpenAI-compatible API multimodal media URL handler that allows unauthenticated attackers to bypass SSRF validation. The checkssrfurl guard validates URLs once but requests.get follows redirects and re-resolves DNS without...

CVE-2026-85673 LLaMA-Factory SSRF Guard Bypass via Redirect and DNS Rebinding

LLaMA-Factory contains a server-side request forgery vulnerability in the OpenAI-compatible API multimodal media URL handler that allows unauthenticated attackers to bypass SSRF validation. The checkssrfurl guard validates URLs once but requests.get follows redirects and re-resolves DNS without...