ai-exploits

ثغرات الذكاء الاصطناعي عالم الذكاء الاصطناعي يعاني من مشكلة أمنية، وهي ليست فقط في المدخلات المقدمة لنماذج اللغة الكبيرة مثل ChatGPT. بناءً على الأبحاث التي أجرتها Protect AI وخبراء أمن مستقلون على منصة Huntr لمكافآت الثغرات، هناك هجمات أكثر تأثيراً وعملية ضد الأدوات والمكتبات والأطر المستخدمة...

llm-guard

!WARNING 이 프로젝트는 보관ARCHIVED되었습니다. 이 프로젝트와 Hugging Face에 등록된 관련 모델은 더 이상 활발히 개발되거나 유지보수되지 않습니다. LLM Guard - LLM 상호작용을 위한 보안 툴킷 Protect AI의 LLM Guard는 대규모 언어 모델LLM의 보안을 강화하기 위해 설계된 종합 도구입니다. 문서Documentation | 플레이그라운드Playground | 변경 로그Changelog LLM Guard란 무엇인가요? 정화sanitization, 유해 언어 탐지, 데이터 유출 방지,...

Researchers Uncover Vulnerabilities in Open-Source AI and ML Models

A little over three dozen security vulnerabilities have been disclosed in various open-source artificial intelligence AI and machine learning ML models, some of which could lead to remote code execution and information theft. The flaws, identified in tools like ChuanhuChatGPT, Lunary, and LocalAI...