SynGhost

Syntactic-Ghost SynGhost SynGhost：通过句法迁移实现的不可见且通用的任务无关后门攻击 贡献与特点 SynGhost 具有以下贡献 为了降低现有任务无关后门的风险，我们提出了 $\mathttmaxEntropy$，一种基于熵的投毒过滤器，能够准确检测被投毒的样本。 为了进一步揭示 PLM 中的漏洞，我们提出了 $\mathttSynGhost$，一种不可见且通用的任务无关后门，它自然地利用多个句法触发器，基于对比学习和句法感知，自适应地将后门嵌入到预训练空间中。 我们在 GLUE 基准上，跨两种微调范式以及具有不同架构和参数规模的 PLM 对...

New Study Uncovers Text-to-SQL Model Vulnerabilities Allowing Data Theft and DoS Attacks

A group of academics has demonstrated novel attacks that leverage Text-to-SQL models to produce malicious code that could enable adversaries to glean sensitive information and stage denial-of-service DoS attacks. "To better interact with users, a wide range of database applications employ AI...