技术博客

DeepMind公司近期开发了一种名为CaMeL的新技术，专注于防御大型语言模型（LLM）中的提示词注入攻击。通过分析控制流与数据流，CaMeL能够精准识别并拦截潜在的恶意输入，从而显著提升LLM的安全性能。这一创新技术为语言模型的安全性增强提供了新方向，有望在广泛的应用场景中减少安全风险。