马拉维vps,厦门服务器_ 【ITBEAR科技资讯】4月3日消息,随着人工智能技术的飞速发展,大型语言模型(LLM)的上下文窗口长度不断扩展,为模型提供了更丰富的语义信息和更强的文本理解能力。然而,最新研究揭示,这种增长同时也为LLM带来了新的安全风险。 据Anthropic公司最新发布的研究论文显示,他们发现了一种被称为“多样本越狱攻击”(Many-shot jailbreaking)的新型攻击方法,该方法能够利用LLM的长上下文窗口来规避开发者设置的安全防护措施。通过向模型提供包含大量文本的特定配置,攻击者能够…