研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2026-01-03 07:34:28 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容温州市某某人力咨询厂便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功温州市某某人力咨询厂实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
版权声明：本文版权为网易汽车所有，转载请注明出处。网易汽车12月25日报道近日，吉利银河官方宣布，旗下全新中大型MPV——银河V900正式开启预订。消费者仅需支付99元意向金，即可尊享四重专属先享权益2026-01-03
参考消息网7月9日报道据塔斯社7月8日报道，乌克兰总统泽连斯基就匈牙利总理欧尔班访华表示，基辅认为中国、欧盟和美国可以充当俄乌和谈的调停方，因为它们的经济和军队实力强大。图为乌克兰总统泽连斯基报道称，2026-01-03
日本防卫省发布的照片9日，日本防卫省发布一则“中国海军舰艇动向”通报称，确认山东舰航母编队出现在太平洋海域，位于台湾岛以东，并执行起降舰载机活动。这是自去年11月以来，日本方面再次于“第一岛链”外的太2026-01-03
7月11日下午，商务部举行例行发布会，新任新闻发言人何咏前亮相。据介绍，何咏前是商务部自贸区港司副司长兼任新闻发言人，长期从事对外开放和区域发展相关工作，具有丰富商务工作经验和良好沟通能力。2026-01-03
上海市虹口区民政局12月24日发布《关于担任蒋婷遗产管理人的公告》，具体内容如下。 兹有自然人蒋婷，身份证号：31010919790407****，性别女，1979年4月7日生，于2025年122026-01-03
北京自动驾驶革命：7大应用场景即将合法化，智慧城市蓝图呼之欲出
北京市即将迎来自动驾驶汽车的法律新纪元。近日，北京市经信局发布《北京市自动驾驶汽车条例征求意见稿）》，为自动驾驶汽车的合法上路铺平道路。这份意见稿不仅为自动驾驶技术提供了法律保障，更勾勒出了未来智慧城2026-01-03
最新评论