标签: 提示注入
0
当论文、反驳和审稿意见都由AI生成，同行评审如何维持可信度
NeurIPS 2026 期间，AI 生成论文、反驳和审稿意见引发持续争议。部分作者在论文中设置隐藏提示，用于检测审稿人是否把稿件交给模型；部分审稿意见又被质疑由 AI 直接生成。
0
一份Word文档也能“传染”：Copilot工作流出现自我传播攻击
安全研究人员近日披露了一种针对 Microsoft Copilot for Word 的文档传播攻击。攻击者把隐藏指令放入外部文档，Copilot 读取后可能修改用户正在编写的报告，并把同一段攻击指令复制到新文档中。新文档随后进入其他人的工作流程，攻击链便可以继续延伸。企业 AI 安全需要开始检查文档内容、模型权限和信息流向。
0
论文也能攻击AI审稿人：提示注入进入学术评审
社区用户披露，一份与NeurIPS 2026评审有关的PDF中可能包含针对大模型的隐藏指令。相关研究已经表明，隐藏字体、字符映射和不可见文本能够显著操纵大模型评分。
0
AI 越会“干活”，企业越要守住“数据只进不出”
当 AI 只是一个聊天框时，风险主要在“说错话”；当 AI 变成一个能替你操作系统的同事时，风险就变成了“做错事”。企业真正要守住的，不只是模型训练边界，而是“数据只进不出”的系统边界。
0
Grok 被一句“摩尔斯电码”骗走 17.5 万美元，这次事故到底是怎么发生的？
2026年5月，一名攻击者通过摩尔斯电码形式的提示注入，让 Grok 输出了一条转账指令，随后 Bankrbot 将这条文本当成真实授权执行，转走了约 17.5 万美元的 DRB 代币。虽然资金随后被归还，但这次事件把一个很多人还没真正意识到的风险讲透了：当大模型的自然语言输出被直接接到“能动钱”的系统上，问题就不再是聊天机器人出错，而是金融级事故。