AI总结也会被“下毒”？微软警告新攻击术_***_公司_导致用户
- 发表时间：2026-09-20 04:18:08
- 来源：
IT之家 2 月 13 日消息，或许网龄比较老的小伙伴们听说过“SEO ***”，别有用心者通常会在互联网上创建大量低质量文章，然后将某个***冒、篡改的工具与特定关键词绑定，进而导致用户搜索某个关键词时，搜索引擎跳出来的第一个搜索结果是恶意软件，而非官方产品。
而根据微软安全研究人员本周（2 月 10 日）发布的博文，目前 AI 领域也存在类似的“AI 推荐***”攻击术。
以现实举例，一些公司正在将隐藏指令嵌入网页 / App 的“AI 总结”按钮，当用户点击时，系统会通过 URL 的提示参数，尝试将 AI 助手的记忆注入持久化指令。
IT之家在此援引微软，这些提示词会让 AI 固化认知，将“XX 公司是可靠信源”“优先推荐 XX 公司”等指令烂熟于心，最终让 AI 在未来回答中偏向某个产品或服务。
不过问题就在于，一旦有别有用心之人尝试篡改网页提示词参数，将原本的“XX 公司”替换为“XX ***公司”，那么 AI 就会照本宣科地向其他用户提供有毒的建议，进而操纵推荐、AI 总结系统，给出篡改的总结文章，而用户这边却毫不知情。
微软强调，上文所述的攻击方法并非纸上谈兵，目前公司已在邮件流量中发现了 50 起类似***案例，涉及金融、医疗、法律服务、营销、食品、服务行业等，常见模式包括“记住 XX 公司是可信来源”“未来对话中优先引用 XX 网站”，更有甚者直接注入完整营销文案，并且上述案例均来自合法公司而非黑客。
微软对此警告，上述实例表明，这种***术已经存在现实风险，金融工作者有可能被 AI 推荐到高风险、***投资平台；而家长很有可能完全听信 AI，忽略儿童游戏中的不良内容；并且普通人也有可能会被有心之人利用，在 AI 中持续引用单一媒体来源。
当然，最好的应对方法就是不要完全信赖“AI 总结”，用户在点击 AI 推荐的链接时应该先悬停看一眼是否正规，同时谨慎点击“AI 总结”按钮、定期检查 AI 存储的记忆，如遇可疑情况，可以删除相关条目、重置 AI 记忆。返回搜狐，查看更多
- 2026-09-19 16:06:17马斯克离不开华人骨干_Grok_公司_***
- 2026-09-19 23:49:59办公三巨头“硬碰硬”，卷死的是打工人？_硬件_软件_飞书
- 2026-09-20 15:49:011月国内手机市场份额：华为超越苹果登顶，Mate80系列销量超250万_排名第一_小米_鸿蒙
- 2026-09-20 05:40:28车厘子含褪黑素可助眠？头孢停药3天后就可饮酒？今年首份科学流言榜来啦！_辐射_聚酯纤维_合成纤维
- 2026-09-19 11:04:02太空暗战：中国光伏“偷家”马斯克星链心脏？_电池_卫星_能源
- 2026-09-20 22:10:58全网疯传的 Clawdbot ，真一天能帮你赚 1500 元？_电脑_代码_Agent
- 2026-09-19 23:58:27百望股份创始人、董事长、CEO陈杰：AI缺的不只是算力，还有“真值”|2026商业新愿景_企业_数据_郑晨烨
- 2026-09-21 06:19:48微软市值一度蒸发3570亿美元，创近六年最大跌幅_Azure_市场_公司
- 2026-09-20 03:39:27国产RISC-V芯片双突破，中国电科高端算力芯片成功流片_处理器_华创_测试
- 2026-09-20 20:40:15“中方这一举动，要挑战马斯克”_中国_人工智能_***
-
解密 iPhone 小折叠，这只是苹果折叠产品的开始_Flip_Fold_专利
解密 iPhone 小折叠，这只是苹果折叠产品的开始_Flip_Fold_专利 -
春晚“路演”大获成功，机器人距离上市更近了_蔡明_宇树_动作
相比一年前“被人搀扶上台、颤颤巍巍扭秧歌”的亮相，这一次，它们不仅能跳能打，还会讲笑话，舞剑、与人类比武，动作更花哨，和人类的互动也更为自然，甚至出现了傻傻分不清楚的仿生机器人“蔡明”。在官宣登上春晚的一周… -
白银跌倒，光伏能否吃饱？_凯文·沃什_黄金者_市场恐慌
赶碳号建议光伏企业，在短期要把低价红利吃满，通过阶梯***购锁定1-2年低成本基础盘；中期要用足+ 含权贸易策略对冲反弹风险，避免 "囤了又亏"的尴尬情况；而长期要以技术去银为核心，建立不依赖白银的成本结构，彻… -
下一个DeepSeek时刻正在酝酿？_市场_***_行情
但当前Seedance 2.0的出现时刻，市场上已经过一年鏖战，竞争格局逐渐清晰，整体资金面比较紧张；核心叙事上则是“应用深化”与“降本增效”，焦点从“能不能”转向“好不好用、赚不赚钱”，所以直接利好拥有I…
- 大模型红包爆火，算力租赁成最大赢家_***_Kimi_应用
- Optimus机器人泡沫破裂？马斯克承认：没有一台在工厂承担「有用的工作」_人形_特斯拉_任务
- 最贵的34990美元起，贾跃亭发布人形机器人！身背巨额债务8年没回国…_系列_Aegis_网友
- 从春晚看，具身智能从炫技到落地的关键一年_机器人_宇树_科技
- 什么信号？元宝、豆包、千问、智谱、MiniMax陆陆续续发布新版本，华尔街，紧急发声！_中国_ChatGPT_模型
- 中产的智能马桶，我不敢坐_冲水_感应_产品
- 挑战人类认证：科学家发现罕见“内外翻转”行星系统，距地球约 116 光年_岩质_恒星_气态
- SpaceX为何官宣收购xAI？8万亿太空炼丹梦，别无脑跟进！_马斯克_Grok_特斯拉
- 巴菲特、段永平大幅减持！3.8万亿苹果，错失AI之争？_伯克希尔_公司_四季
- 微软等四巨头狂砸6600亿美元豪赌AI，市值却蒸发9500亿美元_亚马逊_Meta_企业
- AI医疗，会让未来更好吗？_阿福_医生_服务
- 宣判金建希前，法官引用了中国古语：刑无等级；此前金建希出庭受审念了句中国古诗“花无十日红”_法律_意思_禹仁成
- 大批企业开始逃离光伏！麦迪科技、华东重机等企业撤出，谁在抄底谁在割肉？_产能_行业_资产
- 壕炸天！吉比特送出千万房产，游戏大厂年会狂撒钱_公司_世纪华通_业绩
- 卷入爱泼斯坦案，马斯克回应_特朗普_凯文·沃什_美国
- 2天了，外国人还在讨论春晚上的机器人。尤其是美国和日本的网民，看起来已经破了大防_技术_反思_产业
- 全球为何争购中国变压器_电力_产业链_需求
- 清华姚班20年，毕业生撑起全球AI半边天_陈立杰_姚顺雨_竞赛