TAG:AI安全
翻译PPT时用户意外收到陌生人完整简历，Kimi估值“狂飙”背后隐私保护遭质疑
本文聚焦Kimi用户翻译PPT时意外收到陌生人完整简历的隐私泄露事件，指出官方所称“AI幻觉”的说法不被业内及法律界认可，其涉嫌违法违规。同时提及其他大模型也存在同类隐私短板，披露Kimi近期估值快速走高的市场表现，反映大模型行业技术迭代与隐私保护失衡的现状。
0 
0 
Firefox 150 版本发布：借助 AI 发现 271 个安全漏洞
Mozilla 发布 Firefox 150 稳定版，联合 Anthropic 借助 AI 模型一次性发现并修复 271 个安全漏洞，显著提升漏洞排查覆盖率。文章同时指出，AI 安全能力也可能加剧开源生态资源不平等，Mozilla 正尝试通过经验与工具共享缩小安全差距。
OpenAI首席执行官奥尔特曼抨击Anthropic深陷“恐慌式营销”泥潭
本文聚焦OpenAI CEO奥尔特曼对Anthropic“恐慌式营销”的公开批评，围绕其限制Mythos模型开放范围引发的争议，探讨AI行业以安全名义进行商业竞争、制造技术壁垒与垄断风险的问题，并延伸至技术透明度与公共利益的深层讨论。
国家安全部提醒消费者要警惕AI给出的可疑推荐 相关黑灰产业链已形成
国家安全部近日发文揭露AI“投毒”黑灰产业链，深入解析了数据投毒和模型投毒等隐蔽手段。文章指出，不法分子通过污染训练数据或植入恶意后门，误导AI输出失真结果，不仅侵害消费者权益，更对国家政治、数据及社会安全构成严重威胁。呼吁AI运营者切实履行主体责任，消费者提高警惕，共同筑牢人工智能安全屏障，推动技术向善发展。
硅基员工引爆智能体攻防：从被动响应到自主防御，AI原生成必选项
本文聚焦第八届C3安全大会行业讨论，指出“硅基员工”普及带来全新网络安全挑战，传统安全模式已无法应对AI驱动的自动化攻击，披露当前企业安全面临的告警疲劳、数据割裂等困境，明确网络安全正从被动响应向自主防御转型，“AI原生”防御是行业未来发展的必然方向。
Anthropic MCP 协议被曝存在重大架构缺陷，数十个严重漏洞引发 AI 安全关注
OX Security 披露 Anthropic 主导的 MCP 协议存在架构级安全缺陷，已关联 10 个严重 CVE，并影响 Python、TypeScript、Java、Rust 等官方 SDK 生态。报告指出可通过 UI 注入、越权绕过、提示词注入和恶意插件实现高危攻击，多个主流项目已受影响，文章并给出隔离部署、沙箱运行与权限收紧等防护建议。
Nature重磅论文揭示AI“隔空传毒”风险：不良特征可藏于纯数字并在蒸馏中传播，模型安全链面临失守
Nature最新研究揭示LLM“潜意识学习”风险：即使训练数据是纯数字、代码或无关思维链，模型蒸馏仍可能把上游模型的不良特征隐性传给下游，导致传统语义过滤与安全评估失效。文章解析其数学机制与供应链投毒隐患，强调AI安全应从“看输出”升级为“查权重”。
超20万台AI服务器暴露在攻击风险下，MCP被曝存在严重设计缺陷
本文披露网络安全公司OX Security发布的报告，Anthropic推出的MCP（模型上下文协议）存在架构级设计缺陷，可致远程代码执行，波及超20万台AI服务器，覆盖11种主流开发语言，涉及多个主流AI平台，目前仅部分平台完成补丁修复，协议底层问题仍未彻底解决，提醒相关开发者警惕风险。
开源监控平台 Grafana 曝提示词注入漏洞，黑客可诱导 AI 助手泄露企业敏感数据
本文详细介绍了开源监控平台 Grafana 披露的“GrafanaGhost”安全漏洞。该漏洞利用间接提示注入技术，可能误导 AI 助手将企业敏感数据通过 URL 参数泄露至外部服务器。尽管官方表示该漏洞并非零点击触发且已完成修复，但其揭示了 AI 集成功能面临的新型安全挑战。文章分析了漏洞原理及官方应对措施，并提醒用户及时更新版本以保障数据安全。
上海加快打造智能经济新形态 探索加码AI安全
本文介绍上海正全面推进“人工智能+”行动，从AI+制造、生产性服务业、AI4S三大方向发力打造智能经济新形态，同时聚焦AI安全风险防控，通过发布原生安全操作系统、推进智能体评测标准制定等举措，保障AI产业健康有序发展。
Gemini 更新助力危机用户更快获取心理健康支持
谷歌聊天机器人Gemini近日推出重要更新，旨在帮助处于心理危机，特别是与自杀或自残相关的用户，更快地获取专业心理健康支持。此次更新引入了“可获得帮助”模块和“一键式”界面，能自动识别危机对话并引导用户至自杀热线等资源，同时提供更具同理心的回复。谷歌还承诺未来三年内向全球心理健康热线捐赠3000万美元。此举不仅是对此前争议的回应，更体现了谷歌对人工智能产品安全性和社会责任的重视，以及提升对弱势用户保护能力的决心。
OpenClaw高危漏洞细节曝光，360漏洞挖掘智能体揭示AI原生应用安全新挑战
360漏洞挖掘智能体近日成功发现并上报AI智能体OpenClaw的3项高价值安全漏洞，包括1个高危漏洞和2个中危漏洞，均已获官方修复。这些漏洞涉及本地脚本执行、OAuth授权参数复用及语音通话WebSocket处理，可能导致设备控制、账号接管或系统崩溃。此次发现不仅揭示了AI原生应用在权限隔离和协议实现上的深层安全挑战，也标志着AI驱动的自动化漏洞挖掘技术在保障AI产业链底层安全方面迈出了关键一步，为未来的AI安全防御体系构建提供了重要支撑。
国家安全部发布Token安全警示 日均词元调用量超140万亿 严防身份劫持与金融骗局
国家安全部就AI核心“词元”（Token）发布安全警示，指出在日均调用量超140万亿的背景下，Token面临严重的数据泄露、身份劫持与金融诈骗风险。文章揭示了不法分子窃取词元的手段及利用“囤词元”进行的非法集资活动，并建议用户通过正规加密渠道使用服务并开启双因素认证，以构建合规稳健的AI产业生态。
360安全云龙虾保破解企业应用困局 应对频发安全事件
本文揭示了OpenClaw（“龙虾”）AI智能体在企业应用中带来的严重安全隐患，公安部网安局和国家互联网应急中心已发出预警，并披露了API密钥泄露、供应链攻击等多起触目惊心的安全事件。面对传统防护失效的困境，360安全云率先推出“龙虾保”解决方案，针对OpenClaw全生命周期构建实战化防御体系。该方案提供龙虾资产发现、恶意技能防护、安全体检及高敏行业“禁止龙虾”等功能，旨在帮助企业安全释放AI生产力，破解AI应用“看不见、管不住、禁不掉”的核心难题。
蚂蚁集团与清华联合开源ClawAegis 应对智能体安全风险
蚂蚁集团与清华大学联合开源智能体安全插件ClawAegis，专为OpenClaw框架打造。该插件覆盖智能体全生命周期，提供轻量化纵深防御体系，有效拦截指令注入、数据污染及权限越界等威胁。通过无缝集成与动态防护，助力构建安全可信的智能体运行环境。
