TAG:大模型风险

谷歌Gemini遭大规模蒸馏攻击 导致超10万次提示泄露核心逻辑

谷歌Gemini遭大规模蒸馏攻击 导致超10万次提示泄露核心逻辑

谷歌披露其AI聊天机器人Gemini遭遇大规模蒸馏攻击,单次攻击提示次数超过10万次,攻击者通过重复提问试图窃取模型核心逻辑和推理算法。这类攻击主要由商业动机驱动,可能蔓延至中小企业定制AI工具,威胁行业知识产权安全。

2026-02-15 20:04
0
0

美国多位明星AI公司研究员离职前发出警示

美国多位明星AI公司研究员离职前发出警示

多位美国AI明星公司的核心研究人员在离职时公开警告行业风险,指出大模型技术的“黑箱性”可能导致无法防范的用户操纵,并担忧商业化压力下安全与伦理考量被边缘化。文章揭示了资本扩张与AI安全之间的紧张关系,以及头部企业如OpenAI、Anthropic在IPO预期下面临的伦理挑战。

2026-02-13 11:49
0
0