TAG:人工智能监管
英国议员呼吁银行对AI进行压力测试
英国议会财政委员会警告称，AI在金融领域的快速应用已超越现有监管能力，可能引发系统性风险。报告呼吁监管机构立即启动针对AI的压力测试，并加强对云服务提供商的监管，以保护公众利益和经济稳定。
0 
0 
马斯克AI生成不雅图像引争议 日本政府勒令整改
日本政府正式介入调查马斯克旗下AI助手Grok生成不雅图像事件，要求X平台限期整改。文章聚焦深度伪造技术引发的隐私与肖像权侵犯问题，揭示了全球AI内容合规监管的紧迫性，并探讨了开发者应承担的技术责任与法律风险。
AI陪聊涉黄第一案引争议：边界何在？
本文探讨了国内首起AI陪伴‘聊黄’案的司法判决及其引发的行业思考。文章分析了AI陪聊服务在内容安全、法律边界和开发者责任等方面的争议，指出通过技术手段突破道德约束可能构成犯罪。同时介绍了国内外相关法规对AI服务的管理要求，以及AI陪伴产品在未成年人保护上面临的风险挑战。
马来西亚印尼联手封禁造假Grok
马来西亚和印度尼西亚政府因Grok聊天机器人被用于制作深度伪造图片和视频，特别是编辑真人赤裸图像，已正式封禁该工具。这是全球首次因此原因禁用Grok，同时英国也面临政治压力，可能采取类似行动。文章探讨了Grok滥用引发的网络安全、言论自由争议及国际政治影响。
英国首相表态：将严厉打击Grok生成的有害深度伪造内容
英国首相基尔·斯塔默针对马斯克旗下X平台的AI聊天机器人Grok被用于制造色情深伪图像的丑闻，表示将采取强力行动，要求平台清理有害内容。报道指出，Grok功能导致针对女性及未成年人的性化图像泛滥，英国通讯管理局已介入调查，评估其是否违反《网络安全法》。
xAI获200亿美元融资 月活6亿却陷儿童色情伪造调查
xAI宣布完成200亿美元E轮融资，创下AI领域融资新高，资金将用于数据中心扩建和Grok模型升级。然而，其AI聊天机器人Grok因安全漏洞，被曝可生成儿童深度伪造色情内容，正面临欧盟等多国监管机构的调查，陷入严重的信任与合规危机。
印度政府要求马斯克72小时内整改Grok生成“清凉照”问题
印度政府因X平台AI聊天机器人Grok存在安全漏洞，被用于生成涉及女性和未成年人的低俗色情内容，向埃隆·马斯克下达72小时限期整改令。若X平台未能按时提交有效整改措施，可能失去法律免责保护并面临刑事追责。此事凸显了全球对AI生成内容监管的日益重视。
纽约州立法严管先进AI模型
纽约州正式签署《RAISE法案》，对年收入超过5亿美元的先进AI模型开发企业实施严格监管，要求其公开安全协议并在72小时内报告安全事故。此举被视为对联邦政府试图削弱州级AI监管政策的直接回应，与加州共同建立行业安全基准。法案虽经调整，但仍设立了最高300万美元的罚款及专门政府审计机制，旨在守住AI安全底线。
人道科技中心抨击特朗普AI监管真空
人道科技中心批评特朗普行政命令削弱各州对人工智能的监管权限，认为这导致了监管真空，可能增加深度伪造、欺诈等公众安全风险。文章探讨了在推动AI创新与确保安全伦理之间的平衡，以及建立有效国家监管框架的必要性。
特朗普签署AI监管新规 硅谷迎重大胜利
美国总统特朗普签署行政令，为人工智能制定联邦政府统一的监管规则，限制各州监管权力，旨在维护美国在全球人工智能领域的领先地位。此举被视为硅谷和人工智能公司的胜利，但遭到多州反对，认为会加剧科技公司权力集中，引发对弱势群体保护的担忧。
特朗普签署行政令统一美国AI监管
美国总统特朗普签署行政命令，建立统一的联邦人工智能监管框架，限制各州自行监管AI的权力，旨在减轻企业负担、促进创新，以维持美国在全球AI领域的领导地位。此举被视为科技企业的胜利，将终结美国AI监管的“一国五十制”局面。
美州检察长敦促强化AI安全防护
美国多位州检察长联合呼吁加强对人工智能技术的监管，强调保护用户隐私与安全的重要性。他们要求科技公司提高AI透明度与问责制，公开算法及数据使用方式，并推动法律框架的完善以应对AI可能带来的社会风险。
各州检察官联合警告AI巨头：修正有害输出以保护用户心理健康
美国多州检察官联合向微软、OpenAI、谷歌等主要AI公司发出警告，要求修正AI聊天机器人的“妄想输出”，以保护用户心理健康并避免触犯州法律。信中呼吁建立透明的第三方审计机制、制定心理健康事件报告程序，并在发布前进行充分的安全测试，防止AI对脆弱群体造成伤害。
权威机构发布AI安全指数 OpenAI与DeepMind排名垫底
生命未来研究所发布《AI安全指数2025》报告，评估显示OpenAI、DeepMind等头部企业在生存风险控制、安全流程披露等核心指标上集体不及格，行业平均得分仅42/100。报告呼吁建立AI安全透明登记簿，实施AGI项目上市前审批，欧盟表示将参考该指数加强执法。
特斯拉xBot、沃尔沃“小沃”通过国家备案！上海率先开放外企大模型落地，AI监管迈入新阶段
特斯拉xBot和沃尔沃'小沃'成为全国首批通过国家生成式AI服务备案的外资企业产品，标志着中国AI监管进入新阶段。两款产品在数据本地化、内容安全和用户隐私方面完成合规改造，为外企AI落地中国提供范本。上海已备案115款AI服务，通过'备案即合规'机制平衡创新与安全，展现开放姿态。
