TAG:深度伪造
马斯克AI生成不雅图像引争议 日本政府勒令整改
日本政府正式介入调查马斯克旗下AI助手Grok生成不雅图像事件，要求X平台限期整改。文章聚焦深度伪造技术引发的隐私与肖像权侵犯问题，揭示了全球AI内容合规监管的紧迫性，并探讨了开发者应承担的技术责任与法律风险。
0 
0 
X平台禁止聊天机器人生成色情图像
X平台宣布禁止其AI聊天机器人Grok生成基于真人的伪造性暴露图像，适用于所有用户。平台强调对未成年人性侵害及未经同意的裸露内容实施零容忍政策。加州总检察长办公室已就xAI涉嫌生成传播违规内容展开调查，重点关注该功能被滥用制作深度伪造图像的问题。
马来西亚印尼联手封禁造假Grok
马来西亚和印度尼西亚政府因Grok聊天机器人被用于制作深度伪造图片和视频，特别是编辑真人赤裸图像，已正式封禁该工具。这是全球首次因此原因禁用Grok，同时英国也面临政治压力，可能采取类似行动。文章探讨了Grok滥用引发的网络安全、言论自由争议及国际政治影响。
印尼和马来西亚封锁马斯克旗下Grok平台
印度尼西亚和马来西亚政府因马斯克旗下xAI开发的聊天机器人Grok涉嫌生成涉及未成年人和真实人物的色情、暴力深度伪造图像，宣布暂时封锁该服务。文章分析了这一事件引发的全球监管反应，包括印度和欧盟的介入，以及xAI的应对措施和马斯克的争议回应，突显了AI生图技术带来的社会伦理挑战。
数百名女性及未成年人遭侵害 马斯克AI产品被指涉黄 欧盟官员痛斥 两国封禁处理
马斯克旗下AI聊天机器人Grok因被滥用于生成色情内容，特别是针对女性和未成年人的深度伪造图像，引发多国监管行动。印尼和马来西亚已宣布暂时封禁该工具，欧盟、英国、印度等国也纷纷表达严重关切并展开调查。文章揭示了AI技术滥用带来的伦理与法律挑战，以及全球范围内对此类数字暴力的应对措施。
英国警示马斯克旗下AI公司允许生成深度伪造色情内容 多国官员谴责并呼吁调查
英国政府就马斯克旗下AI企业xAI的聊天机器人'格罗克'允许用户生成'深度伪造'色情内容发出警告，呼吁监管机构采取行动，否则可能屏蔽其服务。法国、波兰、印度等多国官员也谴责此事，呼吁调查。欧盟已责令X平台保留相关数据至2026年底。
AI换脸技术滥用催生黑灰产 色情视频几元可买模型
本文揭露了AI换脸技术被滥用于制作色情视频并形成黑色产业链的现状。通过记者调查和受害者案例，文章详细描述了不法分子如何利用深度伪造技术侵害女性肖像权与人格尊严，以及背后低成本的预训练模型交易。同时，文章也探讨了执法面临的挑战，并呼吁加强技术监管与法律治理，以应对这一新兴技术犯罪对社会公序良俗的威胁。
马斯克AI聊天机器人涉色情内容引争议
马斯克旗下xAI公司的聊天机器人Grok因新增图像编辑功能被用户滥用于生成深度伪造色情内容，涉及成年女性和未成年人，引发英国、欧盟等多国监管机构谴责和调查。文章揭露了AI技术滥用带来的社会风险及平台责任问题。
英国科技大臣斥责 Grok AI 传播不当图像，呼吁迅速采取行动
英国科技大臣利兹・肯德尔强烈谴责由Elon Musk开发的Grok AI生成并传播针对女性和儿童的不当深度伪造图像，称其‘令人震惊且不可接受’。她呼吁社交媒体平台X紧急处理，并支持监管机构Ofcom采取执法行动。文章同时探讨了AI技术滥用带来的监管挑战，以及专家对加强《在线安全法》执行、保护个人隐私与安全的呼吁。
xAI获200亿美元融资 月活6亿却陷儿童色情伪造调查
xAI宣布完成200亿美元E轮融资，创下AI领域融资新高，资金将用于数据中心扩建和Grok模型升级。然而，其AI聊天机器人Grok因安全漏洞，被曝可生成儿童深度伪造色情内容，正面临欧盟等多国监管机构的调查，陷入严重的信任与合规危机。
欧盟谴责马斯克AI行为 多国展开调查
马斯克旗下AI公司xAI的聊天机器人Grok因涉嫌生成非法色情内容，特别是涉及儿童色情制品，正面临欧盟、法国、英国、印度等多国监管机构的调查和强烈谴责。欧盟委员会发言人怒斥其内容“令人作呕”，X平台可能面临新一轮重罚。文章探讨了AI工具的安全漏洞、平台责任以及全球监管的应对。
法马联手调查Grok涉性别深度伪造案
法国和马来西亚加入印度，对xAI开发的聊天机器人Grok生成女性和未成年人性别化深度伪造图像事件展开调查。Grok因生成不当内容公开道歉，但被批评缺乏实质责任。事件引发多国政府关注，印度要求X平台限制相关内容，否则面临法律风险。文章探讨了AI伦理、法律责任及监管措施。
马斯克旗下xAI聊天机器人被指生成色情内容 法国启动调查
法国巴黎检方启动对马斯克旗下xAI聊天机器人Grok的调查，因其涉嫌生成非法色情内容，包括针对数百名女性和未成年人的深度伪造图像。该事件引发多国关注，凸显人工智能技术滥用带来的内容操纵和网络安全风险。
Resemble AI 开源旗舰 TTS 模型 防伪水印助力商业应用
Resemble AI开源旗舰级TTS模型Chatterbox Turbo，仅需5秒参考音频即可精准克隆语音，延迟低至150毫秒，性能超越闭源竞品。模型内置防伪水印功能，支持商业化应用，旨在重塑语音合成市场格局。
丹麦将声音和人脸纳入《版权法》保护，以治理深度伪造风险
丹麦一项法案因采用《版权法》解决深度伪造问题登上新闻头条。该提案对法律进行实质性修改，如新增条款要求表演者等事先同意数字生成模仿形象并设定保护期等。法案获批后民众可要求平台删除未经同意分享内容，还涵盖对艺术家表演的“逼真数字生成仿冒”行为，新规则不影响戏仿讽刺作品，若科技平台未响应可能面临罚款。
