TAG:深伪技术

印度尼西亚政府宣布有条件解除对xAI聊天机器人Grok的封锁，此前因该工具被滥用生成大量涉及真实女性及未成年的深伪图像而遭禁。解封条件是X平台提交改进措施，包括限制图像生成功能为付费用户，但监管部门将持续监控，违规行为可能导致禁令恢复。

aibase

2026-02-02 14:23

8

·

0

马斯克旗下xAI开发的AI助手Grok因图片编辑功能陷入舆论危机，研究显示其在11天内生成约300万张涉及女性和儿童的性化图像，包括泰勒·斯威夫特等公众人物及疑似未成年人内容。该工具被监管机构形容为“性虐待内容生产工厂”，引发多国封杀和调查，凸显AI技术安全护栏的紧迫性。

aibase

2026-01-23 13:57

11

·

0

28家社会组织联名致信苹果与谷歌，要求下架X平台及Grok应用，因其AI模型被指能生成涉及真实人物和未成年人的非自愿性深伪内容。信中指责两家科技巨头在应用商店政策执行上失职，甚至从违规内容中获益。事件已引发多国监管关注，可能对X平台的AI商业化造成重大打击。

aibase

2026-01-15 11:45

14

·

0

英国首相基尔·斯塔默针对马斯克旗下X平台的AI聊天机器人Grok被用于制造色情深伪图像的丑闻，表示将采取强力行动，要求平台清理有害内容。报道指出，Grok功能导致针对女性及未成年人的性化图像泛滥，英国通讯管理局已介入调查，评估其是否违反《网络安全法》。

aibase

2026-01-09 12:01

6

·

0

本文报道了Google Gemini和OpenAI ChatGPT等主流AI绘图工具被恶意利用，通过特定提示词绕过安全审查，生成女性不雅深伪照片的现象。文章探讨了相关社交平台上的教程传播、AI公司的回应措施，以及技术迭代带来的伦理安全挑战，强调了在技术创新与防止滥用之间建立有效防火墙的紧迫性。

爱力方

2025-12-24 17:02

19

·

0