TAG:虚假信息
小红书严管AI假脸 强制标注合成内容违规扣流量
小红书发布新规，要求创作者对AI生成及合成内容进行显著标识，以应对AI技术滥用乱象。平台将通过强制标识、算法检测和严厉打击违规行为等措施，维护社区内容的真实性与信任基础，违规内容将面临限流或封禁处罚。
0 
0 
网信部门重拳整治虚假信息 处置账号超1.3万清理信息54万条
近期网信部门针对网络平台传播未标注AI标识的虚假不实信息展开专项整治，依法处置账号13421个，清理违法违规信息54.3万余条。通报了五类典型案例，包括虚构故事博取流量、AI换脸假冒公众人物、编造虚假火灾事故、制作低俗动画内容以及售卖去AI标识教程等行为。网信部门将持续保持高压严管态势，呼吁创作者主动添加AI标识，共同维护清朗网络空间。
网信部门严打未标注AI虚假信息
网信部门近期针对网络平台传播未标注AI标识的虚假不实信息问题开展专项整治，依法处置违规账号13421个，清理信息54.3万余条。文章通报了五类典型案例，包括虚构故事博流量、假冒公众人物牟利、编造火灾事故、传播低俗内容侵害未成年人以及售卖去标识教程等违规行为，强调将持续高压监管，呼吁创作者主动添加AI标识，共同维护清朗网络空间。
圣路易斯猴子出逃引全城搜索 AI合成图成干扰源
美国圣路易斯市猴子出逃事件引发全城搜索，但社交媒体上泛滥的AI合成虚假图片严重干扰了官方搜寻工作。这些误导性内容不仅消耗公共资源，还凸显了合成媒体技术对现实公共管理秩序的侵蚀，引发对AI虚假信息的信任危机。
虚假反工党视频在YouTube播放量破12亿
2025年，超过150个匿名YouTube频道利用廉价AI工具传播虚假反工党视频，累计观看次数达12亿次，主要针对英国首相基尔・斯塔默，引发公众信任危机。研究揭示这些频道从政治分歧中获利，并存在全球合成宣传趋势。YouTube已删除相关频道，但工党和研究机构呼吁平台加强内容审核以应对虚假信息威胁。
AI正在被“投毒”：当黑帽SEO攻陷大模型，我们的信任根基何在？
网络安全团队'知危'的实验揭示了AI大模型正面临'黑帽SEO'攻击，攻击者通过伪造自媒体内容污染AI知识库，导致模型将虚假信息作为"事实"输出。文章分析了AI依赖'低质量摘要'和缺乏事实核查能力的两大缺陷，警示在AI成为主要信息入口的时代，公众需保持批判性思维，通过多信源验证来抵御认知污染风险。
