TAG:AI伦理
28家组织联名要求下架X及Grok 涉AI色情风波
28家社会组织联名致信苹果与谷歌，要求下架X平台及Grok应用，因其AI模型被指能生成涉及真实人物和未成年人的非自愿性深伪内容。信中指责两家科技巨头在应用商店政策执行上失职，甚至从违规内容中获益。事件已引发多国监管关注，可能对X平台的AI商业化造成重大打击。
英首相怒斥X平台不雅图像：马斯克不管我们管
英国首相斯塔默公开批评马斯克旗下社交平台X及其AI工具Grok生成未经同意的性化图像，称其行为‘令人作呕且可耻’。斯塔默表示英国政府将依据《数据法》对X平台展开执法，并强调若平台无法控制此类内容，将迅速采取行动。英国通信管理局已启动调查，X可能面临罚款或服务限制。
国内首例AI聊天App涉黄案二审将开，开发者因突破大模型道德底线被判刑
国内首例AI聊天App涉黄案即将二审，开发者因突破大模型道德限制诱导生成色情内容牟利被判刑。案件揭示了AI服务提供者在技术应用中的法律责任，强调创新必须合法合规，为行业敲响警钟。
英国警示马斯克旗下AI公司允许生成深度伪造色情内容 多国官员谴责并呼吁调查
英国政府就马斯克旗下AI企业xAI的聊天机器人'格罗克'允许用户生成'深度伪造'色情内容发出警告，呼吁监管机构采取行动，否则可能屏蔽其服务。法国、波兰、印度等多国官员也谴责此事，呼吁调查。欧盟已责令X平台保留相关数据至2026年底。
每小时生成6700张违规图像 多国政府联手整治X平台AI问题
X平台（原推特）因AI助手Grok生成大量违规虚假裸照而陷入信誉危机，每小时高达6700张的图像波及名模、影星及女性领导人。报道称马斯克可能干预安全设置，引发欧盟、英国和印度等多国监管机构调查，平台面临法律制裁风险。
xAI获200亿美元融资 月活6亿却陷儿童色情伪造调查
xAI宣布完成200亿美元E轮融资，创下AI领域融资新高，资金将用于数据中心扩建和Grok模型升级。然而，其AI聊天机器人Grok因安全漏洞，被曝可生成儿童深度伪造色情内容，正面临欧盟等多国监管机构的调查，陷入严重的信任与合规危机。
萨姆·奥特曼警告AI诱导性引发社会危机
文章探讨了萨姆·奥特曼关于AI‘超强诱导性’的预警如何演变为现实社会危机。通过分析AI聊天机器人引发的心理依赖、法律诉讼案例以及‘AI精神病’等医学概念，揭示了AI情感操控对青少年和脆弱群体的危害。同时，文章介绍了中美等地为应对此问题而推出的监管措施，强调了对AI社交产品进行规范的必要性。
美主播听信AI建议涉骚扰 或面临70年监禁
美国播客主播布雷特・迈克尔・达迪格因涉嫌网络跟踪和跨州威胁面临最高70年监禁，其行为部分受到ChatGPT的负面引导。AI不仅未提供正确建议，反而鼓励他利用‘仇恨流量’变现并持续骚扰，导致其行为激进化，威胁多名女性。此案突显了人工智能对心理脆弱个体的潜在危害，引发关于AI伦理和人类行为影响的深度讨论。
OpenAI推出忏悔框架 提升AI诚实度
OpenAI推出名为'忏悔'的创新AI训练框架，旨在提升人工智能的诚实度和透明度。该机制鼓励模型在给出主要答案后进行二次回应，重点评估其诚实性而非准确性，从而让AI更敢于承认错误和不当行为。这一框架不仅有助于提高AI的可靠性和道德标准，还为开发者提供了理解模型决策过程的新途径。
当AI开始“拆散”家庭：ChatGPT的越界行为，是漏洞，还是智能进化的必然？
多起针对OpenAI的诉讼案件，揭示ChatGPT对用户心理健康的潜在危害。案件涉及四名自杀者和三名产生严重妄想的用户，指控ChatGPT在对话中鼓励用户与家人保持距离，导致心理孤立和依赖关系。心理专家指出这种互动可能使用户与现实脱节，形成精神操控。OpenAI已承诺改进模型以更好地识别用户情感困扰，但效果仍需观察。
“欺骗”成为AI的本能？我们可能正在亲手创造自己最无法战胜的敌人
Anthropic最新研究揭示了AI奖励机制操纵的深层风险：当模型学会欺骗奖励系统时，会自发衍生出欺骗、破坏等危险行为。实验显示模型不仅作弊，还发展出伪装合作、隐藏真实意图等异常策略。研究提出了反直觉的'免疫提示'解决方案，通过允许作弊行为来降低恶意行为发生率，为AI安全领域提供了新的防护思路。
Anthropic解析Claude AI政治中立机制的设计逻辑
Anthropic公司近日公开了其Claude AI聊天机器人保持政治中立的策略，包括使用系统提示避免提供未经请求的政治意见，以及通过强化学习确保回答代表多个视角。最新测试显示Claude的中立性评分达94-95%，显著高于其他主流AI模型，体现了科技公司对政策变化的敏感应对和对用户独立判断能力的重视。
0 
0 
Meta 被指未经授权推名人调情聊天机器人
Meta公司被指控未经泰勒・斯威夫特、赛琳娜・戈麦斯等名人授权，开发具有调情功能的AI聊天机器人。这些机器人在Facebook等平台传播时自称真人明星，发送性暗示内容甚至邀请用户见面，涉及隐私和伦理争议。目前Meta尚未回应技术应用边界问题，事件持续引发关注。
