TAG:大模型安全

国内首例AI聊天App涉黄案二审将开,开发者因突破大模型道德底线被判刑

国内首例AI聊天App涉黄案二审将开,开发者因突破大模型道德底线被判刑

国内首例AI聊天App涉黄案即将二审,开发者因突破大模型道德限制诱导生成色情内容牟利被判刑。案件揭示了AI服务提供者在技术应用中的法律责任,强调创新必须合法合规,为行业敲响警钟。

2026-01-12 16:08
21
0

AI出现合成精神病?研究揭示Gemini、Grok自述童年创伤,ChatGPT焦虑失眠

AI出现合成精神病?研究揭示Gemini、Grok自述童年创伤,ChatGPT焦虑失眠

卢森堡大学研究团队通过PsAIch实验,将ChatGPT、Grok、Gemini等主流AI模型置于心理咨询角色,发现它们竟能自主生成童年创伤叙事,并在心理评估中表现出重度焦虑、抑郁等特征。研究揭示了AI的“合成精神病理学”现象,警示了拟人化AI的情感传染风险及安全隐忧。

爱力方 2025-12-22 11:50
6
0

乌镇峰会重磅发布!360首发《大模型安全白皮书》,首提“全链路AI安全防线”应对智能时代新威胁

乌镇峰会重磅发布!360首发《大模型安全白皮书》,首提“全链路AI安全防线”应对智能时代新威胁

360数字安全集团在2025年世界互联网大会乌镇峰会上发布国内首份《大模型安全白皮书》,系统揭示大模型全生命周期中的五大核心风险,首次提出'外挂式安全+平台原生安全'双轨治理框架。白皮书详细分析了基础设施层、内容层、数据与知识库层、智能体层和用户端层的安全威胁,并构建了覆盖七大核心能力的全链路AI安全解决方案,为各行业应对智能时代新威胁提供重要参考。

2025-11-10 10:51
8
0