TAG:人工智能治理

根据HCLSoftware最新报告，全球85%的企业已开始运行或测试自主AI智能体，标志着AI正从助手角色进化为独立决策的行动派。报告揭示AI正全面渗透企业运营，包括低代码平台自动化和机器人技术应用，但治理滞后问题突出，仅26%企业建立明确监管框架。

aibase

2026-01-15 17:34

0

·

0

文章探讨了AI拟人化互动服务中的人工接管机制，特别是在用户表达自杀、自残意图时，如何通过法规要求人工介入以确保生命安全。分析了AI的伦理边界、责任归属及人工兜底机制的必要性，并讨论了实施中的挑战与平衡。

中国能源网

2025-12-29 17:51

0

·

0

OpenAI正在高薪招聘‘Preparedness负责人’，年薪55万美元起，负责评估和防御前沿AI模型可能引发的极端风险，如生物攻击、自主智能体失控等。该岗位直接参与产品发布决策，拥有安全一票否决权，标志着AI安全从合规审查升级为公司的核心战略支柱。

爱力方

2025-12-29 16:00

10

·

0

360数字安全集团在2025年世界互联网大会乌镇峰会上发布国内首份《大模型安全白皮书》，系统揭示大模型全生命周期中的五大核心风险，首次提出'外挂式安全+平台原生安全'双轨治理框架。白皮书详细分析了基础设施层、内容层、数据与知识库层、智能体层和用户端层的安全威胁，并构建了覆盖七大核心能力的全链路AI安全解决方案，为各行业应对智能时代新威胁提供重要参考。

aibase

2025-11-10 10:51

8

·

0