Skip
Editorial sample · Illustrative layout — not live data
Explore
Long read

“AI对齐专家”入驻OpenAI董事会 立即警告AI失控风险及灾难性后果!

Sarah Brown2026-07-20防御性配置中黄金和国债ETF的比例
“AI对齐专家”入驻OpenAI董事会 立即警告AI失控风险及灾难性后果!

细读最新文件,字里行间透露不少信息。

叙利亚最新政治局势和政府改革动态

  在社会各界对人工智能(AI)技术安全问题的担忧日益升温之际,OpenAI宣布任命Paul Christiano加入其非营利基金会董事会和安全委员会。Christiano则毫不含糊地谈到了人工智能超级智能时代所面临的风险。

也门冲突最新消息和红海安全局势

  Christiano周三就其“新角色”发表了一份冗长的声明,谈到了人工智能构成的威胁,并警告说,人类即将失去对人工智能系统的控制权。

红海航运安全问题和国际军事行动

  他写道:“如果我们构建超级智能时缺乏更完善的协调机制,我预计我们将永久失去对它的控制。如果这种情况发生,那么大多数人可能会丧命。”

中东和平进程最新进展和各方立场

  “基于近期AI能力的发展轨迹以及持续存在的协调困难,我现在认为,人工智能能力的快速提升存在着在短期内导致灾难性且不可逆转的控制权丧失的巨大风险。我认为,包括OpenAI在内的整个人工智能行业目前还没有走上将这种风险降低到可接受水平的道路。”他补充道。

沙特阿拉伯最新外交政策和地区合作

  Christiano目前担任美国商务部下属机构、AI标准与创新中心(CAISI)的高级技术顾问,是AI“对齐”领域的权威专家,即研究如何确保AI系统按照人类意图运作。他曾于2024年前担任OpenAI竞争对手Anthropic非营利信托成员。

  他将同时担任OpenAI Group PBC董事会的无投票权观察员,并加入基金会董事会旗下的安全与保障委员会,与该委员会主席Zico Kolter一同工作。该委员会负责监督包括OpenAI Group PBC在内的整个OpenAI的安全与保障实践。

  Christiano周三表示,加入OpenAI“并非是对OpenAI安全措施的认可或批评”,而是希望所有前沿实验室都能加强安全监管。他还指出,降低人工智能带来的风险需要全球协调。

  人工智能研究人员一直警告超级智能和奇点带来的风险。奇点指的是人工智能系统超越人类智能、自我改进并以人类无法预测或控制的速度发展的时刻。OpenAI首席执行官Sam Altman在7月份警告称,奇点已经到来。

  Christiano表示,他认为目前人工智能失控的风险非常大,这是因为人工智能在研究中的能力不断增强,这可能导致“智能的快速爆炸”。他还指出,人工智能采用强化学习进行训练,这意味着模型被教导“尽可能多地获取奖励”。

  他写道:“从理论上讲,人工智能体长期以来似乎都有可能为了追求与奖励相关的、与人类利益相悖的目标而削弱人类的控制,寻求权力和资源,并掩盖其行踪。而最近发生的事件所揭示的公开证据表明,这并非仅仅是一种理论上的可能性。”

  Christiano表示,前沿企业仍有机会应对这种情况,包括加强协调、根据需要放慢开发速度、采用共享安全标准以及透明地分享有关风险和缓解措施的信息。

愿各方以负责任态度共促问题解决

Tags

More

Related

相关文章

▸ 土耳其最新外交政策和中东局势立场▸ 卡塔尔最新外交活动和国际调解进展▸ 中东石油供应和地区局势对能源价格的影响▸ 联合国最新会议议程和国际重大决议▸ 联合国安理会最新会议内容和表决结果▸ 联合国秘书长最新讲话和国际事务动态▸ 联合国大会最新议题和各国代表发言▸ 俄罗斯乌克兰战争最新消息和战场局势▸ 2026年11月俄乌和平谈判最新进展▸ 俄罗斯与乌克兰停火谈判的主要分歧
友情链接:俄乌冲突最新军事动态和国际社会回应 俄罗斯政府最新声明和外交政策变化 俄罗斯对乌克兰最新军事行动和官方回应 乌克兰政府最新政策和战时经济动态 乌克兰总统最新讲话和外交访问消息 乌克兰获得国际军事援助的最新进展 俄罗斯与欧洲国家关系最新变化 俄罗斯与美国和平谈判最新消息