谷歌与OpenAI近千员工联名呼吁：禁止将AI用于致命武器！/谷歌io大会

谷歌突失Hinton!深度学习之父警告AI风险,对毕生工作表示遗憾

1、深度学习之父Geoffrey Hinton离职谷歌，主要出于对人工智能风险谷歌与OpenAI近千员工联名呼吁：禁止将AI用于致命武器！的担忧，并对自己毕生工作表示后悔，认为AI发展速度超预期且可能带来就业市场冲击、虚假信息泛滥及人类安全威胁等风险。离职背景与直接原因Hinton作为深度学习三巨头之一，在谷歌任职十年后于2023年4月提出离职。

2、深度学习之父Hinton为警告AI风险从谷歌离职，这一事件凸显了AI失控的潜在危机，引发了业界对AI伦理和安全的深入思考。Hinton离职谷歌的背景与原因Hinton为更自由地表达对AI失控的担忧，不惜从工作10年的谷歌离职。谷歌与OpenAI近千员工联名呼吁：禁止将AI用于致命武器！他在四月份提出辞职，并于周四与谷歌CEO Sundar Pichai直接交谈后最终离开。

3、深度学习之父Hinton近期因对生成式AI的恐惧而宣布离职谷歌，并直言对自己的毕生工作感到非常后悔。这一表态与上世纪40年代奥本海默对原子弹发明的追悔有着惊人的相似。奥本海默曾引用《薄伽梵歌》中的“现在我变成了死亡，世界的毁灭者”来形容自己发明原子弹后的心境。

4、尽管Hinton对AI可能带来的风险表示担忧，但他并没有否定AI的价值。相反，他认为AI可能是解决很多“人类老问题”的钥匙。例如，在医疗领域，AI医生可以提供不疲倦、不带偏见的诊疗服务，让医疗更加公平和高效。在教育领域，AI教师可以根据每个学生的特点定制学习路径，实现真正的个性化教育。

5、离职谷歌的原因：对AI风险的担忧 虚假信息泛滥：Hinton担心互联网将充斥AI生成的虚假照片、视频和文本，导致人类难以辨别真伪。例如，深度伪造技术（Deepfake）可能被滥用，威胁社会信任。就业市场颠覆：AI已能辅助或取代律师助理、翻译等重复性工作，未来可能进一步冲击更多岗位。

OpenAI员工“吹哨”,人工智能安全来到临界点

人工智能安全风险谷歌与OpenAI近千员工联名呼吁：禁止将AI用于致命武器！：从技术失控到人类生存威胁员工公开信谷歌与OpenAI近千员工联名呼吁：禁止将AI用于致命武器！的核心警告：OpenAI和Google员工联名信指出，人工智能已带来“加剧不平等、操纵信息、失去系统控制权”等风险，甚至可能导致人类灭绝。信中特别强调，企业保密协议（如OpenAI要求离职员工批评公司即失去股权）可能压制“吹哨”行为，阻碍风险披露。

OpenAI前员工及现员工联合呼吁建立先进人工智能“吹哨权”机制，要求公司允许员工公开警示AI风险，并承诺不报复举报者。

OpenAI的吹哨人指的是前员工Suchir Balaji，谷歌与OpenAI近千员工联名呼吁：禁止将AI用于致命武器！他因发现公司内部可能存在的问题并勇敢揭露而被称为“吹哨人”。Balaji是印度裔美国计算机科学家，谷歌与OpenAI近千员工联名呼吁：禁止将AI用于致命武器！他曾在OpenAI担任人工智能研究员，并参与谷歌与OpenAI近千员工联名呼吁：禁止将AI用于致命武器！了包括ChatGPT等多个重要项目的开发和微调工作。

OpenAI吹哨人指的是对公司内部存在问题进行揭露的人，具体指的是前OpenAI员工Suchir Balaji。Suchir Balaji在OpenAI工作期间，对一些做法产生了质疑，并公开表达了对公司使用受版权保护的数据来训练AI模型的担忧。

被称为“OpenAI吹哨人”的Suchir Balaji于11月26日被发现死于旧金山公寓，终年26岁，当局裁定为自杀。他生前曾公开批评OpenAI在数据使用上侵犯原创者知识产权，其离世引发了对生成式AI伦理困境的广泛讨论。Suchir Balaji的背景与经历Suchir Balaji在加利福尼亚州库比蒂诺长大，自幼对人工智能着迷。

OpenAI员工发公开信警告AI风险，虽提及可能导致“人类灭绝”，但这一观点较为极端，核心问题在于AI行业缺乏监管与透明度，以及AI技术存在多种潜在风险，应理性看待AI风险与机遇。

机器人未来会毁灭世界吗

1、机器人未来毁灭世界目前可能性极低，但存在潜在风险需警惕。当前技术现状：机器人能力局限目前所有机器人均属于弱人工智能范畴，仅能执行预设程序，功能具有明显局限性。它们无法自主产生意识、情感或超越预设目标的意图，其行为完全由人类编写的代码和算法控制。

2、机器人未来是否会毁灭世界目前并无定论，但存在理论风险，现阶段实际可能性极低。理论风险层面：存在潜在可能性，但概率较低根据2700名AI研究员的调查，AI导致人类灭绝的中位概率是5%，深度研究者认为可能高达9%。

3、机器人未来毁灭世界的可能性极低，这更多属于科幻作品的想象而非基于当前技术路径的现实威胁。真正需要关注的是人工智能和自动化系统在发展中可能带来的具体风险，比如算法偏见、就业市场冲击、自主武器系统的伦理问题等。这些风险是可控的，需要通过健全的法律法规、伦理标准和国际合作来管理。

4、目前无法确定自主进化的人工智能是否会毁灭人类世界，但存在潜在风险需警惕，同时也有应对思路可供参考。存在潜在风险的观点及案例部分科学家认为自主进化的人工智能存在使人类灭绝的风险。图灵奖得主约书亚·本吉奥警告，拥有“自我保护目标”的超级智能机器可能在未来10年内让人类面临灭绝风险。

5、目前无法确定机器人是否会像电影《终结者》那样毁灭人类，但存在不同观点和事件引发相关担忧。

6、人工智能在人类控制范围内 人工智能的出现是科学高速发展的结果，不管是围棋高手还是要毁灭世界的女机器人索菲亚，它们所谓的思想和中枢系统不过是一个计算机的程序而已，所有的语言动作甚至是表情都是被人类提前所设计好的，并没有像人类的大脑一样拥有储存的能力，形成一个大的数据库。

Hinton、Bengio等300余大佬、名人联名警告AI灭世风险

Hinton、Bengio等300余位AI领域大佬联名警告AI可能带来灭世风险谷歌与OpenAI近千员工联名呼吁：禁止将AI用于致命武器！，呼吁全球优先应对这一威胁谷歌与OpenAI近千员工联名呼吁：禁止将AI用于致命武器！，将其与核战争、大流行病等风险置于同等重要的监管地位。

近期，由智源研究院发起的“北京AI安全国际对话”在北京举行，这是谷歌与OpenAI近千员工联名呼吁：禁止将AI用于致命武器！我国首个AI安全高端闭门论坛。Geoffrey Hinton、Yoshua Bengio、姚期智、Stuart Russell、张宏江、黄铁军、王仲远、张亚勤等30余位国内外顶尖AI领域专家参会，并共同拟定了《北京AI安全国际共识》。

背景与发起近期，AI技术迅猛发展，但潜在风险引发全球关注。在此背景下，北京AI国际安全对话会议在颐和园举办，由智源研究院倡议，图灵奖得主Yoshua Bengio与张宏江领衔，联合技术巨擘和企业领袖深入探讨AI安全问题，最终形成《北京AI安全国际共识》。

除了上述三位首席执行官外，签署这份公开声明的还包括 Geoffrey Hinton 和 Yoshua Bengio 等 AI 领域的知名专家，以及微软和谷歌等科技巨头的高管。这些人员的参与进一步增强了声明的权威性和影响力。