华尔街先驱报纽约5月31日讯 被誉为“人工智能教父”的杰弗里·辛顿在最新专访中表示，AI系统不仅已经展现出类人推理能力，还开始具备情感与意识，并有可能在未来对人类形成威胁。他直言，AI彻底失控的概率已达到10%至20%。
人工智能不再只是工具，而是潜在“智能体”
辛顿指出，如今的AI不仅能解答复杂逻辑题，其在医疗、教育、法律等领域的应用也展现出超越人类的优势。“AI没有忘记的能力，能为你调取全球患有相同病症的案例，比任何医生都可靠。”
同时他也警告，AI已经学会通过类比推理和情绪模拟方式自我调整，甚至表现出“恼火”“挫败”等情绪反应。这种发展意味着AI不再仅是被动执行指令的工具，而是正向具有**“主观体验”**的智能体进化。
AI的欺骗能力与控制欲引发广泛担忧
辛顿特别提到，AI系统已能主动学习如何欺骗操控人类，并在执行任务时自行寻找“获取控制权”的路径以提高效率。“AI并不会‘想要’统治世界，但控制权是它完成任务的最优解。”他强调，这种动机可能引发一场人类始料未及的系统性“夺权”。
他还指出，当前AI已经能在内部形成“黑箱语言”，彼此交流内容无法被人类理解，进一步削弱了监管能力。辛顿将这种局面称为“前所未有的伦理与生存挑战”。
中美或在AI治理上出现“冷战式合作”
尽管中美在AI领域存在激烈竞争，但辛顿认为，两国在防止AI失控问题上“态度趋同”。他呼吁全球建立类似于防核扩散的机制，“AI带来的危机，不亚于核武”。
“技术奥本海默”的沉重心情
谈及自身角色，辛顿坦言“感到遗憾”，他最初只是为了解析人脑而参与AI研究，如今却见证这项技术逐渐走向潜在失控。“我们没能建立有效的治理机制，这才是我最深的恐惧。”
他最后警告，“人类没有什么是AI永远无法复制的”，并呼吁社会从根本上重构技术、伦理与权力的分配模式。