霍金表态AI 可能是人类的灾难，有理有据
科幻小说《2001:太空奥德赛》和根据它改编而成的经典电影《2001 太空漫游》，讲述了 AI 由人类帮手变为人类毁灭者的故事。我们亲手打造的 AI，会在未来葬送人类吗？霍金表示，这绝非危言耸听。
近日，在剑桥大学 Leverhulme 智能未来中心的开幕式上，霍金为火爆的 AI 行业泼了盆冷水。
“我们花了大量时间学习历史，”霍金在演讲中说道，“而我们所面对的历史，大多是愚蠢的。所以，现在人们在研究智能的未来，这是一个令人欣慰的变化。”
霍金表示 AI 研究的确带来了许多积极因素，认为通过这项新技术，人类或许能够消除工业化对自然界造成的一些损害，而最终目标肯定是消除疾病和贫困。
“创造出智慧的潜在好处是巨大的，我们无法预测当我们的心智被 AI 增强时，我们将达到何种成就。”
“我们生活的方方面面都会被改变，总之，成功创造出 AI 可能是我们文明史上最重要的事。”
然而，作为享誉世界的物理学家，霍金对于 AI 持谨慎态度，
**** Hidden Message *****
当时霍金解释说，AI 的真正风险不在于其是否充满恶意而在于其能力。他举了个例子：你在负责一项水利工程时，不得不淹没蚁穴，尽管你并不是一个仇恨蚂蚁的人，但在完成目标时无意间就为蚂蚁带来了灭顶之灾。
所以，当一个能力 MAX 的超级人工智能在执行任务时，如果它的目标与人类不一致，那么人类就有可能面临与蚂蚁同样的厄运。
尽管目前人工智能的发展仍处于起步阶段，但霍金对于 AI 威胁的评价，或许值得我们深思：
“人工智能的短期影响取决于谁控制了它，而长期影响则取决于它到底能不能被控制。”
{znds6}{znds6}{znds6} 哎呦，这个不错 感谢楼主的分享！
页:
[1]
