AI教父Hinton曾为了儿子卖身谷歌如今担心AI会毁灭人类

AI 教父Hinton 陷入了矛盾之中。

Geoffrey Hinton，这位被誉为「深度学习教父」的科学家，最近在The Diary of a CEO播客中袒露了一个鲜为人知的故事： 他当年把自己的神经网络公司卖给谷歌，竟然是为了给有学习障碍的儿子攒够养老钱 。

这位75岁的老人在播客中坦言：

我有一个有学习障碍的儿子。为了确保他永远不会流落街头，我需要几百万美元。作为学者是赚不到这些钱的。我试过了。所以我教了Coursera课程，希望能赚很多钱，但那里没有钱。所以我想，赚几百万美元的唯一方法就是把自己卖给一家大公司。

无奈之下，65岁的Hinton做了一个改变AI历史的决定。

当时，他的两个天才学生——包括后来创立OpenAI的Ilya Sutskever——开发出了AlexNet，这个神经网络在图像识别领域取得了突破性进展。Hinton看到了机会，和学生们成立了一家小公司， 然后搞了一场拍卖会，让各大科技巨头竞价 。

最终， 谷歌赢得了这场竞标。

谷歌对Hinton相当宽容：

他们对我很好。他们说，基本上你可以做任何你想做的事。我研究了一种叫做蒸馏的技术，效果非常好。现在一直在使用。

但正是在谷歌的这段经历，让Hinton意识到了AI的可怕之处。

这与意识到为什么数字系统在共享信息方面比模拟系统好得多相结合，突然让我对AI安全非常感兴趣。这些东西真的会比我们聪明得多。

75岁时，Hinton离开了谷歌。

他澄清说，离开并不是因为对谷歌有什么不满—— 恰恰相反，他认为谷歌表现得非常负责任 。当谷歌拥有大型聊天机器人时，他们没有急于发布，可能是担心损害自己的声誉。

反观OpenAI，Hinton说：

OpenAI没有声誉。所以他们可以承担这个赌注。

Hinton 的话里透露出一个无奈而讽刺的现实——Hinton的学生Ilya Sutskever离开谷歌创立了OpenAI，并开发出了ChatGPT，引领了这场AI革命。

而Hinton本人，却成了最大声疾呼AI 风险的人之一。

但Hinton对AI的态度并非完全悲观。

在另一段采访中，他描绘了人类与AI共生的美好愿景：

AI将被广泛使用，而且会变得非常智能。如果我们能达到人类与AI共生的状态，AI将让世界对人类来说更加有趣。平凡的事情将由AI完成，这种共生关系将让人们学得更快，生活更有趣。这是好的场景，我希望我们能实现它。

然而，他也清醒地指出了现实的残酷：

这很快就涉及到政治，因为将要发生的是，平凡的智力工作将由AI完成，这将取代很多工作。在某些领域这很好。例如在医疗保健中，如果你能让医生和护士更高效，我们都可以获得更多的医疗保健。我们都想有个随时可以询问的医生。

他警告道：

但在其他领域，你只需要那么多，这将导致失业。我相信有些人认为不会。有些人认为会创造新的工作。我不相信。担心的是，生产力会大幅提升，这本应是好事。但生产力大幅提升带来的商品和服务增长不会惠及大多数人。许多人会失业，少数人会变得非常富有。 这不是AI的问题，而是AI在我们现有社会中发展的问题。

Prashan Agarwal(@prashan_agarwal)评论称：

Hinton的轨迹几乎像神话。先点燃火焰，然后警告大家小心烧伤。进步和谨慎不是敌人，它们只需要保持对话。

FanTV AI(@FanTV_official)也感慨：

技术界的师承关系就是这样回响。一代人建造工具，下一代人拿着它们狂奔……有时候跑得太远了。

更让人深思的是Hinton对AI 末日的概率评估。

AIFRontier(@EdgeOfFiRa)在听完播客后指出：

值得注意的是，一直被描绘成AI末日论者的他，实际上只给末日场景分配了10-20%的概率。值得反思的是，专家的不确定性是如何被压缩成二元的末日/繁荣框架供公众消费的。

但misaligned hominid(@ra75293)认为：

他的末日概率超过50%。他说10-20%只是因为Yann LeCun说得更低。但他基本上认为我们完蛋了。

关于AI未来的争论还在继续。

有人担心我们正走向灭绝，有人则认为没人真正知道未来会怎样。

cptbhb(@werwt5yvh)悲观地说：