深度|人工智能教父本吉奥拉响警报：人类创造比自己更强大的技术前要谨慎
深度|人工智能教父本吉奥拉响警报：人类创造比自己更强大的技术前要谨慎
2024年10月14日 11:06
财中社10月14日电 有“AI教父”之称的约书亚·本吉奥（Yoshua Bengio）最新警告称，我们正在创造比人类更强大的怪物（ 人工智能 ）。
他在媒体上表示：“智能赋予权力，无论谁控制了这种权力——无论是人类水平还是更高——都将变得非常非常强大。总的来说，技术被那些想要更多权力——经济主导地位、军事主导地位、政治主导地位的人所利用。因此，在我们创造可能以危险的方式集中权力的技术之前，我们需要非常小心。”
60岁的本吉奥被称为 人工智能 教父，是一位加拿大计算机科学家，他致力于神经网络和深度学习算法的研究。他的开创性工作为我们今天使用的 人工智能 模型开辟了道路，例如OpenAI的ChatGPT和Anthropic的Claude。
2018年，本吉奥与两位同事——前谷歌副总裁杰弗里·辛顿（2024 年诺贝尔物理学奖得主）和 Meta首席人工智能科学家杨立昆（Yann LeCun）共同获得了图灵奖（有计算界诺贝尔奖之称）。2022年，本吉奥成为全球被引用次数最多的计算机科学家。《时代》杂志将他评选为全球100位最具影响力人物之一。
可以说，如果没有本吉奥，人工智能可能就不存在了。
尽管Bengio帮助发明了这项技术，但他现在已成为人工智能领域的谨慎之声。这种谨慎是随着投资者继续对该领域表现出极大的热情而产生的——今年人工智能的股价创下了新高。人工智能芯片宠儿 英伟达 （Nvidia，NVDA）的股价今年迄今已上涨162%，而 标准普尔 500指数的涨幅为21%。
以下为本吉奥在媒体上的一些最新观点：
我们为什么要关注人类水平的人工智能？
如果它落入坏人之手，不管这意味着什么，那将是非常危险的。这些工具可以很快帮助恐怖分子，也可以帮助那些希望摧毁我们民主的国家机构。还有一个问题，许多科学家一直在指出，那就是我们现在训练它们的方式——我们并不清楚如何才能避免这些系统变得自主（思考和行动），有自己的保护目标，我们可能会失去对这些系统的控制。所以我们可能会创造出比我们更强大的怪物。
OpenAI、Meta、谷歌、 亚马逊 ，哪个AI巨头做得对？
在道德方面，我认为表现最好的公司是Anthropic（其主要投资者包括 亚马逊 和谷歌）。但我认为他们都有偏见，因为在经济结构中，他们的生存取决于成为领先的公司，最好是第一个实现AGI（通用式人工智能）。这意味着一场竞赛，一场公司之间的军备竞赛，公共安全很可能是失败的目标。
Anthropic发出了很多信号，表明他们非常关心如何避免灾难性后果。他们是第一个提出安全政策的公司，承诺如果人工智能最终拥有可能造成危险的能力，他们就会停止这种努力。他们也是唯一支持SB 1047的公司，与马斯克的态度一样。
“SB 1047法案”，全称“前沿人工智能模型安全创新法案”。该法案是首批要求AI开发人员对其技术造成的任何严重损害负责的法案之一。不过，这一AI监管“里程碑”在最后一刻被美国加利福尼亚州州长纽森否决了。
纽森州长否决了加州的SB 1047——这是一个错误吗？
他给出的理由让我听不懂，比如不仅要监管大型系统，还要监管所有小型系统……事情可能会迅速发展——我们讨论过几年。也许即使可能性很小，比如 10% （灾难发生的可能性），我们也需要做好准备。我们需要制定法规。我们需要让公司已经开始记录他们正在做的事情，并且要让整个行业保持一致。
“另一件事是这些公司担心诉讼。我与很多公司进行了交谈，但已经有了侵权法，因此如果它们造成损害，随时都有可能提起诉讼。而该法案在责任方面所做的就是缩小诉讼范围……有10个条件，你需要满足所有这些条件，法律才能支持诉讼。所以我认为这实际上是有帮助的。但意识形态上存在着对任何参与的抵制——任何与现状不符的事情，任何国家对这些人工智能实验室事务的更多干预。”
对 英伟达 等人工智能股票的大幅上涨有何看法？
我认为非常确定的是长期的发展轨迹。因此，如果你长期投资，这是一个相当安全的赌注。除非我们无法保护公众……（那么）后果可能是一切都会崩溃，对吧？要么是因为社会普遍反对人工智能，要么是因为真正灾难性的事情发生了，我们的经济结构崩溃了。
无论哪种情况，都对投资者不利。所以我认为，如果投资者够聪明的话，他们会明白，我们需要谨慎行事，避免可能损害我们整体未来的那种错误和灾难。
对人工智能芯片竞赛的看法？
我认为芯片显然正在成为这个谜题的重要组成部分，当然，它也是一个瓶颈。很可能对大量计算的需求不会随着各种事件的发生而消失，我可以预见未来几年的科学进步，因此拥有高端人工智能芯片的能力将具有战略价值——供应链中的所有步骤都将至关重要。现在很少有公司能够做到这一点，所以我希望看到更多的投资，希望有一点多样化。
您如何看待Salesforce到2026年推出10亿自主代理？
“自主性是这些公司的目标之一，从经济和商业角度来看，这是一个巨大的突破，因为它将开辟大量应用。想想所有的个人助理应用。它需要比目前最前沿的系统所能提供的更多的自主性。所以他们追求这样的目标也是可以理解的。Salesforce（CRM）认为他们能在两年内实现这一目标，这让我很担心。我们需要在实现这一目标之前做好政府和技术方面的准备。”
（文章来源：财中社）