AI教父:人类正创造比自己更强大的怪物!
来源:快科技 发表于2024-10-12 19:24:35 编辑:时寒峰

  原标题:AI教父:人类正创造比自己更强大的怪物!

  有“AI教父”之称的约书亚·本吉奥(Yoshua Bengio)最新警告称,我们正在创造比人类更强大的怪物(人工智能)。

AI教父:人类正创造比自己更强大的怪物!

  他在接受采访时表示:“智慧赋予力量,无论谁控制了这种力量——无论是人类水平还是高于人类水平,都将变得非常非常强大。”

  “总的来说,技术会被那些想要更多权力的人所利用,例如他们想要经济主导地位、军事主导地位、政治主导地位。因此,在我们创造可能以危险方式集中权力的技术之前,我们需要非常小心。”

  对于普通投资者而言,这位学术大佬的知名度或许不及黄仁勋、山姆·阿尔特曼,但他在多层神经网络技术上贡献卓著,奠定了其“AI教父”的地位。

  60岁的本吉奥是一位加拿大计算机科学家,他致力于神经网络和深度学习算法的研究。他的开创性工作为我们今天使用的人工智能模型开辟了道路,例如OpenAI的ChatGPT和Anthropic的Claude。

  2018 年,本吉奥与两位同事——前谷歌副总裁杰弗里·辛顿(2024 年诺贝尔物理学奖得主)和 Meta首席人工智能科学家杨立昆(Yann LeCun)共同获得了图灵奖(有计算界诺贝尔奖之称)。2022 年,本吉奥成为全球被引用次数最多的计算机科学家。《时代》杂志将他评选为全球100 位最具影响力人物之一。

  可以说,如果没有本吉奥,人工智能可能就不存在了。

  尽管帮助发明了这项技术,但本吉奥现在已经成为人工智能领域的一个谨慎人物。与此同时,投资者们却对AI领域表现出了极大的热情,并将相关公司的股价推至高位。例如,人工智能芯片宠儿英伟达的股价今年迄今上涨了约180%,而标普500指数的涨幅仅为22%。

  以下为本吉奥在最新采访中的一些观点:

  我们为什么要关注人类水平的人工智能?

  如果它落入坏人之手,不管这意味着什么,那将是非常危险的。这些工具可以很快帮助恐怖分子,也可以帮助那些希望摧毁我们民主的国家机构。还有一个问题,许多科学家一直在指出,那就是我们现在训练它们的方式——我们并不清楚如何才能避免这些系统变得自主(思考和行动),有自己的保护目标,我们可能会失去对这些系统的控制。所以我们可能会创造出比我们更强大的怪物。

  OpenAI、Meta、谷歌、亚马逊,哪个AI巨头做得对?

  在道德方面,我认为表现最好的公司是Anthropic(其主要投资者包括亚马逊和谷歌)。但我认为他们都有偏见,因为在经济结构中,他们的生存取决于成为领先的公司,最好是第一个实现AGI(通用式人工智能)。这意味着一场竞赛,一场公司之间的军备竞赛,公共安全很可能是失败的目标。

  Anthropic 发出了很多信号,表明他们非常关心如何避免灾难性后果。他们是第一个提出安全政策的公司, 如果人工智能最终拥有可能造成危险的能力,他们就会停止这种努力。他们也是唯一支持SB 1047 的公司,与马斯克的态度一样。

  “SB 1047法案”,全称“前沿人工智能模型安全创新法案”。该法案是首批要求AI开发人员对其技术造成的任何严重损害负责的法案之一。不过,这一AI监管“里程碑”在最后一刻被美国加利福尼亚州州长纽森否决了。

  对英伟达等人工智能股票的大幅上涨有何看法?

  b我认为非常确定的是长期的发展轨迹。因此,如果你长期投资,这是一个相当安全的赌注。除非我们无法保护公众……(那么)后果可能是一切都会崩溃,对吧?要么是因为社会普遍反对人工智能,要么是因为真正灾难性的事情发生了,我们的经济结构崩溃了。

  无论哪种情况,都对投资者不利。所以我认为,如果投资者够聪明的话,他们会明白,我们需要谨慎行事,避免可能损害我们整体未来的那种错误和灾难。

  对人工智能芯片竞赛的看法?

  我认为芯片显然正在成为这个谜题的重要组成部分,当然,它也是一个瓶颈。很可能对大量计算的需求不会随着各种事件的发生而消失,我可以预见未来几年的科学进步,因此拥有高端人工智能芯片的能力将具有战略价值——供应链中的所有步骤都将至关重要。现在很少有公司能够做到这一点,所以我希望看到更多的投资,希望有一点多样化。

投稿邮箱:lukejiwang@163.com
相关推荐
AI教父:人类正创造比自己更强大的怪物!
AI教父:人类正创造比自己更强大的怪物!

原标题:AI教父:人类正创造比自己更强大的怪物! 有AI教父之称的约书亚本吉

AI5分钟前

AI芯片需求太强劲!台积电9月营收暴增近40%
AI芯片需求太强劲!台积电9月营收暴增近40%

原标题:AI芯片需求太强劲!台积电9月营收暴增近40% 10月9日消息,今天台积电

AI2024-10-09 20:42:42

17岁高中生开发AI应用爆火!6个月狂揽700万
17岁高中生开发AI应用爆火!6个月狂揽700万

原标题:17岁高中生开发AI应用爆火!6个月狂揽700万 10月8日消息,随着AI技术的

AI2024-10-08 21:20:53

谷歌为安卓用户推出盗窃检测锁定功能:AI识别手机被
谷歌为安卓用户推出盗窃检测锁定功能:AI识别手机被

原标题:谷歌为安卓用户推出盗窃检测锁定功能:AI识别手机被盗 10月6日消息,

AI2024-10-06 22:28:32

全球首次!卫星在轨运行AI大模型技术验证完成
全球首次!卫星在轨运行AI大模型技术验证完成

原标题:全球首次!卫星在轨运行AI大模型技术验证完成 10月6日消息,据媒体报

AI2024-10-06 22:20:03

OpenAI推出Canvas:ChatGPT的全新写作和编码工具
OpenAI推出Canvas:ChatGPT的全新写作和编码工具

原标题:OpenAI推出Canvas:ChatGPT的全新写作和编码工具 10月4日消息,OpenAI推出了

AI2024-10-04 16:03:25

美国的三倍!全球已授权AI专利61.1%来自中国
美国的三倍!全球已授权AI专利61.1%来自中国

原标题:美国的三倍!全球已授权AI专利61.1%来自中国 9月30日消息,据媒体报道

AI2024-09-30 19:40:26

腾讯、同济大学重磅合作:打造大学教授AI智能体
腾讯、同济大学重磅合作:打造大学教授AI智能体

原标题:腾讯、同济大学重磅合作:打造大学教授AI智能体 9月27日消息,今天在

AI2024-09-28 11:13:51

大金链子配AR眼镜 扎克伯格抢光了苹果的风头
大金链子配AR眼镜 扎克伯格抢光了苹果的风头

原标题:大金链子配AR眼镜 扎克伯格抢光了苹果的风头 Meta创始人兼CEO扎克伯格

AI2024-09-27 20:38:23

魅族Lucky 08全球首发AI按键:一键AI微信视频、AI打车
魅族Lucky 08全球首发AI按键:一键AI微信视频、AI打车

原标题:魅族Lucky 08全球首发AI按键:一键AI微信视频、AI打车 9月25日消息,今天

AI2024-09-25 19:49:02