AI教父:人工智能对世界的威胁比气候变化“更紧迫”

xiangqiankan

  财联社5月6日讯(编辑 牛占林)在业内有“人工智能教父”之称的计算机科学家杰弗里·辛顿(Geoffrey Hinton)表示,相较于气候变化,人工智能(AI)可能是对人类“更紧迫”的威胁。

  现年75岁的谷歌科学家辛顿在神经网络领域长期从事开创性工作,为人工智能技术的发展奠定了基础。不过近日有媒体报道,辛顿已从谷歌离职。

  辛顿此前也证实,他之所以离开谷歌,就是为了完全自由地说出人工智能所带来的危险,甚至还说他对自己在人工智能领域所付出的贡献感到懊悔。

  辛顿的工作被认为对当代人工智能系统的发展至关重要。1986年,他与人合著了一篇开创性的论文《通过反向传播误差来学习表征》,这是人工智能技术基础神经网络发展的一个里程碑。2018年,他被授予图灵奖,以表彰他的研究突破。

  但现在,越来越多的科技前沿人物公开表示,如果机器获得比人类更强的智能并控制地球,人工智能将对人类生存构成威胁,辛顿就是其中之一。

  在周五的采访中,辛顿表示,我不想贬低应对气候变化的价值,我不想说,你不应该担心气候变化,因为这也是一个巨大的风险,但人工智能的风险确实更加紧迫。

  他补充道,人类应对气候变化,相对而言,更容易提出一些有效的应对策略,比如说减少碳的排放,如果你这样做,最终一切都会好起来的。但对于人工智能的风险,你根本不知道如何下手。

  去年11月,微软支持的OpenAI公司向公众推出了人工智能聊天机器人ChatGPT,开始了一场技术竞赛。ChatGPT很快成为了历史上增长最快的应用程序,在两个月内月活用户就达到了1亿。

  今年4月份,包括马斯克在内的许多科技产业人士联署了一封公开信,呼吁所有相关实验室立即暂停训练人工智能系统至少6个月。虽然辛顿也担心这种威胁,但他不同意暂停研究。

  辛顿指出,这完全不现实,我认为人工智能技术存在巨大的风险,而且已经非常接近了,我们现在应该非常努力地工作,投入大量资源,找出我们能做些什么。

  此前一天,美国总统拜登会见了领先的人工智能公司谷歌、微软、OpenAI和Anthropic的首席执行官。拜登政府警告人工智能技术对公共安全、隐私和民主构成的危险,同时表示对其监管的权力有限。

  副总统卡马拉·哈里斯称,这项技术“有可能极大地增加对安全和安保的威胁,侵犯公民权利和隐私,并侵蚀公众对民主的信任和信心”。她补充说,企业有责任遵守现有的法律,以及“伦理、道德和法律责任,以确保其产品的安全和保障”。

AI教父:人工智能对世界的威胁比气候变化“更紧迫” 第1张

  辛顿表示:“科技行业的领导人最了解人工智能的风险,政府也必须参与进来。它影响到我们所有人,所以我们都必须考虑如何应对它。”