AI教父杰弗里·辛顿 人工智能可能会重写自己的代码来“逃脱控制”
我爱霍启刚掖
发表于 2023-10-12 11:44:47
243
0
0
现年75岁的辛顿近日在接受媒体采访时表示,快速发展的人工智能技术可能在“五年内”获得比人类更聪明的能力。他补充说,如果这种情况发生,人工智能可能会进化到人类无法控制的程度。
辛顿指出,人工智能系统可能逃脱控制的方法之一是自己编写“自己的计算机代码”,这是我们需要认真担心的事情。
辛顿的工作被认为对当代人工智能系统的发展至关重要。1986年,他与人合著了一篇开创性的论文《通过反向传播误差来学习表征》,这是人工智能技术基础神经网络发展的一个里程碑。2018年,他被授予图灵奖,以表彰他的研究突破。
今年4月,在谷歌工作了10年之后,辛顿辞去了副总裁兼工程研究员的职位,这样他就可以自由地谈论人工智能带来的风险。在离职后,辛顿声称对自己在开发人工智能这项技术中的角色感到遗憾。
他特别强调,人类,包括像他这样构建人工智能系统的顶尖科学家,仍然没有完全理解这项技术是如何工作和发展的。
许多人工智能研究人员也坦率地承认对此缺乏理解。今年4月份,谷歌首席执行官桑达尔·皮查伊将其称为人工智能的“黑匣子”问题。
正如辛顿所描述的那样,科学家为人工智能系统设计算法,从“数据集”中提取信息,比如互联网。他说:“当这种学习算法与数据产生交互时,它会产生擅长做某些事情的复杂神经网络。但说实话,我们并不真正了解它们是如何做到这些的。”
皮查伊和其他人工智能专家似乎并不像辛顿那样担心机器失控的问题。另一位图灵奖得主Yann LeCun称,任何有关人工智能可能取代人类的警告都是“荒谬可笑的”,因为人类总是可以阻止任何变得过于危险的技术。
但辛顿认为,最坏的情况并不确定,医疗保健等行业已经从人工智能中受益匪浅。
此外,人工智能制造的错误信息、假照片和视频在网上广泛传播。他呼吁进行更多的研究来了解人工智能,政府应该出台法规来控制这项技术,并在全球范围内禁止人工智能军用机器人。
在上个月,美国科技大佬齐聚国会山,参加了由参议院多数党领袖舒默举办的人工智能峰会,商讨未来人工智能的监管方式。尽管科技巨头呼吁美国国会通过立法加强对人工智能的监管,但在如何进行监管上,各科技公司仍然存在分歧。
辛顿指出,无论人工智能护栏是由科技公司,还是在美国联邦政府的强制要求下实施的,都需要尽快出台相关的监管措施。
他认为,人类可能正处于“某种转折点”,接下来会发生什么存在巨大的不确定性。并补充说,科技圈和政府领导人必须决定“是否进一步发展这些东西,以及如果他们这样做该如何保护自己。”
LogoMoney.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表LogoMoney.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表LogoMoney.com立场,且不构成建议,请谨慎对待。
-
困扰开发者多年的“苹果税”迎来松动的契机。 日前,美国地方法院作出裁决,要求苹果支持移动开发者将用户引导至第三方支付平台消费,这意味着此后iOS开发者将不再受“苹果税”的制约,可以直接推广并将用户 ...
- abc691001
- 前天 10:58
- 支持
- 反对
- 回复
- 收藏
-
美股市场:美股三大指数5日集体下跌,道指、标普终结9连涨。截至当天收盘,道琼斯工业平均指数比前一交易日下跌98.60点,收于41218.83点,跌幅为0.24%;标准普尔500种股票指数下跌36.29点,收于5650.38点,跌幅 ...
- jgserver
- 前天 11:04
- 支持
- 反对
- 回复
- 收藏
-
①美联储连续第三次维持利率不变鲍威尔称不急于调整利率 美联储周三维持利率在4.25%-4.50%区间不变,美联储主席鲍威尔表示,当前政策适度限制,经济增长风险尚未显现,不急于调整利率,6月降息门槛高。他强 ...
- wengkejian
- 10 小时前
- 支持
- 反对
- 回复
- 收藏
-
据媒体援引消息人士报道,如果当前的贸易谈判未能带来令人满意的结果,欧盟计划对约1000亿欧元(约合1130亿美元)的美国产品加征额外关税。 知情人士称,拟议的报复措施最早将于周三与成员国分享,并将进行 ...
- benhao
- 昨天 11:42
- 支持
- 反对
- 回复
- 收藏