当前位置: 首页 >> 分析
图灵奖得主杨立昆:AI的逻辑推理和规划能力有限,会犯事实错误和逻辑错误_当前资讯
来源:搜狐科技     时间:2023-06-11 03:49:52

出品|搜狐科技

作者|郑松毅


【资料图】

6月9日,2023智源人工智能大会在北京举办。法国当地时间凌晨四点,被誉为“世界深度学习三巨头”之一的杨立昆(Yann LeCun)在法国视频连线北京现场,发表了主题为《走向能够学习、推理和规划的大模型》的演讲,表达了对于人工智能的深度思考。

搜狐科技在智源大会现场观看了这场演讲,从杨立昆演讲时面露微笑的表情中,可以感受到杨立昆对于人工智能发展的积极乐观态度。此前在马斯克等人联名签署联名信提出人工智能发展将给人类文明带来风险时,杨立昆曾公开反驳,认为人工智能尚未发展到给人类构成严重威胁的程度。演讲中,杨立昆再次强调人工智能是可控的,他表示,“恐惧是由对潜在负面结果的预期引起的,而兴高采烈是由对积极结果的预测产生的,像这样由目标驱动的系统,我将之称为‘目标驱动的人工智能’,它会是可控的,因为我们可以通过成本函数为它设定目标,确保这些系统不会想要接管世界,相反,它会屈从于人类和安全。”

杨立昆表示,人工智能距离人类和动物的能力差距在于逻辑推理和规划,这是智能的重要特征,现在的大模型只能“本能反应”。

“如果你用一万亿或两万亿个token来训练它们,机器的性能是惊人的,但最终机器会犯事实错误、逻辑错误,它们的推理能力是有限的。”

杨立昆强调,基于自我监督的语言模型无法获得关于真实世界的知识。他认为,与人类和动物相比,机器的学习能力并不是很好。几十年来,研发系统的方式都是在用监督学习,但监督学习需要太多标签,学习任何东西都需要进行大量的尝试,强化学习的结果却不尽人意,这些系统是脆弱的,会犯愚钝和错误,且并不会真正地推理和计划。

“就像我们在演讲时,如何从一个观点表达到另一个观点,怎么解释事物,大脑里是有计划的,而不是一字一句的即兴发挥。也许在低层次上,我们在即兴发挥,但在高层次上,我们一定是在规划。所以规划的必要性是非常明显的。我的预测是,在相对短的几年内,理智的人肯定不会再使用自回归元素(自监督学习方法中的模型之一)。这些系统将很快被放弃,因为它们是无法修复的。”

他表示,为了让语言模型真正理解真实世界的知识,需要一个新的架构来取代,而这个架构就是他在一年前所发表的论文中提出的架构,“自主智能(Autonomous Intelligence)”。这是由一个配置模块控制整个系统,基于输入信息,进行预测、推理、决策的架构。其中的“世界模块”具备估计缺失信息、预测未来外界状态的能力。

谈及未来几年AI将面临的挑战,杨立昆指出三个方面,其一是学习世界的表征和预测模型;其二是学习推理,即学习如何有意识、有目的地运用思维去完成任务;最后一个挑战是如何通过将复杂任务分解成简单任务,以分层的方式运行来规划复杂的行动序列。

谈到这里,杨立昆介绍了他发表在论文中的另一个模型“世界模型(World Model)”,该模型可以想象一个场景,并根据场景预测行动结果。目的是找出一系列根据其自己的世界模型预测的行动,并最小化一系列成本的行动序列。

当杨立昆在提问环节被问及有关即将参加的一场关于AGI的地位和未来的辩论时,他表示这场辩论将围绕一个问题展开,即人工智能系统是否会对人类构成生存风险。Max Tegmark 和 Yoshua Bengio 将站在“会”的一边,认为强大的 AI 系统可能对人类构成存在风险。而杨立昆和 Melanie Mitchell 将站在“不”的一边。

“我们的观点不是说没有风险,而是说这些风险虽然存在,但很容易通过精心设计来减轻或抑制。”

杨立昆认为,超智能系统尚未被研发出来,待其被发明出后,再讨论“是否能使超智能系统对人类安全”也来得及。

标签:
图灵奖得主杨立昆:AI的逻辑推理和规划能力有限,会犯事实错误和逻辑错误_当前资讯 演讲中,杨立昆再次强调人工智能是可控的,他表示,“恐惧是由对潜在负
4个工具,让 ChatGPT 如虎添翼!-世界热资讯 ChatGPT很好用,其核心是prompt的运用,其回答质量很大程度取决于你的
视讯!红葡萄酒和白葡萄酒有什么区别? 红葡萄酒和白葡萄酒有什么区别,我们来看下红酒(Redwine)是葡萄酒的
环球观焦点:博纳董事长于冬:剧集的崛起是对电影真正的冲击,不是拼特效的时代了 搜狐娱乐讯(哈麦 文)6月10日,第二十五届上海国际电影节开幕论坛举办
樊纲:今年5%以上经济增长可以期待 樊纲:今年5%以上经济增长可以期待
世界简讯:这些年,祝勇的“纸上故宫”都在写些什么?|文化观察 这些年,祝勇的“纸上故宫”都在写些什么?|文化观察《在故宫寻找苏东
《暗黑破坏神4》差评如潮 跌到5.1分了-全球热资讯 《暗黑破坏神4》已于日前正式发售,但是差评如潮,《暗黑破坏神4》全平
全球视讯!高质量发展调研行 | 在智慧港口见证大湾区经济活力——广州南沙港走访一线见闻 提到港口,你会想到什么?头戴安全帽的工人在操作吊机,还是一辆辆卡车
视点!6·9国际档案日|湖南大众传媒学院开展档案整理志愿服务活动 6月9日是第16个国际档案日,为了做好国际档案日的宣传,湖南大众传媒职
新华全媒+|夜幕下,一个群体带动城市消费新热潮 海报制作:方金洋新华社天津6月9日电(记者郭方达宋瑞)放上置物架、挂
批注是什么意思 感受式批注是什么意思-每日速递 批注是什么意思在excel中,批注可能大家经常使用,我们可以用它来插入
实时焦点:高质量发展调研行 | 在智慧港口见证大湾区经济活力——广州南沙港走访一线见闻 提到港口,你会想到什么?头戴安全帽的工人在操作吊机,还是一辆辆卡车
观速讯丨小小酱菜演绎无限可能,这一场金山非遗美食盛宴“好吃又好看” 第18个“文化和自然遗产日”之际,在金山区张堰镇百家村酱文化园,伴随
焦点要闻:济南海关查获禁止进口固体废物23吨 关员正在进行查验作业。海关总署供图据海关总署网站消息,近日,济南海
五风十雨的典故_五风十雨-全球观点 1、发 音wǔfēngshíyǔ释 义五天刮一次风,十天下一场雨。2、形容
当前短讯!a4四折页标准尺寸_四折页尺寸多少 1、四折页的国际标准尺寸为:380mm*210mm。2、在四折页的印刷过程中,
广州市2023年普通高考感谢信 6月9日18时15分,随着最后一科考试结束,备受关注的2023年全国普通高考
环球热推荐:五笔输入法怎么打字变成拼音版了_五笔输入法怎么打字 1、给五笔学者的忠告五笔输入法,我不敢说使用它的人数最多,但在速度
云端翔龙骑士团声望怎么刷快(云端翔龙骑士团声望怎么刷) 1、最快的是交龙蛋,和70的时候虚空龙一样,在临风岛捡龙蛋交就行。2、
朝阳镇到通化客车时间(朝阳镇)-通讯 1、房山区面积2019平方千米。2、辖8个街道、3个地区、11个镇、6个乡:
世界头条:四川锂矿资源储量占全国总量57% 具备采矿权锂矿储量达1.58亿吨 四川省内现已具备锂矿开采能力近155万吨,基础锂盐产能54万吨
高腰紧身牛仔裤,时髦又百搭,搭配黑色吊带,显得身姿曼妙 有的人喜欢简单随性的生活,有的人则梦想自己的生活永远是奢侈的、高级
广州将打造33个重点商圈 在总结世界级商圈特征的基础上,《规划》提出构建三级商圈体系,在此前
柳岩的衣服真“挤”,一袭抹胸连衣裙高级时髦,大方展现曼妙身姿 天天速读 1 6新鲜的东西总是更容易引起我们的注意,所以与众不同的设计才能赢得

广告

X 关闭

广告

X 关闭