当前位置:主页 > 聚焦 >

FacebookAI创造会算高数的神经网络体现碾压MATLAB

时间:2020-11-12 10:58:02

  Facebook AI 的研讨人员 Guillaume Lample 和 Fran ois Charton 开发了一套新算法,能够在数秒内求解相似的方程。他们练习了一套神经网络来履行必要的符号推理和数学运算,初次完结了数学表达式的微分和积分。

  这项效果是迈向更强壮的数学推理东西的重要一步,也是运用神经网络的新办法。

  在发现和辨认规矩上,神经网络能够有很好的体现,因而咱们用它来履行面部辨认、物体辨认和自然言语辨认等使命。

  可是虽然付出了很大尽力,依然没人练习出一套能够高效完结数学类象征性推理使命的神经网络。在这方面,神经网络乃至比不上小学生的水平,最好成果是学会整数的加法和乘法。

  和人类相似,关于神经网络来说,剖析高档数学表达式的难点之一在于解析式子中的简写方式。举个比方,x3 代表了 x 乘以 x 乘以 x,其间的 乘法 代表了重复的加法,而 加法 自身又代表了两个变量之和。

  因而,一条看似简略的数学表达式,可能是由一系列更简略的数学运算高度精简之后得出的。

  想让神经网络 把握 这种逻辑十分困难。假如他们不明白简写的意义和规矩,那么就简直学不会怎么运用它们,更不用说求解了。实际上,人类也有相似的问题,但处理办法一般是从小就开端灌注,构成习气。

  假如掀开数学简化规矩的面纱,从实质上来讲,微分和积分的运算进程会涉及到规矩辨认。这给了神经网络发挥的时机,只需处理了简化的难题。

  Lample 和 Charton 提出了一种高雅的处理办法,把神经网络的数学水平从小学提高到了大学。

  他们先将数学表达式拆分为多个基本单位,然后教神经网络怎么辨认积分和微分中包括的数学运算方式,最终再用全新的表达式测验网络的体现,与传统运算东西 Mathematica 和 MATLAB 的体现进行比照。

  在第一步中,研讨人员采用了树状结构拆分表达式。树叶代表数字、常量和变量,比方 2 和 x,节点则代表运算符号,比方 + 和 -。

  例如,表达式 2 + 3 x (5+2)能够分解成:

  更杂乱的表达式 3x2+cos(2x)-1 能够写成:

  假如不同树的数学运算成果相同,那么它们就被视为是相同的,比方 2+3 和 1x5 是相同的。

  这样一来,表达式的简化就等同于找到数的较短等价表明办法,许多数学运算就更好处理了。

  这些树也能够写成多个节点接连组成的序列,而现有的一种名为 Seq2Seq 的模型正好能够很好地处理序列方式的信息。

  实际上,Seq2Seq 一般用于机器翻译,将一长串的单词从一种言语翻译成另一种言语。咱们的办法实质大将数学视为一种自然言语,两名研讨人员表明。

  下一步是练习进程,这需求很多的数据支撑。Lample 和 Charton 经过从二进制运算符库中随机组合数学表达式来创立新的数据库,其间包括加减乘除、三角函数、变量和常数等等。他们还约束了树的节点数量,避免方程变得过于巨大。

  针对随机生成的表达式,他们运用核算东西对其积分和微分。任何不能被积分的表达式都会被丢掉。

  经过这样的操作,研讨人员生成了超大规模的练习数据集,包括 8 千万个一阶和二阶微分方程,2 千万个分部积分表达式。

  神经网络运用这些数据进行练习,学习怎么对给定数学表达式求导或积分。

  为了测验神经网络的体现,研讨人员运用了它从没见过 5000 个表达式。它的核算成果还会与现有干流数学核算东西 Mathematica,MATLAB 和 Maple 进行比照,限时 30 秒得出核算成果。这些核算东西运用的算法是美国数学家 Robert Risch 在 1960 时代提出的简化版别。

  测验成果显现,神经网络模型的准确率显着优于 Mathematica,在积分使命上的准确率高达 99.6%,而 MATLAB 和 Maple 乃至还不如 Mathematica,跟神经网络更没有可比性。

  在许多情况下,传统核算东西在测验 30 秒之后底子无法得出成果,而神经网络只需求 1 秒。文章最初的表达式便是其间之一。

  另一个风趣的发现是,神经网络一般会找到相同问题的不同解,由于表达式有许多种不同的写法。这让研讨人员感到惊奇。

  该模型在未经针对性练习的情况下就能找到等效表达式,十分吸引人,Lample 和 Charton 表明,据咱们所知,现在还没有针对神经网络检测数学表达式方式才能的研讨。这是一个重大突破。

  研讨人员没有泄漏 Facebook AI 会怎么运用这套算法。不过他们都认为,在日趋杂乱的核算数学国际中,愈加强壮的运算才能是必不可少的,在规范数学运算框架下引进神经网络必会成为未来的趋势。

  希望通过FacebookAI创造会算高数的神经网络体现碾压MATLAB这篇文章能对您有所帮助,。

热点推荐
1 韩国国税厅提议修订《刑事诉讼法》强化

韩国国税厅官员提议修订《刑事诉讼法》,以强化对个人自持虚拟资产的扣押执行规则。今年...

2 韩国股市与纳斯达克100指数相关系数升至

消息,据彭博社披露,韩国综合股价指数与纳斯达克100指数的60日相关系数升至0.46,接近过去...

3 Polymarket:美联储7月29日维持利率不变概率

消息,Polymarket交易者目前预计美联储在7月29日的决策中维持利率不变的概率为93.5%。...

4 长鑫存储巨鲸挂出832万美元卖单,挂单规

消息,长鑫存储巨鲸在HyperLiquid上挂出832万美元的卖单,挂单规模已超过CXMT单日成交额。当前...

5 BTC ETF两周吸引2.73亿美元资金

消息,BTC交易所交易基金在两周内吸引了2.73亿美元的资金流入,尽管这一数字与此前八周流出...

6 Schwab新兴市场ETF与iShares全球ETF:哪个更适

消息,Schwab新兴市场ETF与iShares全球ETF之间的对比引发了投资者的关注。Schwab ETF主要针对新兴经...

7 沉睡鲸鱼在5年后转移700枚BTC,当前价值约

一只沉睡的鲸鱼在5年后转移了700枚比特币,最初购买时花费约2234万美元,目前价值约4530万美...

8 Zhu Su:石油或许是AI的最佳类比,最终将

消息,三箭资本联合创始人Zhu Su表示,石油或许是AI的最佳类比,两者都存在多种形态并最终走...

9 币安将于7月21日停止支持MOVR和GLMR主网充

消息,币安官方公告称,将于2026年7月21日19:00停止支持moonriver 和moonbeam 主网的充值和提现业务...

10 摩根士丹利:欧洲柴油供应紧缩压力或将

消息,摩根士丹利指出,由于一系列重大供应挑战同时出现,欧洲正面临柴油供应紧缩局面,...

成都来彰科技 蜀ICP备2025134723号-1

资讯来源互联网,如有版权问题请联系管理员删除。