谷歌的神经切线为人工智能模型的行为提供了前所未有的见解
谷歌今天提供了神经切线,这是一个在JAX编写的开源软件库,用于高性能机器学习研究。它旨在同时帮助建立一个可变宽度的人工智能模型。谷歌表示,它可以对模型的行为进行“前所未有的”洞察和“帮助”.打开机器学习的黑匣子”。
正如谷歌高级研究科学家塞缪尔舍恩霍尔兹(SamuelS.Schoenholz)和研究工程师罗曼诺瓦克(RomanNovak)在一篇博客文章中解释的那样,推动人工智能研究进展的主要见解之一是,增加模型的宽度将导致更有规律的行为,并使它们更容易理解。通过回顾,所有的神经网络模型都包括排列在互连层中的神经元(数学函数),它们从输入数据中传输信号,并缓慢调整每个连接的突触强度(权重)。这就是他们如何提取特征并学习做出预测。
允许无限扩展的机器学习模型倾向于收敛到另一个更简单的模型,称为高斯过程。在这个限度内,复杂的现象可以简化为简单的线性代数方程,可以作为研究AI的透镜。然而,推导有限模型的无限宽度限制需要数学专业知识,并且必须针对每个架构分别计算。一旦推导出无限宽度模型,需要几个月的时间掌握工程技术,才能实现高效、可扩展的实现。
这就是神经切线的使用——它使数据科学家能够只使用五行代码一次构建和训练无限组网络。根据Schoenholz和Novak的观点,所构建的模型可以应用于任何可以应用于常规模型的问题。
研究人员写道:“我们看到无限宽的网络模仿有限的神经网络,遵循相似的性能水平,它们的性能比卷积网络差,而反卷积网络的性能比卷积网络差。”“然而,与常规训练不同的是,这些模型的学习动态是完全封闭的,这使得[新]能够深入了解它们的行为。”
免责声明:本文由用户上传,与本网站立场无关。财经信息仅供读者参考,并不构成投资建议。投资者据此操作,风险自担。 如有侵权请联系删除!
-
最近收到一位患者的留言,说自己这几天总感觉肛门有下坠胀感,特别难受,上网一查,好多信息都指向癌症,这可...浏览全文>>
-
腹痛、腹泻总反复!可能是小肠、大肠在抗议。基于症状特征区分小肠疾病与大肠疾病的具体差异分析:一、核心症状...浏览全文>>
-
近日,中国中医药信息学会肛肠分会·肿瘤分会·治未病分会·河北名医学会肛肠分会·盆底与便秘分会·河北省中...浏览全文>>
-
安徽蚌埠的长安启源E07作为一款备受关注的新能源车型,其价格和配置一直是消费者热议的话题。如果你正考虑入手...浏览全文>>
-
近年来,随着新能源汽车市场的快速发展,插电式混合动力车型逐渐成为消费者关注的焦点。生活家PHEV作为一款备...浏览全文>>
-
在2025款生活家PHEV车型正式上市之前,提前了解相关费用明细对于购车者来说至关重要。这款插电式混合动力车型...浏览全文>>
-
大众途昂作为一款中大型SUV,凭借其宽敞的空间和强劲的动力配置,在市场上一直拥有不错的口碑。对于计划购买20...浏览全文>>
-
阜阳地区的长安启源Q05 2025款车型凭借其时尚的外观设计和丰富的配置,吸引了众多消费者的关注。这款车型作为...浏览全文>>
-
阜阳揽巡作为一款备受关注的中型SUV,凭借其豪华的配置和超值的价格吸引了众多消费者的目光。这款车不仅在外观...浏览全文>>
-
淮南长安启源A07自上市以来便凭借其卓越的性能和亲民的价格赢得了众多消费者的青睐。作为2025款的新车型,它在...浏览全文>>