关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者47人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

下一代丰田GR卡罗拉或搭全新2.0T四缸发动机

车质网 浏览 19

郭士强曾说男篮需场均出手70次得分80+才可能赢 亚洲杯场均91.5分

直播吧 浏览 66

苹果发完M5芯片,最开心的是M1钉子户

机器之心Pro 浏览 74

迪丽热巴“扛剧女王”人设崩塌?

孟一宜 浏览 84

男子买避孕药付款失败 老婆接店员要钱信息撞破其出轨

潇湘晨报 浏览 79

可惜了,这世界第一美少年

独立鱼 浏览 2070

MSC咨询合伙人金霞:可持续发展+AI,重构商业增长范式

南方都市报 浏览 47

谢周三主帅:阿玛斯对防守进攻同样重视,对他未来回曼联至关重要

直播吧 浏览 75

今年夏天一定要拥有的4件衣服,太好看了!

LinkFashion 浏览 82

女网红流落柬埔寨街头 中使馆:已联系其家属准备接回

封面新闻 浏览 22

特朗普与高市早苗首次会晤 外交部回应

政知新媒体 浏览 38

实惨!从白敬亭到许凯连续四次爆雷 真心疼田曦薇

一盅情怀 浏览 68

劲爆!纪委直接入场,知名车企两高管办公室内被带走!

汽车工程师 浏览 22

WTT总决赛男单决赛前,张本智和接受采访时引用高市早苗言论

懂球帝 浏览 19

恒大造假操盘手,藏身美国!2.3亿豪宅曝光

大猫研究所Pro 浏览 69

美国要对国际刑事法院出手:报复其对以涉嫌战争罪调查

参考消息 浏览 89

不确定的时代里,亚马逊广告如何重构确定性?

有数DataVision 浏览 22

卫报:切尔西不愿满足加纳乔的定价;雅克松的要价为8000万镑

懂球帝 浏览 58

44岁TVB男星再当爸,港姐太太二胎诞下小儿子

TVB剧评社 浏览 1019

乔治亚理工学院联手微软:让AI训练效率暴增21%的神奇新方法

科技行者 浏览 24

《生万物》里3位“星二代”,个个都大有来头

广西阿妹香香 浏览 63
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-12