Aidan Gomez认为,LLM发展已进入平台期,简单扩大模型规模带来的边际效益正在递减,而推理能力将成为未来突破口,并将带来新的商业模式和市场机遇——从"买更大的算力"变成了"多给AI一点思考时间"。
作者:硬AI
来源:硬AI
AI狂飙突进的时代,真的要结束了吗?
随着scaling law撞墙新闻爆出,全球科技圈、资本市场关于大模型发展触及天花板的讨论愈演愈烈。那么,AI发展是否放缓?后续又将如何发展?商业模式如何突破?
针对一系列焦点问题,人工智能领域最具影响力的论文《Attention Is All You Need》的联合作者,Cohere联合创始人兼CEO Aidan Gomez在访谈中分享了自己对AI发展的深度见解。
他认为,LLM发展已进入平台期,而推理能力将成为未来突破口,并将带来新的商业模式和市场机遇。同时,他也提醒投资者警惕模型价格倾销,关注 AGI 发展趋势。
对于scaling law放缓的问题,Gomez认为,简单扩大模型规模带来的边际效益正在递减。以绘画为例,Gomez指出 LLM 的发展初期如同用大笔触快速完成基础构图,但随着模型需要处理更精细的任务,如同绘画需要越来越细的笔触来完善细节,模型改进需要的数据也越来越精细,这导致获取高质量数据的成本越来越高,最终模型的规模化发展将受限于人类知识的边界和专家数据的获取难度。
推理能力方面,Gomez表示,推理能力可以让 LLM 不仅简单地记忆输入输出对,还可以像人类一样进行多步骤的思考和推理,解决更复杂的问题。而这,这带来了一个革命性的变化——企业不必再为提升AI能力投入巨额固定成本,而是可以通过增加推理时间来实现。用通俗的话说,就是从"买更大的算力"变成了"多给AI一点思考时间"。
Gomez还认为,推理时间计算量的增加还将对芯片层和数据中心建设产生影响,未来需要开发更适合处理推理任务的芯片,以及建设更适合分布式计算的数据中心。
以下是访谈内容精编:
LLM发展进入平台期,推理能力将成未来突破口
问:LLM 发展是否已经进入平台期?未来的突破口在哪里?
Gomez:
问:影响模型规模化发展的因素有哪些?
Gomez:
2. 推理能力将带来新的商业模式和市场机遇
问:推理能力将如何改变行业格局?
答:
问:如何理解推理能力?
答:
问:什么类型的问题更适合使用推理能力解决?
答:
问:市场普遍低估了推理时间计算的哪些方面?
答:
3. Cohere: 自主研发模型,打造差异化竞争优势
问:Cohere 为什么选择自主研发模型?
答:
问:LLM 是否适用于所有领域?
答:
4. 警惕模型价格倾销,关注 AGI 发展趋势
问:市场上 LLM 价格下降是否意味着模型商品化?
答:
问:如何看待 AGI 的发展?
答:
本文来自微信公众号“硬AI”,关注更多AI前沿资讯请移步这里
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。
快讯摘要 榕基软件:公司未直接参与核污染检测 每经AI快讯,有投资者在投资者互动平台提问:请尽快回复一下贵公司在福建周边海域布置的核污染检测情况,目前海水的核辐射值与三年前相差多少?榕基软件(......
快讯摘要 大智慧董事汪勤个人名下持股减少30万股 每经AI快讯,据上交所官网,2024年6月14日,大智慧(SH601519,收盘价:5.94元)董事汪勤个人名下持股减少30万股,变动原因为其他。(记者曾健辉)免...
界面新闻记者 | 韩宇航 近期,养羊理财平台“众牧宝”多位用户在公开平台表示无法提现。据媒体报道,众牧宝客服在各用户群里发布公告称,提现失败是因为目前账上已没有资金,资金去向不知,警方已经介入。 多位投资人表示,5月17日开始就出现了无法提现的情况。界面新闻记者打开众牧宝官方APP“众...
纽约联邦储备银行行长John Williams表示,美国经济“正朝着正确的方向前进”,但拒绝透露他赞成何时降息。 “非常好的迹象显示供需正趋平衡,”Williams周二在接受Fox Business采访时表示。 他还表示,美联储任何有关放松政策的决策都将取决于将要发布的经济数据。当前,W...
格隆汇6月20日丨正泰电器(601877)(601877.SH)公布,公司2023年年度权益分派每股派发现金红利0.55元(含税),股权登记日为6月26日。...
当苏格兰铁卫波蒂厄斯的飞铲重重地蹬在京多安的小腿上时,即便是经历过无数大赛名场面的主裁判帝尔潘,也没能在这电光火石之间第一时间将手指向点球点。 此时,场边标有“Hisense”LOGO的VAR(视频助理裁判)系统及时介入,一时间成为全世界瞩目的焦点。毫无疑问的“点球+红牌”,在海信VAR显示...