端侧小模型跑出大能量:北京AI破壁之路
端侧小模型跑出大能量:北京AI破壁之路
端侧小模型跑出大能量:北京AI破壁之路在清华科技园科建(kējiàn)大厦3楼,面壁智能联合创始人、CEO李大海的(de)办公室中央挂着一幅大型拼图,一艘船在风雨中劈波斩浪。
这已是李(lǐ)大海来到中关村的第23年。
2006年,从北京大学数学系(shùxuéxì)毕业后,李大海加入谷歌中国,成为(chéngwéi)创始员工之一,并先后参与了云云网、豌豆荚、知乎(zhīhū)的(de)创业。2023年,一场大模型掀起的技术风暴席卷而来(xíjuǎnérlái),时任知乎CTO的李大海决定投身其中。当年4月,在李大海的推动下,知乎完成了对面壁智能的独家天使轮投资。
看好面壁智能,是因为其创始人、青年科学家刘知远是国内首批开展大模型研究的(de)研究者之一。2020年12月,刘知远团队发布了(le)全球第一个中文开源大模型“CPM”,这一(zhèyī)项目也是后(hòu)来中国奠基性大模型“悟道”的前身。两年后,刘知远发起成立面壁智能。
投资一家优秀的(de)大(dà)模型企业,对李大海来说绝非终点。大模型掀起的汹涌浪潮让他兴奋得难以入睡。“这是一场堪比蒸汽机改变世界的大变革!”一次次在深夜爬起来看代码、追踪大模型前沿进展的李大海,决定从(cóng)大厂高管转身,再次创业。2023年(nián)6月,李大海出任(chūrèn)面壁智能CEO。
今年3月30日,面壁智能 CEO 李大(dà)(dà)海出席中国电动汽车百人会,宣布面壁将进军智能座舱领域。彼时,大模型(móxíng)领域激战正酣。国内完成备案并上线的生成式AI大模型数量已达近200个,一场前所未有的“百模大战”正在上演。与此同时,随着大模型迅猛发展,作为大模型“燃料”的算力告急(gàojí),行业内出现GPU“一卡难求”、“排队预定”的局面。如何从白热化(báirèhuà)的竞争中杀出重围(shāchūchóngwéi)?
高效——是李大海与团队给出的(de)(de)答案。“与其盲目地把模型(móxíng)做大,不如花更多精力让模型变好,以同样的模型参数量实现更高的智能与知识密度。”基于对大模型本质(běnzhì)规律的观察,他们提出(tíchū)了大模型的密度定律(DensingLaw):大模型知识密度每3.3个月翻一番,大模型将变得越来越“小”,同时能力越来越强。
基于这一理念,团队选择避开同质化严重的(de)对话式AI聊天机器人(jīqìrén),将视野转向了一个在当时看来(kànlái)不算热门的方向——端侧大模型。李大海认为,人们的生活早已离不开手机、平板、汽车(qìchē)等各种各样的硬件终端设备,而在不久的将来,这些智能终端都(dōu)将拥有具备自主思考能力的“超级大脑”。
“我们要让小模型跑出大能量,让本地模型能力满足日常绝大多数的智能需求。”李大海(dàhǎi)坚信,相比于时下最火热的跑在“云(yún)”上,并且需要大量算力的千亿级超大模型,在“断网(duànwǎng)、弱网”环境下,仍然能让各种智能终端(zhōngduān)具备自主思考能力的端侧大模型,将(jiāng)成为面壁独特的竞争力。
用更小的参数、更高的效率、更低的成本,实现更好(gènghǎo)的智能(zhìnéng)——实现这个目标,并不容易。“模型(móxíng)能力日新月异,但模型效率的领先如同芯片制程一般,须形成比较硬的相对优势。我们要攻克的,就好比大模型行业的‘光刻机’。”李大海说(shuō)。
拿算法来说(láishuō),过去,由于模型训练(xùnliàn)过程中充满不确定性,传统的大模型训练被业界戏称为“炼丹”。而面壁研发团队通过上千次模型沙盒实验,在算法的各种细节上摸索(mōsuǒ)出了一系列(yīxìliè)最优配置,大幅优化了模型效果。
为了打磨大(dà)(dà)模型“光刻机”,从高质量的数据(shùjù)原材料,到模型训练与调校,一个个环环相扣的细节,研发人员都细细打磨。2024年初,面壁推出了端侧大模型MiniCPM,用仅仅24亿参数实现了超过百亿参数大模型的性能(xìngnéng)。
“超级大脑”仍在不断进化。今年1月,面壁智能发布(fābù)MiniCPM-o2,这(zhè)也是全球首个达到OpenAI公司GPT-4o水平的端侧多模态大模型。这款仅有(yǒu)80亿参(yìcān)数量的模型,能够实时流式处理文本、图像、音频和视频信息,“视、听、说”都很伶俐。
面壁首个纯端侧(chúnduāncè)超级智能助手发布在今年中关村论坛年会期间,面壁又(yòu)发布了一项领先业界的(de)成果——首个纯端侧超级智能助手,可应用于汽车智能座舱。在端侧大模型的支撑下(xià),即便(jíbiàn)车辆没有网络,超级智能助手也能随时“在线”,实现从车外到车内的各种感知并执行任务。
由于在安全性、实时性等方面的巨大优势,面壁的端侧模型一经推出就很快获得了法律(fǎlǜ)、消费电子等行业用户的认可。就在上月,面壁与合作伙伴(hézuòhuǒbàn)发布了首个(shǒugè)纯端侧大模型量产车型。目前,公司正在与长安马自达(mǎzìdá)、上汽大众、长城汽车、华为、联想、高通、联发科技、英特尔(yīngtèěr)等行业标杆企业协作,将端侧模型落地在AI手机、AI个人电脑、智能座舱、智能家居、具身机器人等众多领域(lǐngyù)。
2025上(shàng)海车展期间,面壁与合作伙伴发布首个纯端侧大模型量产车型。“2026年,装上面壁端侧模型的设备数将(jiāng)达2025年的10倍。”放眼未来,李大海的眼中(yǎnzhōng)是更广阔的星辰大海——未来全球将有400亿的设备终端,它们都有望装上一个个“超级(chāojí)大脑”。
智谱(zhìpǔ)、月之暗面(ànmiàn)、百川智能、零一万物、面壁智能……在今年年初第三方机构公布的国内大模型独角兽排行榜中,多家北京企业赫然在列,显示出创新(chuàngxīn)资源高度集聚的效应。
在被人们称为“宇宙中心”的(de)五道口(wǔdàokǒu)一(yī)带,办公租金并不便宜,为了节约成本,选址清华科技园的面壁智能(zhìnéng)也曾动过搬家(bānjiā)的念头。“但一想到在这里清华学生出了校门走两步、北大学生蹬个自行车就能到公司,我们还是决定,不能搬。”李大海坦言,背靠五道口周边极强的人才优势,是成立仅三年的面壁得以迅猛发展的重要原因。
坐拥全国领先的AI人才资源和北京(běijīng)“AI第一城(chéng)”的创新(chuàngxīn)生态,与行业巨头凭借巨额资金和海量算力投入“大力出奇迹”的发展路径不同,以面壁为代表的北京人工智能初创企业,向世界展现出高效创新、“以小博大”的创新范式(fànshì)。
“对(duì)创业公司来说,‘不(bù)做什么’和’做什么’都很重要,‘不做什么’甚至(shènzhì)更重要。”李大海说。面对巨大机遇(jīyù),创业公司需要注意的是“专注(zhuānzhù)(zhuānzhù)一个点做透”,并在此过程中不断辨别哪些是应勇于“取”的机遇,哪些是要勇于“舍”的诱惑。在“大炼模型”的风潮下,面壁就曾先后做出不做AI聊天机器人、放弃大模型基础设施等重要决策,专注打磨端侧模型,提升模型效率与知识密度,“以小博大”。
蛇年春节,DeepSeek旋风席卷(xíjuǎn)全球。以低成本实现高性能,正是DeepSeek一鸣惊人之处。《麻省理工科技(kējì)评论》随后刊发了一篇题为《关注DeepSeek之外的四家中国人工智能初创公司(gōngsī)》的报道,点赞中国“四剑客”,其中就(jiù)有面壁智能。
勇于面壁(miànbì),方能破壁——DeepSeek和面壁智能,都(dōu)在用实际行动印证着一个道理,不盲目跟风,勇于探索(yǒngyútànsuǒ)新路径,即便在有限的资源环境下也能激发、倒逼出无限的创新潜力。
来源(láiyuán):北京日报客户端
在清华科技园科建(kējiàn)大厦3楼,面壁智能联合创始人、CEO李大海的(de)办公室中央挂着一幅大型拼图,一艘船在风雨中劈波斩浪。
这已是李(lǐ)大海来到中关村的第23年。
2006年,从北京大学数学系(shùxuéxì)毕业后,李大海加入谷歌中国,成为(chéngwéi)创始员工之一,并先后参与了云云网、豌豆荚、知乎(zhīhū)的(de)创业。2023年,一场大模型掀起的技术风暴席卷而来(xíjuǎnérlái),时任知乎CTO的李大海决定投身其中。当年4月,在李大海的推动下,知乎完成了对面壁智能的独家天使轮投资。
看好面壁智能,是因为其创始人、青年科学家刘知远是国内首批开展大模型研究的(de)研究者之一。2020年12月,刘知远团队发布了(le)全球第一个中文开源大模型“CPM”,这一(zhèyī)项目也是后(hòu)来中国奠基性大模型“悟道”的前身。两年后,刘知远发起成立面壁智能。
投资一家优秀的(de)大(dà)模型企业,对李大海来说绝非终点。大模型掀起的汹涌浪潮让他兴奋得难以入睡。“这是一场堪比蒸汽机改变世界的大变革!”一次次在深夜爬起来看代码、追踪大模型前沿进展的李大海,决定从(cóng)大厂高管转身,再次创业。2023年(nián)6月,李大海出任(chūrèn)面壁智能CEO。
今年3月30日,面壁智能 CEO 李大(dà)(dà)海出席中国电动汽车百人会,宣布面壁将进军智能座舱领域。彼时,大模型(móxíng)领域激战正酣。国内完成备案并上线的生成式AI大模型数量已达近200个,一场前所未有的“百模大战”正在上演。与此同时,随着大模型迅猛发展,作为大模型“燃料”的算力告急(gàojí),行业内出现GPU“一卡难求”、“排队预定”的局面。如何从白热化(báirèhuà)的竞争中杀出重围(shāchūchóngwéi)?
高效——是李大海与团队给出的(de)(de)答案。“与其盲目地把模型(móxíng)做大,不如花更多精力让模型变好,以同样的模型参数量实现更高的智能与知识密度。”基于对大模型本质(běnzhì)规律的观察,他们提出(tíchū)了大模型的密度定律(DensingLaw):大模型知识密度每3.3个月翻一番,大模型将变得越来越“小”,同时能力越来越强。
基于这一理念,团队选择避开同质化严重的(de)对话式AI聊天机器人(jīqìrén),将视野转向了一个在当时看来(kànlái)不算热门的方向——端侧大模型。李大海认为,人们的生活早已离不开手机、平板、汽车(qìchē)等各种各样的硬件终端设备,而在不久的将来,这些智能终端都(dōu)将拥有具备自主思考能力的“超级大脑”。
“我们要让小模型跑出大能量,让本地模型能力满足日常绝大多数的智能需求。”李大海(dàhǎi)坚信,相比于时下最火热的跑在“云(yún)”上,并且需要大量算力的千亿级超大模型,在“断网(duànwǎng)、弱网”环境下,仍然能让各种智能终端(zhōngduān)具备自主思考能力的端侧大模型,将(jiāng)成为面壁独特的竞争力。
用更小的参数、更高的效率、更低的成本,实现更好(gènghǎo)的智能(zhìnéng)——实现这个目标,并不容易。“模型(móxíng)能力日新月异,但模型效率的领先如同芯片制程一般,须形成比较硬的相对优势。我们要攻克的,就好比大模型行业的‘光刻机’。”李大海说(shuō)。
拿算法来说(láishuō),过去,由于模型训练(xùnliàn)过程中充满不确定性,传统的大模型训练被业界戏称为“炼丹”。而面壁研发团队通过上千次模型沙盒实验,在算法的各种细节上摸索(mōsuǒ)出了一系列(yīxìliè)最优配置,大幅优化了模型效果。
为了打磨大(dà)(dà)模型“光刻机”,从高质量的数据(shùjù)原材料,到模型训练与调校,一个个环环相扣的细节,研发人员都细细打磨。2024年初,面壁推出了端侧大模型MiniCPM,用仅仅24亿参数实现了超过百亿参数大模型的性能(xìngnéng)。
“超级大脑”仍在不断进化。今年1月,面壁智能发布(fābù)MiniCPM-o2,这(zhè)也是全球首个达到OpenAI公司GPT-4o水平的端侧多模态大模型。这款仅有(yǒu)80亿参(yìcān)数量的模型,能够实时流式处理文本、图像、音频和视频信息,“视、听、说”都很伶俐。
面壁首个纯端侧(chúnduāncè)超级智能助手发布在今年中关村论坛年会期间,面壁又(yòu)发布了一项领先业界的(de)成果——首个纯端侧超级智能助手,可应用于汽车智能座舱。在端侧大模型的支撑下(xià),即便(jíbiàn)车辆没有网络,超级智能助手也能随时“在线”,实现从车外到车内的各种感知并执行任务。
由于在安全性、实时性等方面的巨大优势,面壁的端侧模型一经推出就很快获得了法律(fǎlǜ)、消费电子等行业用户的认可。就在上月,面壁与合作伙伴(hézuòhuǒbàn)发布了首个(shǒugè)纯端侧大模型量产车型。目前,公司正在与长安马自达(mǎzìdá)、上汽大众、长城汽车、华为、联想、高通、联发科技、英特尔(yīngtèěr)等行业标杆企业协作,将端侧模型落地在AI手机、AI个人电脑、智能座舱、智能家居、具身机器人等众多领域(lǐngyù)。
2025上(shàng)海车展期间,面壁与合作伙伴发布首个纯端侧大模型量产车型。“2026年,装上面壁端侧模型的设备数将(jiāng)达2025年的10倍。”放眼未来,李大海的眼中(yǎnzhōng)是更广阔的星辰大海——未来全球将有400亿的设备终端,它们都有望装上一个个“超级(chāojí)大脑”。
智谱(zhìpǔ)、月之暗面(ànmiàn)、百川智能、零一万物、面壁智能……在今年年初第三方机构公布的国内大模型独角兽排行榜中,多家北京企业赫然在列,显示出创新(chuàngxīn)资源高度集聚的效应。
在被人们称为“宇宙中心”的(de)五道口(wǔdàokǒu)一(yī)带,办公租金并不便宜,为了节约成本,选址清华科技园的面壁智能(zhìnéng)也曾动过搬家(bānjiā)的念头。“但一想到在这里清华学生出了校门走两步、北大学生蹬个自行车就能到公司,我们还是决定,不能搬。”李大海坦言,背靠五道口周边极强的人才优势,是成立仅三年的面壁得以迅猛发展的重要原因。
坐拥全国领先的AI人才资源和北京(běijīng)“AI第一城(chéng)”的创新(chuàngxīn)生态,与行业巨头凭借巨额资金和海量算力投入“大力出奇迹”的发展路径不同,以面壁为代表的北京人工智能初创企业,向世界展现出高效创新、“以小博大”的创新范式(fànshì)。
“对(duì)创业公司来说,‘不(bù)做什么’和’做什么’都很重要,‘不做什么’甚至(shènzhì)更重要。”李大海说。面对巨大机遇(jīyù),创业公司需要注意的是“专注(zhuānzhù)(zhuānzhù)一个点做透”,并在此过程中不断辨别哪些是应勇于“取”的机遇,哪些是要勇于“舍”的诱惑。在“大炼模型”的风潮下,面壁就曾先后做出不做AI聊天机器人、放弃大模型基础设施等重要决策,专注打磨端侧模型,提升模型效率与知识密度,“以小博大”。
蛇年春节,DeepSeek旋风席卷(xíjuǎn)全球。以低成本实现高性能,正是DeepSeek一鸣惊人之处。《麻省理工科技(kējì)评论》随后刊发了一篇题为《关注DeepSeek之外的四家中国人工智能初创公司(gōngsī)》的报道,点赞中国“四剑客”,其中就(jiù)有面壁智能。
勇于面壁(miànbì),方能破壁——DeepSeek和面壁智能,都(dōu)在用实际行动印证着一个道理,不盲目跟风,勇于探索(yǒngyútànsuǒ)新路径,即便在有限的资源环境下也能激发、倒逼出无限的创新潜力。
来源(láiyuán):北京日报客户端




相关推荐
评论列表
暂无评论,快抢沙发吧~
你 发表评论:
欢迎