Kimi“颠儿了”以后:国产大模型危机感重重
SinoDAO
2024-04-08 08:30
订阅此专栏
收藏此文章

  //  

受 Kimi 影响,百度的文心一言和阿里的通义千问,用户访问量大幅下滑,降幅分别达到 33.42% 与 45.05%。

1


此消彼长

问世以来,Kimi 就在不断“吊打”国内各大厂 AI 模型。

根据券商监测数据,截止 3 月 25 日,Kimi 的网页端、APP 端的用户 DAU(Daily Active User,日活跃用户数量)突破历史新高,分别达到了 79 万和 54 万。叠加小程序用户量,全端总 DAU 显著大于 225 万,或已超越百度(BIDU.O/9888.HK)旗下大模型文心一言的 233 万。
而半个月之前,3 月 10 日,Kimi 的全端 DAU 刚刚突破 120 万人。但其实早在 2 月,Kimi 的用户访问量就已达到 305 万,相较 1 月超翻倍增长。
与此同时,百度的文心一言和阿里(BABA.N/9988.HK)旗下的通义千问两大 TOP2 玩家,用户访问量则大幅下滑,降幅分别达到 33.42% 与 45.05%。

数据屡破新高下,Kimi 的一举一动也被大厂关注并模仿。
Kimi 是月之暗面推出的对话式 AI 产品。3 月 18 日,月之暗面宣布 Kimi 支持 200 万字的无损上下文输入。而在半年之前,去年 10 月发布时,Kimi 可支持的无损上下文输入长度仅为 20 万字。
因此,大模型的“长文本能力”也受到大厂关注,甚至被认为是大模型竞争的重要性能指标。
3 月 22 日,通义千问升级,向所有人免费开放 1000 万字的长文档处理功能;360 的智脑正式内测 500 万字长文本处理功能,该功能即将入驻 360AI 浏览器。
文心一言也宣布将于 4 月升级,届时也将开放长文本能力,文字范围预计将在 200 万 -500 万。
据笔者了解,不少业内人士却并不看好这些大厂的“东施效颦”。他们认为,Kimi 在长文本领域的领先身位,并没有那么容易被超越。
或许正因于此,今年 2 月,在月之暗面最新一轮融资中,阿里作为领头方,其投资额度的百分之七八十,被置换成算力服务。 

2


kimi 的灵魂

互联网大厂,集中了各领域的技术顶尖人才,但鲜有像 Kimi 这样的“明星员工”。
月之暗面创始人杨植麟,是 Kimi 团队的灵魂人物。他拥有清华和卡内基梅隆背景,本人是长文本领域专家。
在过去五年内的自研语言处理(NLP)领域,杨植麟有相当的影响力。在华人学者引用排名中,杨植麟的学术论文位居前 10,在 40 岁以下排名第一。
在读博士期间,杨植麟就以第一作者身份发表 Transformer-XL 和 XLNet 两项工作,在谷歌学术上被引用近两万次,并在多个 NLP 任务上取得了当时的最佳效果。
Transformer-XL 成为首个全面超越 RNN 的注意力语言模型,XLNet 则在 20 项顶级会议中获得最佳论文提名。
杨植麟以及他的团队,创造了 Kimi 表现优秀的无损压缩技术。这种技术可减少参数对存储的需求、推理的算力,以及数据传输的带宽占用,从而高效率无损处理百万级的长 Token。
而为了快速赶上长文本热潮,其他大厂只能退而求其次,选择检索增强生成 RAG 技术。
Kimi 的无损长上下文窗口的方案,是在逐字阅读全文后给出答案。RAG 技术是对全文关键信息进行检索生成答案,但可能会丢失掉部分关键的信息。
因此,与前者相比,无论对比输出的深度还是精度,大厂的模型都还存在较大差距。
目前,Kimi 并没有公布无损压缩技术细节。除了论文,该技术在学界也没有太多开源内容可参照。大厂想要“学习”、并工程化是非常困难的。
技术之外,Kimi 的战略也值得思考。
为快速“跟上形势”,大厂一上手就追求花哨的多模态、导致“样样通样样松”走入平庸。
而 Kimi 选择“一击必杀”——首先垂直选择打透长文本领域,以培养用户心智,积累用户留存。
自发布以来,Kimi 除了将上下窗口从最初的 20 万字拓展到 200 万字之外,在指令理解、信息检索能力和模型相应速度上,也持续迭代。
月之暗面内部人士介绍,基于 Infra 层的优化,Kimi 生成速度较去年 10 月份提升了三倍。
2023 年 12 月、今年 1 月和 2 月,Kimi 用户留存分别为 18.48%、22.25% 和 23.36%。这种高留存的粘性,同时形成了正反馈。
用户们在使用过程中自发“喂”给 Kimi 很多专业语料。通过不断学习和处理各种类型的语料,Kimi 更能理解和适应不同的语境、问题和需求,从而提高其性能和准确性。
在此类专业语料处理上的进步速度,Kimi 甚至快于 Open AI。
这是因为,目前 Open AI 对于 C 端用户上传文件仍然有限制。而对于 Kimi 用户而言,则是亲手培养了一个高学习力的免费私人助手,持续进行互动

3


加码海外市场

正如马斯克近日发言,升级技术路线的方法,不是与竞争对手比较,那就太简单了。应是不断挑战物理极限。

超越百度等大厂,或许并非 Kimi 的目标。下一步扩张,月之暗面指向了海外。
目前,月之暗面正在对外招聘国内 / 国外效果广告设计师。除国内广告平台设计外,这一岗位,还需承担公司产品在海外各大广告平台,如 Google,Meta,Tiktok 等广告创意设计。

同时,月之暗面也在补足运营短板。
月之暗面技术团队仅有 100 多人,是头部国产大模型公司中,人数最少的一家。包括安卓工程师、测试、市场、人力等等,都是公司正在招聘的岗位。
以产品增长职位为例,该职位要求有大厂工作经验且擅长通过社交媒体和用户裂变策略推动产品增长,包括拥有从 0 到 1000 万用户增长的经验,专注于提升活跃用户数量和长期留存率等职责。
“打不过就加入”。对于 Kimi 的崛起,阿里虽有自己的通义千问,但也给予了支持。
目前,Kimi 借调了阿里的英伟达(NVDA.O)A800 以及 A100 GPU 处理器的机型进行扩容,未来 Kimi 算力侧的支持,也将主要来自于阿里。
今年 2 月,在月之暗面最新一轮超 10 亿美元投资中,阿里作为领投方,其投资额度的百分之七八十,将被置换成算力服务器。 
有了阿里的支持,Kimi 不用再担心因为算力不足而宕机。该人士也表示,扩容并非一步到位。一下子扩容太多,容易造成算力闲置和浪费,需要一定的策略。比如,Kimi 也会对用户的使用情况进行预测。
自从 2022 年 11 月 ChatGPT 发布以来,国内 AI 大模型已超 200 个,且还在持续增加。Kimi 的问世,唤醒了行业巨头的危机意识。
但 Kimi 也并非这场技术竞赛的终点。

一封邀请信:


您好!诚邀您加入我们的 AI 精英俱乐部,这是一个永久免费但门槛较高的聚集 AI 精英与爱好者的专业组织。我们致力于推动 AI 技术在投资领域的应用,为成员们提供一个共享和交流的平台,促进互相学习和合作,共同探索 AI 技术在投资中的无限可能性。


作为成员,您将有机会与世界各地的 AI 专业人士互动,分享您的知识和经验,以及从他们那里学习到更多的技术和行业见解。


我们要求加入俱乐部的成员满足以下标准:


一、乐于分享:我们希望能积极分享自己的知识和经验,与俱乐部的其他成员共同成长和进步;


二、有 AI 技术背景:我们欢迎在 AI 领域具有丰富经验和专业知识的成员,包括但不限于机器学习、深度学习、自然语言处理、计算机视觉等领域的从业者和研究者;


三、愿意将 AI 技术应用到投资领域:包括但不限于量化交易、资产管理、风险评估、市场预测等,共同探索 AI 技术在投资领域的应用前景;


四、拥有独特资源:包括但不限于资金、人脉、数据资源等,这将有助于俱乐部的技术和项目合作。


如果您满足以上标准,并且对 AI 技术在投资领域有浓厚兴趣,我们诚邀您加入。


请将个人的有特点的介绍及微信号发送到 changzhang@arfgc.com,审核通过后,我们会邀请您加入。








【免责声明】市场有风险,投资需谨慎。本文不构成投资建议,用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

SinoDAO
数据请求中
查看更多

推荐专栏

数据请求中
在 App 打开