Kimi火到宕机背后:算力问题难解决吗?
近日,Moonshot(月之暗面)自研的Kimi智能助手火爆全网。3月22日,Kimi概念股整体持续上涨,但也有少部分股价走弱。《每日经济新闻》记者获悉,A股上市公司中,世纪天鸿(SZ300654,股价14.20元,市值51.67亿元)、华策影视(SZ300133,股价11.06元,市值210.26亿元)、中广天择(SH603721,股价42.59元,市值55.37亿元)、掌阅科技(SH603533,股价32.49元,市值142.60亿元)等22日以涨停收盘。近几天,陆续有不少上市公司针对是否与Kimi合作发声。
Kimi智能助手访问量快速增长让背后的算力问题凸显。3月21日下午,Kimi的APP和小程序一度显示无法正常使用。中信建投发布研报称,随着Kimi用户数持续提升,已经出现短暂算力支持不足的情况,考虑后续模型训练和推理需求,预期算力需求会进一步提升,带动算力需求落地。
赛迪顾问人工智能与大数据研究中心常务副总经理邹德宝接受《每日经济新闻》记者采访表示,Kimi的宕机原因,如果确实是因为算力不足导致的,那么随着用户数量的增加,Kimi的算力确实可能会成为一个瓶颈。但解决这个算力不足的问题也有一些方法,包括算力升级、算力优化、分布式计算等等。
板块持续上涨,多家上市公司发声
3月22日,Kimi概念股板块持续大涨。东方财富显示,“Kimi概念”(BK1169)19家上市公司里,有16家公司股价保持上涨,3家公司股价出现下跌。
从涨跌幅看,世纪天鸿以涨停收盘,日涨幅20.03%,收盘价为14.2元/股。
今年3月12日,世纪天鸿曾在投资者互动平台上透露,公司的AI+教育产品“小鸿助教”已在4.0版本新增“文档问答”功能,能够实现与Kimi相似的功能,可以输入100MB、10万字之内的文档。东方财富客户端显示,世纪天鸿入选“Kimi概念”的原因包括“A股唯一精准对标Kimi的公司”。
华策影视的股价22日也持续涨停,这是该公司连续第三个涨停板。据报道,华策影视22日晚对外回应,目前公司与月之暗面保持着密切的沟通,但暂无任何书面协议落地。
此外,捷顺科技、中广天择、掌阅科技这三家公司22日股价也以涨停收盘。其中中广天择与掌阅科技的股价也已连续三天涨停。但也有个别概念股22日股价下跌,包括超讯通信(SH603322,股价38.33元,市值60.41亿元)、彩讯股份(SZ300634,股价21.35元,市值95.57亿元)、金山办公(SH688111,股价329.74元,市值1522.8亿元)。
这两三天,不少上市公司也陆续就是否与Kimi合作对外发声。比如,海天瑞声(SH688787,股价92.71元,市值55.93亿元)就在投资者互动平台透露,公司过往并未向月之暗面/Kimi Chat提供过相关训练数据;易点天下(SZ301171,股价21.60元,市值101.93亿元)则透露,公司已经接入Kimi Chat;因赛集团(SZ300781,股价68.6元,市值75.44亿元)称,月之暗面Kimi目前是公司调用的闭源大模型之一,其主要优势在于高效处理长文本的能力。
算力问题难解决吗?
3月18日,月之暗面对外宣布:在大模型长上下文窗口技术上取得新的突破,自研的Kimi智能助手已支持200万字超长无损上下文,并已开启产品内测。
随后,Kimi智能助手引爆市场关注。
中国银河证券研究院称,Kimi智能助手是AGI进程中又一“里程碑”,宣布大模型正式进入“长文本时代”。国信证券表示,由清华大学杨植麟及其团队“月之暗面”推出的Kimi标志了国产AI大模型的重要进步。
越来越多的用户也涌向Kimi智能助手APP和小程序。SimilarWeb数据显示,去年12月时Kimi的周访问量还在10万次上下,到了1月下旬才突破40万,但是从春节假期,访问量开始疾速攀升,2月访问量增长107.6%,仅次于百度的文心一言、阿里的通义千问。国信证券透露,从2023年10月到2024年3月,Kimi的日活用户从10万迅速增长至300多万。
用户量的激增,让Kimi的APP和小程序在21日下午曾出现过无法正常使用的情况。
此前,月之暗面曾发布情况说明:从3月20日上午9点半开始,观测到Kimi的系统流量持续异常增高,流量增加的趋势远超公司对资源的预期规划。这导致了有较多的SaaS客户持续的体验到“429:engine is overloaded”的异常问题。月之暗面称,3月20日发现问题后,进行了5次扩容工作,以尽量承载持续增长的用户量。
邹德宝22日下午接受《每日经济新闻》记者采访时表示,Kimi如果要解决算力问题,有几个方向。他介绍:“一是算力升级,这是最直接的方法,通过增加服务器的数量和性能,提升整体算力,包括使用更高配置的硬件,或增加更多服务器来分担负载;二是算力优化,优化Kimi使用的算法,使其在相同的算力下能够处理更多的用户请求;三是分布式计算,利用分布式计算技术,将Kimi的算力分散到多个服务器或数据中心上,从而提高整体的处理能力;四是云计算资源加持,利用云计算服务提供商(如AWS、阿里云等)的弹性算力资源,根据用户请求量的变化自动调整使用的计算资源;五是负载均衡,将用户请求分散到多个服务器上处理;六是缓存技术;七是用户行为预测,预测未来的请求量,从而提前调整算力资源。”