蚂蚁集团首席技术官:已建设超过万卡异构算力集群
【CNMO新闻】11月9日,CNMO注意到,蚂蚁集团首席技术官何征宇表示,蚂蚁集团已经形成了包括大模型底层基础设施、基础大模型、行业大模型、应用产品在内的完整技术链条。
据何征宇介绍,蚂蚁集团建设了超过万卡的异构集群,硬件算力效率(HFU)超过60%,集群有效训练时长占比90%以上。此外,RLHF训练在同等模型效果下训练吞吐性能相较于业界方案提升3.59倍,推理性能相较于业界方案提升约2倍。
值得一提的是,就在11月6日,蚂蚁集团宣布,根据国家《生成式人工智能服务管理暂行办法》指导要求,蚂蚁百灵大模型已完成备案。
蚂蚁集团起步于2004年诞生的支付宝,源于一份为社会解决信任问题的初心。经过多年的发展,已成为世界领先的互联网开放平台。蚂蚁集团通过科技创新,助力合作伙伴,为消费者和小微企业提供普惠便捷的数字生活及数字金融服务;持续开放产品与技术,助力企业的数字化升级与协作;在全球广泛合作,服务当地商家和消费者实现“全球收”、“全球付”和“全球汇”。
2013年3月支付宝的母公司宣布将以其为主体筹建小微金融服务集团,小微金融成为蚂蚁金服的前身。2020年7月蚂蚁金服正式更名为蚂蚁集团。