全国首个金融大模型成绩单:服务超2亿用户8大应用场景

全国首个零售金融领域大模型天镜,揭晓了过去460多天的成绩单。

目前已实现智能营销交互、数据决策支持

、防伪安全等八大应用场景。1.0版本人机交互模型完成100亿交易额,全面服务超2亿用户。

背后的玩家,来自重庆企业马上消费,一家以技术驱动的数字金融机构。

此前推出了包括“天镜”在内的多款 AI 产品。截至今年 10 月,马上消费累计申请发明专利超 2100 件,位居全国金融机构 Top10,位列全球第 7,主导或参编包括 IEEE 在内的国内外标准超百项。

在2024数字产业生态伙伴大会上,马上消费常务副总经理蒋宁推出全面迭代升级的天镜大模型2.0版本——

在模型技术创新、标准制定、科研转化成果、具体应用等核心领域都有所升级。

金融大模型天镜2.0:更注重情感

此次天镜2.0,可以说从模型训练、场景泛化再到应用落地都有了全方位的升级。

不同于基础模型聚焦在模型参数、性能以及产品功能的实现,本次金融大模型天镜2.0更多的关键词是在于泛化、成本以及合规安全。

首先是模型本身的升级,主要体现在泛化能力的增强,短周期内实现能力迭代、知识更新,并且释放更多行业应用当中。

去年1.0版本还只是聚焦于「人机交互」这一局部场景,如今已经可以适应各式各样的场景。

马上消费常务副总经理蒋宁形象地举了个例子,就像一个人学了英语之后,只需要给他法语单词,他就会讲法语,学英语的过程中会把单词和语言逻辑进行分离,再学另外一个语言的时候,只是需要注入一些数据,就能在新的场景中起到作用。

这种逻辑与场景分离的学习和训练方式,应用到对话领域,可以快速适应到了电商、医疗以及其他各种跨行业场景当中去。

这一点,在数据层面是上有很直观的展现。

去年他们用了大概100P数据训练,如今数据只有过去的千分之一,就完成了快速闭环学习,在较短时间里就可以完成大模型能力的提升、知识的更新。

其次就是场景上面的扩展和延伸——从单个场景应用变成零售金融三个全场景、全价值链的探索赋能。

在金融安全、大数据决策、人机交互、消费者权益保护、逻辑推理泛化等多个关键领域,天镜 2.0 都有着显著的表现。

以金融安全为例,生成式AI的繁荣发展,给这个行业带来不少的挑战,假单据、假人脸、假数据等欺诈手段变得愈加复杂。

对此他们专门研发了对抗学习技术,融合把声音、文字、视频、运动信息等各种多模态信息,以MOE架构、联邦学习等技术构建全新的防伪大模型,实现了全方位、多层次的金融安全防护。

嗯,就是说哪怕是视频对话,也不怕爸爸妈妈被骗了。

另外,他们还关注到了交互时的情绪温度,而非1.0版本简单的功能场景的实现。

手机上的数字人更能理解用户的心理状态,提供专业的聊天陪伴和心理疏导。

上面有些锻炼老年人认知能力的小游戏,用药提醒,老年人健康情况的监测,监护老年人有没有摔倒。

而要实现全场景的赋能,成本的把控也就成为企业的关键命题。

众所周知的是,当前大模型成本比较贵,任何有关的创新背后背负的都是不容忽略的成本。如今他们通过像调优参数、蒸馏等技术将模型做到更轻量化。

蒋宁分享了过去实践中的例子,此前他们一张卡只能支持50个机器人与人的交互,现在一张同样的卡可以支持10倍以上的交互。

最后,在大模型合规安全层面,他们牵头完成了行业标准的建立。

此次马上消费牵头制定了IEEE全球大模型标准——现场举办了《金融大语言模型技术要求标准》、《基于机器学习模型的三维数字人建模和驱动技术要求标准》两大国际标准立项举办授牌仪式。

这一点其实更关键,意味着金融大模型走向标准化规范化,来到了规模化落地应用的前夜。

我们都知道,金融大模型对于合规安全方面要求极为严格。这不难理解,金融行业不仅关乎社会经济体系的稳定,还关乎每个人的安全隐私。

而对于企业来说,只有确保大模型在金融应用中合规安全,才能维持消费者的信任,进而推动业务持续发展。

金融,一直以来被认作是大模型应用的天然场景。一来不缺数据、二来价值链长,诸多需求可通过大模型能力来补齐。

但要想大规模应用,合规安全是不容逾越的前提。如今马上消费牵头完成第一步,对于接下来的发展,他们为此将大模型能力平台化——

让各种垂直应用在上面生长,构建起金融大模型生态。

金融大模型生态:牵头制定行业标准

这有点像互联网时代的发展。马上消费人工智能研究院院长陆全这样形容。

现阶段的基座大模型,就像是原来互联网时代的基础设施。而这还只是第一步,后面更长一段时间是在互联网平台上长出的垂直应用。

马上消费就是搭建了个平台,等待着各位生态伙伴在这个平台上生长出各式各样的垂直应用。

在现场可以看到,华为、阿里云、腾讯云、百度云等企业及复旦大学、重庆邮电大学等高校都与马上消费签署合作协议。

选择这样的一个生态位置,有马上消费自身技术驱动和经验积累,也有行业发展的趋势洞察。

首先从技术能力上来看。此次天镜2.0展现出来近乎通用的能力,以及转化的科技成果,本身就是企业技术实力最直观的展现。

目前围绕大模型专利累积122件,在国际顶级期刊包括CVPR、AAAI、ACL等发表五十余篇论文,主导制定了三个国际标准与七个国家标准等。

其中包括牵头IEEE国际标准《金融大语言模型技术要求》全场景+八大应用;参与IEEE全球首个金融风控大模型国际标准,还联合中国信通院、华为等四十余家企业发布国内首个金融行业大模型标准。

目前他们研发人员超2500人,占总人数73%,共有超21个与顶尖大学合作的实验室。

其次,围绕着金融大模型发展,以多智能体协同这样一个平台形态,是大模型规模化创新和应用的必经之路。

同样,这也是马上消费技术团队过去实践中一个认知上的改变——从单体大模型转向多智能体系统。

在大模型于金融领域的应用方面,我们常能看到许多相关新闻,现今基础大模型有了显著提升,甚至给人一种无所不能的感觉。在实际应用中我们发现,仅依靠单一的单体基础大模型,并不能适应工业界绝大多数的应用需求。

之所以需要多智能体系统,其核心原因在于单体大模型难以在所有层面都表现出色。就如同一个人不可能既是文科状元,又是理科状元,还精通管理。每个功能我们都将其构建为一个智能体,让智能体之间相互配合。

这是因为当前的基础大模型尚不具备,也没有如此强大的能力将所有专业能力集于一身。

从行业角度来看,金融领域的业务复杂多样,涉及众多专业细分领域,对模型的专业性和精准性要求极高。单一的大模型难以全面覆盖和精准应对如此丰富的需求。多智能体系统能够发挥各个智能体在特定领域的优势,实现更高效、更精准的服务。

这种趋势一方面反映了金融科技领域对精细化和专业化的追求,也是技术应对金融业务复杂性和多变性的必然选择。

与此同时,也为大模型更深度应用和创新1myo.twolution.com提供了更广阔的空间。

首届数字产业生态伙伴大会

值得一提是,此次数字产业生态伙伴大会,是重庆首届,并且是以政府主办、企业承办的形式。

而在这场大会中,大模型成为当之无愧的主角。这意味着数字产业生态的建设,离不开大模型的蓬勃发展。而如何引导数字产业朝着更深处应用、规范发展、普惠共享的新阶段迈进,也成为此次大会的话题焦点。

这不仅需要产业链上的生态伙伴、科研机构一起协同合作,同样还离不开政府的支持。

良好的生态环境为大模型在金融领域的应用提供了丰富的资源和协作机会,促进了技术的创新与融合。

现场,我们甚至还看到了像量子计算与大模型、金融方面的结合。

政府的支持则表现在政策引导、资金扶持和监管规范等方面,为金融大模型的发展创造了有利的政策环境和稳定的市场秩序。

而像重庆这样的工业经济重地,也已经抛出橄榄枝,为金融大模型的发展创造了有利的政策环境和市场秩序。

此外,关于金融大模型本身,就已经有利提升整个大模型的技术发展,进而推动全场景的突破。

在金融领域,一个公认的难点就是对于准确性和数字的要求极高。

以自动驾驶为类比,要实现99.999%的准确率,后面每加一个9都需要一个创新性的改变。金融领域也类似,小数点后多位都不容许出错。

这对大模型来说是一个挑战,但一旦有所突破,比如现在马上消费已经应用到了营销、客服等场景当中。

这些进展,也将为整个工业界和学术界带来最佳实践。