阿里云“解题”金融大模型:“云上试航”到“云端融合”
从应用到价格,“百模大战”已深入到更深层次的模式竞争与对垂直领域的理性探索中。
金融行业被认为是大模型落地的理想场景之一。得益于数据密集且有强劲的数字化基础,金融与AI结合有天然土壤;另外因为审慎经营、风险管控等要求,金融业大模型从需求到落地仍然面临多重挑战。
“大模型落地不是在垂直领域马上用所有数字能力做资源替代,而是在金融专属、金融强化的基础上做开放生态。在简化应用开发门槛的基础上,让更多的大模型应用长出来。”
5月24日,在杭州举行的“2024阿里云金融创新峰会”上,阿里云智能集团副总裁、新金融行业总经理张翅阐述了阿里云金融大模型落地的新思路。
在峰会上,全球率先一站式金融场景开发平台“通义点金”迎来全面升级,实现了金融强化的RAG和Agents构建能力,为用户提供了丰富的金融场景模板及专业插件,让AI应用开发更便捷。
2023年是中国大模型的元年,2024年被认为是场景落地的关键一年。大模型如何深入业务流程实现降本增效,推动金融业高质量发展正受到广泛关注。
一方面经过2023年的酝酿与尝试,大模型已经开始在金融行业的运营、客服、营销、研究等多个场景崭露头角。
业内普遍认为,大模型在营销、客服、投顾、风控等领域具有广泛的应用价值,有助于金融机构提升服务效率及用户体验、优化风控决策能力、高效响应用户需求,实现金融机构经营效率及服务手段的升级转型。
以平安集团为例,拥有超过300个大模型应用场景,跑在金融大模型落地的最前沿。“通过与千亿参数大模型结合,平安科技的智能坐席系统达到了80%的电话由机器呼出,显著提高了效率,每年成本节省约15亿元。”平安科技前沿技术研究部部长王磊认为,对于专业领域人士来说,大模型不应引发焦虑,反而提供了新工具,有助于提升工作效率与服务质量。
另外,金融领域大模型的构建方式相对特殊,由于对数据安全的要求高,总体应用不够深入;从时间线上看,大模型迅速爆发但落地需要时间;各家金融机构,也缺乏即插即用的工具,需要配专业人才,开发成本高。
在张翅看来,对待大模型客户目前有两种状态,一类偏保守,还在综合考量大模型的价值;另一批跑得很快,比如众安保险、盈米基金,不缺落地场景,快速选择了适合自身业务模式的模型和工具框架。
据悉,目前互联网保险公司众安保险已接入阿里云通义大模型,在智能还款提醒、智能客服等场景应用大模型实现升级。目前,通义大模型在众安保险的日均调用超5万次,预计未来还将有超10倍的增长。
而全国首批基金投顾业务试点机构盈米基金通过接入通义千问的Qwen-Max及Qwen-Plus,在低成本的前提下实现对大模型的精准调用,单月解决了 33770 个投资问题。
“经过我们的测试,在中文金融类场景里面,阿里云通义大模型在准确性方面已经超过GPT-3.5,性能甚至优于GPT-4。”众安保险CTO蒋纪匀曾表示。
不过,即便已看到行业客户的诸多落地成果。张翅还是认为,金融大模型整体仍处于爆发前夜,整体行业依然面临挑战,“一是算力短缺,二是模型选择的困难。但是当商业模型越来越成熟,算力转入到推理为主的阶段,有足够多的大模型冒出来,市场就会越来越火热。”
如何率先引爆市场,阿里云在2023年云栖大会上交出了首份答卷,发布了智能金融解决方案“通义点金”。
作为“通义”家族的一员,阿里云CTO周靖人彼时一口气打样了8个行业大模型。“通义点金”当时定位“智能投研助手”, 提供AI金融信息搜索、金融文档分析、金融资讯获取、金融投研等多种功能,为金融行业提供全面的数据分析、风险评估。
如果说“通义点金”1.0版本更偏向C端,最新升级“通义点金”2.0不仅丰富了大模型在金融行业的场景落地,更进一步向B端拓展。
据介绍,阿里云“通义点金”此次升级结合了超25TB的金融数据,实现了金融强化的RAG和Agents构建能力,提供了包括“股票信息查询”“录音转文本”等在内的50+专业插件,提高了AI应用开发便捷度,提升了大模型在金融行业应用效果的准确率和稳定性。
不仅如此,针对金融用户在场景落地的丰富需求,通义点金内置了超30个场景模板,帮助用户快速体验,并支持API调用和二次开发集成。在产品生态方面,阿里云通义点金将与百炼协同提供更开放的产品生态,为客户和伙伴提供不同的模型、组件选择。
张翅透露,“点金”过去是在模型语料数据里面做了增强,今天更多是在AI native应用这一层做了很多金融级的增强,更重要的是接下来会以“百炼”为底层,做金融专属的AI应用开发平台。
“中国80%的科技企业和一半的大模型公司都跑在阿里云上,我们希望成为AI时代一朵最开放的云。”阿里巴巴集团董事会主席蔡崇信在2023年云栖大会上提出了阿里云的最新战略。
彼时,阿里云发布了一站式大模型应用开发平台——阿里云百炼,该平台集成了国内外主流优质大模型,提供模型选型、微调训练、安全套件、模型部署等服务和全链路的应用开发工具,开发者可在5分钟内开发一款大模型应用,几小时即可“炼”出一个企业专属模型。
由此可见,按照开放生态的思路,阿里云的金融大模型亦是两条腿跑路。在应用层“点金”不断丰富应用场景和专业插件,让AI应用开发更便捷。另外则做开放生态,让金融机构结合自身的需求定制解决方案。
“金融专属、金融强化、开放生态”将是“通义点金”三个核心定位,张翅进一步表示,一是,金融专属指会结合金融机构所需的加速能力、合规能力;二是,点金会更多结合金融行业实践,去共创的金融所强化的应用,提高金融AI应用开发的一站式效率;三是,落实到开放生态,通义点金则在百炼的产品框架之上,无论是模型选择、组件选择还是个性化的自定义,金融结构都可以根据不同的需求做选择。
在国家金融与发展实验室副主任曾刚看来:“在实践中,大模型的应用涉及通用大模型和金融垂直领域模型等不同层级。通用大模型作为基础性工具,对科技投入、研发以及算力都有很高的要求,并不是金融机构所专长的领域,更多会由阿里云为代表的头部科技企业去探索。金融机构要做的是在通用大模型基础之上做垂类的模型及应用。”
国际数据公司(IDC)报告显示,阿里云连续四年位居中国金融云整体市场第一。另据公开资料,目前阿里云已服务6家国有大型商业银行、12家股份制商业银行、90%已上市商业银行以及60%保险企业、60%证券公司等数百家金融机构。
为何在金融云市场持续领跑,阿里云最新发布的《百炼成金:大金融模型新篇章》,或许能找到答案。阿里云团队走访了上千家金融机构,深入总结了金融企业拥抱大模型面临的挑战,揭示大模型背后的发展趋势,为金融科技行业拥抱大模型提供了思路。
报告指出,“大模型在金融领域的广泛应用并非一片坦途,它在为金融机构带来显著价值增益的同时,亦暴露出一系列不容忽视的问题与挑战。这些问题不仅关乎技术层面的可行性与稳定性,更延伸至合规、安全、伦理等多个关键维度,对金融企业的稳健运营与长期发展构成潜在考验。”
张翅团队研究发现,金融企业在拥抱大模型时面临“有限算力+持续进化的算力”,双重制约下的算力资源;“开源模型vs商业模型”,左右互搏的自建大模型之路;模型size的军备竞赛,以及大模型广泛应用vs应用安全隐患的安全挑战等几大问题。
但大模型技术仍在飞速发展,金融机构不仅要解决资源的供给问题,还需要持续提升算力的使用效率,支撑企业大模型场景的全面落地。如何让大模型在金融行业快速跑起来,阿里云给出了从“云上试航”到“云端融合”的四步方案。
首先是“云上试航”,企业可以借助金融云企业快速完成大模型可行性与价值验证:算力层面,云厂商资源储备充足,为客户提供了多样化的算力选择,且弹性按需付费;模型层面,主流云厂商不仅提供商业化大模型,还提供业界优秀的开源大模型服务,客户可按需自由选择。
“小步快跑”则是大模型应用试点的选择与落地。在这个阶段,可暂不考虑太多平台化的事情,宜采用“以用带建”的思路,选定场景后,引入一个经过验证的商业化大模型,提供持续稳定的服务和安全合规方面的保障。工程上可以在大模型应用层面,选择轻量化的RAG、Agent产品,配合商业化大模型,对外提供MaaS API的调用以及Workflow编排能力,快速支撑业务场景的落地。
走过试点阶段后,企业内大模型应用将会全面铺开,进入“平台筑基”:技术团队需要在平台层面做整体规划,基于业界领先的LLMOps理念,围绕大模型的构建与应用流程,构建大模型全周期管理平台,实现基础能力的中台化管理与服务,支撑大模型在多业务场景的快速落地。
随着大模型应用全面铺开,算力资源会再度成为制约企业全面拥抱AI大模型的瓶颈。阿里云的建议则是通过构建混合云架构,在安全合规的前提下,把本地算力作为固定资源池,同时把云上充足的弹性资源使用起来,“云端融合”成为金融机构在大模型时代的最佳选择。
评论 (0人参与)
最新评论