曹刚：加速大模型产业落地

专题：2024中国AIGC创新发(fā)展论坛

　　2024年服贸会专题论坛之一——“2024中国AIGC创新发展论坛”于9月13日 -14日在(zài)北京举行。蚂蚁集团财富保险事业群平台科技(jì)总经理曹刚出席并演(yǎn)讲。

　　曹刚表(biǎo)示(shì)，大模型技(jì)术是(shì)实现高质(zhì)量金融服务普惠的关键(jiàn)。他说，高质量的金(jīn)融(róng)服务是非常稀缺的(de)，从统计数据来看(kàn)，目(mù)前国内投资者大概有7.2亿，但(dàn)真正具备投资顾问资质的专(zhuān)家只有20万，要服务好广大消(xiāo)费者的，光靠专家的能力(lì)是非常困难的，而且金融服务门(mén)槛(kǎn)比较高。

　　“大(dà)模型技(jì)术的到来(lái)，让我们看到了高质量金融服务普惠的可能性，大模型具备压缩世界金(jīn)融知识的能力，专业知识力一定程度上(shàng)远超人类专家，同时还(hái)有(yǒu)强大的推理能(néng)力，并可以通过自然(rán)语言进行交互，相对于传统的GUI图形(xíng)界面操作，自然语言交互更(gèng)加简单和流畅”，他(tā)说。　　

　　以下为演讲实(shí)录：

　　曹刚：各位领导、各位来宾(bīn)，大家下午好(hǎo)，我是来自蚂蚁(yǐ)集团财(cái)富保险事业群的曹刚，很(hěn)高兴参加今天2024中国AIGC创新发展论坛，我今天分(fēn)享的(de)题目是“加速大模(mó)型产业落地，让AI人人可事”。

　　蚂蚁集团(tuán)一直是普惠金融的实践者，伴随(suí)整个科技的发展，我们坚持用科技持续为整个社(shè)会带来微小而美好的变化。在互联网(wǎng)早期(qī)阶段，我们推(tuī)出了快捷支(zhī)付、扫码支付的服务，实现了整个支付服务的普(pǔ)惠。不(bù)管(guǎn)是在街边买一(yī)个包子还是去商场(chǎng)付个款，很容易就能完成支付过程。我自(zì)己也非常(cháng)荣幸参与了快捷支付建设过程，至今仍然是非常(cháng)有成(chéng)就感的一件事情曹刚：加速大模型产业落地(qíng)。进入大(dà)数据、云计算以及移动互联网这个阶段后，蚂蚁集团从(cóng)支付走向了(le)金融，推出了余额(é)宝、花呗、借呗，以及蚂蚁财富等金(jīn)融产品，通过这些(xiē)产品用户(hù)能更(gèng)加(jiā)容易获得信贷服务(wù)和理财服(fú)务。到了2022年，以ChatGPT为代表的大模(mó)型技术爆发，点燃了整个业界，大模型出色的推(tuī)理、认知和(hé)生成能(néng)力，让我们看到了实现AGI的可能。我们也一直在思考和探索怎么样让大模型技术落地到金融场景中，让大(dà)模型成为业务发展新的驱动(dòng)力，就在刚过去的一周，我们(men)在上海的外滩大会发布了蚂蚁集团三款大模型AI的产品，分别(bié)是AI金融管家、AI生活(huó)管家，还有AI健(jiàn)康管家，大家可以(yǐ)上支付宝(bǎo)进(jìn)行搜索试(shì)用。

　　回到金融(róng)领(lǐng)域，我们认为，大(dà)模型技术是(shì)实现高质量金融服务普惠的关键，高(gāo)质量的金融服务是非(fēi)常稀缺的，从统(tǒng)计数据(jù)来看，目(mù)前(qián)国内投资者大概有7.2亿，但真正具备投资顾问资质的专家只有20万，要服务好(hǎo)广大消费者的，光靠专家的能力(lì)是非常(cháng)困难(nán)的，而且(qiě)金融服务门(mén)槛比较(jiào)高，相信大家都知道(dào)这个问题。大(dà)模型技术的到来，让我们看到了高质量金融服务普惠的可(kě)能性，大模型具备压缩世界金融知识的能(néng)力，专业(yè)知识力(lì)一定程度上远超人类专家，同时还有强大的推(tuī)理能(néng)力，并(bìng)可以通过自然语言进行交互(hù)，相对于传统(tǒng)的GUI图形界面操作，自然(rán)语言交互更加(jiā)简单和流畅。

　　面对大模型技术(shù)的发展以及实现高质量金融服(fú)务普惠的机遇和挑战，我们确定了金(jīn)融AI的战略布局(jú)，在我们内部称为1+2布局，1+2是1个大模型(xíng)基建，这个大模型(xíng)基(jī)建是由我们自研的凤凰大模(mó)型以及AgentUniverse专业的智能体框架组成，后面会给大家展开介绍，两个大模型AI产品，一个(gè)是(shì)2C的蚂小财，也就AI金融管家，蚂小财集成了财经、投研、财(cái)报、核赔等金融服务能力(lì)，通过语控一(yī)切、有问必答、全程(chéng)陪伴方式，为用户带来(lái)全新的智能服务体(tǐ)验。另(lìng)一个是(shì)2P的支(zhī)小(xiǎo)助，支小助一个(gè)专业严(yán)谨的AI助手，主要服(fú)务对象就(jiù)是我们(men)整个(gè)金融服务链条上的各类(lèi)专家，希望通过支小助(zhù)提高专家作业流(liú)程的效率和水平(píng)。

　　大(dà)模(mó)型基建部分，从(cóng)去年大(dà)模型技术爆发以来(lái)，不管是国外(wài)还是国内，有非常多的(de)大模型(xíng)企业(yè)冒出来，形成了“百模大(dà)战”的态势(shì)。我们尝试过多个通用大模型底座，但效果都不是特别理想。我们看到(dào)大模型技术落地专业严谨领域(yù)还存在诸(zhū)多困难和挑战，比如用户会问：”A公司的最新财(cái)报表现(xiàn)是什么样？”，在金(jīn)融领域，这涉(shè)及到一(yī)个公司的财务数据(jù)，时效性要求高，需要对信息进行精确的处(chù)理。比如用户会(huì)问：”我(wǒ)有甲状(zhuàng)腺结节，到底能不(bù)能买这款保险产品？”，这个问题涉及到保险领(lǐng)域核赔核保的专业(yè)知(zhī)识(shí)，判断和(hé)决策逻辑是非常复杂(zá)的。再比如用(yòng)户会问：”能(néng)不能给我推荐一款稳赚不(bù)赔的基金？”，这个问题涉及(jí)到金融常识以及金融合规性的要(yào)求，我们只(zhǐ)能在安全合规的(de)前提下去给用户做答。这些问题是通过大模型难以(yǐ)甚(shèn)任的。

　　为此，从去年开始，我(wǒ)们自研了蚂蚁凤凰大模型，去解(jiě)决通用大模型在专(zhuān)业、严谨、安全合规层面面(miàn)临的问题。凤(fèng)凰大模型今年已经通过备案，我们的工作重心集中在这几个方面：首先是(shì)专业性方面，核心是(shì)让大模型对齐人类专家的知(zhī)识和决(jué)策逻辑，通(tōng)过这种方(fāng)式，我们在产品客服、投(tóu)研分析、财经编辑领域做到了80%左右(yòu)的水平，可(kě)以(yǐ)很好的辅助专家进行作业。在严谨性上，我们核心在(zài)数据指标查询和数据指标计算等领域进(jìn)行发力，从实践结果来看，在数据指标查(chá)询方面，我(wǒ)们已经实现了95%以上的准确率。在金(jīn)融计算部分，金融(róng)领域有很(hěn)多计算逻辑，比如计算你的(de)存款利(lì)息、理财收益等等，大模型通过工(gōng)具调用，能做到80%左右曹刚：加速大模型产业落地(yòu)的水(shuǐ)平，还有很大提升空间(jiān)。在安全合规层面，我们搭建了安全技术围栏，通过(guò)专家标注以及自动化(huà)攻防等(děng)措施进行(xíng)防(fáng)控，上线(xiàn)以(yǐ)来，零(líng)风险事件的发生。同时，为了(le)提高上(shàng)层应用的创新效率，我们搭建并开源了一套专业的多智能体的(de)框(kuāng)架AgentUniverse，相对(duì)于市面上常见的智能体平台而言，我们核心在专业能力上进行增强，同(tóng)时搭载了一些可快速插拔的工具，比如(rú)检(jiǎn)索增强相关的RAG、SUG等等，通过(guò)这样的能力让我(wǒ)们(men)在研(yán)发上层的(de)蚂(mǎ)小财(cái)和支(zhī)小助(zhù)应用时，变得(dé)更加高效。现在我们把这套框架开源出来，希望这套框架能(néng)够助力(lì)更多企业在研(yán)发智能(néng)体的时候能更加高效。

　　下(xià)面(miàn)结合今天论(lùn)坛(tán)主题，展开介绍一下我们在支小助部分的实(shí)践，首先是营销创意产品，先来看一下产品Demo视频。（现场播放视频）。营销是(shì)每个企业都会涉及的领域，大模型(xíng)对于(yú)营销领域而(ér)言，最大的(de)增益在于供给侧的创意(yì)可以直接由AI生产，我们通过(guò)多模态大模型能力，结(jié)合用(yòng)户偏好以及市场热点，能(néng)够批量化地快速生(shēng)成符合生产要求的图文、视(shì)频(pín)和卡片(piàn)，改(gǎi)变过往这些素材需(xū)要运营(yíng)专家或(huò)者设计师人工生产的方式，极大提升了运(yùn)营的效率，同时丰富了对客表达的空(kōng)间。我们还在探(tàn)索用大模型做用户(hù)理解、产品理解、做样本增强，通(tōng)过与推荐(jiàn)系统的结合，整个流量(liàng)运营效率能够进一步提升，从实践的结(jié)果看(kàn)，我们平台上50%展位背后的创(chuàng)意是由AI生产的，同(tóng)时，营销能力能为平台(tái)带(dài)来10%以上的GMV复利增长，效果上是非常好的。

　　除了营销创意，我们还在用它做金融(róng)市场投研分析，金融市场投研分析是一个蛮复杂的事情，它需要(yào)投(tóu)研分析专家对市场(chǎng)或某一个行业的趋势和问题进(jìn)行分析，把(bǎ)趋势和问题拆解成一个一个小(xiǎo)的任(rèn)务，由各个专家小组通过对市场信(xìn)息的收集、整理形成研判观点，最终形成(chéng)投研分析报告需要经过专(zhuān)家评审后(hòu)才会被广大(dà)用户看到。投研支小(xiǎo)助的建设，核心(xīn)就(jiù)是用系统和AI的方式在模拟整个投研分析生产的(de)过程，我们通过刚才讲到的Agent框架，将整个(gè)过程拆解成策(cè)划(huà)、执行、表达、评价这样四个大(dà)的阶(jiē)段(duàn)，通过注入专家知识框架，以及检索各种各样的知识库，用多个(gè)智能(néng)体去模(mó)拟(nǐ)整个小组分工协作的(de)过程，从而产(chǎn)出投研分析内容。目前我们已经能够快速支撑9类标的物的分析，在分析(xī)效率上从过往的(de)小时级别到现在的分钟级别。

　　这是投研支小助方面的介绍，同时，我们还在(zài)尝试(shì)用大模型(xíng)去做财务报(bào)告的撰写，上市公司(sī)每(měi)个季度都要发财务(wù)报告，财报是一个非常专(zhuān)业、复杂度极高的报告，去(qù)年我们跟阿里巴巴集团进行合作，用大模型的方式去辅助财务人员完成财报的生产(chǎn)过程(chéng)，这(zhè)里面包(bāo)括怎么用大模型做财务数据计(jì)算(suàn)，怎(zěn)么(me)做业绩归(guī)因和推理，怎么做财报专业的表达，这些都对大模型的能力提出了更高的要求和挑战。从实践结果来看(kàn)，大模型辅(fǔ)助(zhù)生成(chéng)财报整体采纳率达到77%，上个季度阿里巴巴集团的财报就是通过我们的大模型和财务人员(yuán)共同撰写，整个财报的写作效率得到了提(tí)升，同时我们也可以看(kàn)到，大模型(xíng)在业绩归因和财务推(tuī)理这部分的(de)准(zhǔn)确率还(hái)不够高，我们(men)还会进一步(bù)提升整个推理部分的能(néng)力(lì)。

　　上(shàng)面给大家介绍了我们在2P支小助部分(fēn)的三个产品，支小助通过大模型能力、多智能体能力对整个金(jīn)融(róng)服务链条各个环节进(jìn)行升级和重(zhòng)塑，现在已经覆盖了营销(xiāo)、投研等十(shí)几个垂直(zhí)领域(yù)，是各垂(chuí)直(zhí)领域专业严谨的AI业务助手，目前(qián)我们已经在蚂蚁集(jí)团财富保险多个业务场景中进行了规模化验证，基本上是业界首个完(wán)成规模化验(yàn)证的产品，使得各服务环节效率倍增，通过这种2P2C模式，为上亿(yì)用户带来了高质(zhì)量的金融(róng)服务。支小助已经跟平台上120多(duō)家机构(gòu)开展了合作，我们期待和(hé)更多的产业合作伙伴一(yī)起(qǐ)，加速大模型产业(yè)落地，让AI人人可享(xiǎng)。

　　以上是我(wǒ)的分(fēn)享，感(gǎn)谢大家聆(líng)听，谢谢。

　　新浪声明：所有会议实录均为现场速记整理，未经(jīng)演讲者审(shěn)阅，新浪网登载此(cǐ)文出于传递更多信息之目(mù)的，并不(bù)意(yì)味着赞同其观点或证实其描述。

责任编辑(jí)：梁斌 SF055

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修曹刚：加速大模型产业落地