NLP产业化探索至今已有十余年,从早期的正则技术到相似问技术、分类器技术,直到两三年前的BERT预训练技术,经过了若干技术思想和思潮的更迭,取得了巨大的进步。
然而这些技术都存在一些局限性,包括生产周期长、需要大量手工调优和标注数据、泛化能力差、识别准确率低,无法为业务提供精准支撑,无法投入大规模应用。
日前,专注于销售科技(SalesTech)的AI企业服务公司循环智能(Recurrent AI)举办主题为「智见未来,有迹可循」的云端发布会,重磅发布了「盘古」零样本NLP平台和包含三大产品矩阵在内的整体产品方案。
「盘古」零样本NLP平台
历时一年,「盘古」从首个中文千亿参数预训练模型已进化为仅需15亿参数就能实现性能更强、在真实场景得到广泛验证并具备强大工程化支持的零样本平台,开启了NLP生产新范式。
循环智能联合创始人杨植麟博士在发布会上介绍说:「零样本意味着无需标注样本,只需提供指令即可完成一个新语义建模,效果比肩甚至超越全量样本微调。建模时间从3天降至3分钟,准确率比当前主流模型提升15%。」
盘古零样本平台现已完成超过200个场景的落地验证,通过极致工程优化,单GPU抽取一万小时录音仅需16分钟。该平台目前仍在不断改进中,已覆盖70%的客户经营场景,每月新增超过100个持续学习任务。
作为首个千亿级中文大模型,盘古的工程化落地并不容易,一台服务器显然无法支持其参数矩阵。在盘古的预训练阶段,循环智能和华为合作,利用3D并行化技术,使算力分散在大规模集群上,并做了大量GPU硬件和网络通信层面的优化,将模型分散在上千个GPU上进行训练,充分利用这些计算资源。
然而如果要将这种大规模模型部署在生产环节中,成本会非常高昂。为了在真实的生产环境中让盘古以成本可控的方式使用,研发团队发现使用多任务学习对模型进行预训练时,可以通过增加任务的数量,在不损失模型精度的情况下压缩模型的参数量,利用任务的规模化来代替模型的规模化。
此外,盘古研发团队使用模型蒸馏技术减少了模型中参数的冗余,进一步压缩了模型的规模。现在,盘古模型能够在几乎不损失精度的情况下在单个GPU上运行,大幅度降低了成本。
研发团队还根据真实业务场景中请求的潮汐周期性,实现了AI算力的动态调度,把任务拆分为实时任务和离线任务,弹性地分配计算资源,让白天高峰期时的算力集中用于处理实时性要求比较高的任务,离线任务和模型训练任务分配在空闲的时间。此外,该模型还可以根据业务类型按需分配权重,实现计算资源的动态隔离。通过弹性的资源调度,整套框架的硬件资源需求降低了50%。
经过这一系列的优化,盘古模型成功在多渠道沟通数据分析中落地,利用盘古模型强大的零样本学习能力,用一套模型就可以泛化到客户画像抽取、智能对话、合规质检、意图识别、文本情感分析等各个场景的NLP需求。
这些应用场景正是循环智能在销售科技领域的探索方向,并已实现产品落地。循环智能联合创始人&CEO陈麒聪表示:「循环智能致力于以新一代AI销售科技助力企业解决客户沟通内容分析和管理难题。」
三大产品矩阵
后疫情时代,作为企业重要对外沟通场景的客户管理等工作日益成为企业生存、发展的生命线。越来越多的企业希望通过更有效的营销和服务手段为产品找到客户,建立远程了解客户、传递产品及服务价值的强大能力。如何实现对客户沟通内容更精准的分析和更高效智能的销售过程管理,已成为企业实现这些愿景的关键瓶颈。
企业在客户沟通内容的分析和管理中面临着突出的降本增效难题:客户沟通渠道多、人与人沟通比人机沟通更为复杂、客户与业务员双边业务场景复杂多样,而要实现全部沟通数字化、数据结构化,实现全业务场景支持并赋能每个团队个性化需求的成本高昂。
在「智见未来,有迹可循」云端发布会上,循环智能重磅发布了其包含三大产品矩阵在内的整体产品方案,全面助力企业破解客户沟通降本增效难题,实现销售管理的智能化提升、一线人员的实时赋能以及更全面的客户洞察。
循环智能本次发布的业务增长型产品主要包括「会话分析洞察 Insight」、「智能销售助手 Expert」、「会话挖掘引擎 Discovery」;合规提升型产品主要包括「智能合规质检 Compliance」和「智慧双录助手 Compliance Now」,而AI能力平台产品则主要包括「企业级NLP平台」和「企业级ASR自训练平台」。
会话分析洞察可助力打开销售沟通过程的黑盒,通过可视化看板洞察业务一线。该产品可通过对沟通过程数据的洞察和分析,精细化诊断业务问题、监督业务策略执行情况,可实现千人千面的管理配置、业务策略追踪并赋能管理。
智能销售助手覆盖了多个沟通场景,通过面向销售过程的专家级「非侵入式」帮助系统,可为一线销售人员插上翅膀,并具备实时推荐和内容日更,让所有销售都具备绩优销售的能力。还可一行代码嵌入CRM,不干扰原有系统操作流程。
会话挖掘引擎可从海量真实对话中,发现真正被使用的话术与知识,客观、实时、规模化挖掘一线销售在实际销售过程中使用的优秀话术用语和知识。同时还具备启发灵感和自动化更新功能。
智能合规质检面向需管理销售、客服沟通质量的企业,提供基于AI模型的全渠道、全量质检系统。支持复杂逻辑质检、丰富的自定义字段并具有独有的违规值排序功能。
目前,循环智能已赋能超100万一线人员,日均处理上亿次对话,在各行各业积累了丰富的销售增长实践、销售分析模型和最佳沟通素材,累计生产了10000+面向各行业业务流程的AI数据模型。
在金融领域,循环智能为多家标杆级银行、保险机构提供服务,最近又连续中标和签约了包括中信建投证券、招商证券等在内的头部证券企业,实现金融三大核心领域的全覆盖。
面向未来,循环智能将基于「盘古」零样本平台强大的NLP能力,继续深耕销售、金融等实际领域,以AI生产效率的提升带动商业产品的大幅落地。