J9集团

  • Modelb@nk5.0未来银行架构
  • “乾坤”企业级数智底座
  • 平台级产品
  • AI+金融解决规划
  • 银行行业解决规划
  • 其它沉要行业解决规划
银行行业解决规划
  • 主题利用产品族

    聚焦主题业务系统建设,支持数字化转型

  • 云推算产品族

    提供云原生架构解决规划

  • 数据智能产品族

    以数据中台为主题的数据全性命周期产品

  • 智能银行(网点)产品族

    覆盖智能风控、远程视频银行等场景化产品

  • 数字金融产品族

    通过盛开银行等延长互联网金融产品

  • 信贷治理产品族

    覆盖信贷全流程,助力普惠金融

  • 风险治理产品族

    提供信誉风险与本钱计量产品

  • 科技监管产品族

    聚焦监管合规,强化金融系统安全性

其它沉要行业解决规划
  • 金融信创

    散布式主题系统国产适配,构建金融安全底座

  • 行业信创

    全栈式信创云平台,驱动多行业自主可控

  • 基于云原生的智能服务

    云原生+AI驱动,全栈式火速部署与智能运维

  • 量子通讯

    量子密钥分发技术,构建金融级安全通讯网络

  • 农业村落场景金融

    数字技术赋能农业产融,构建智慧村落生态

  • 中幼微场景金融

    大数据风控+线上化服务,破解幼微融资难题

  • 数字供给链金融

    区块链+AIoT技术整合,优化产融协同效能

  • 数字人民币场景利用

    智能合约+多载体支付,拓展消费场景

  • 征询规划
  • 行业数字化转型
  • 软件及服务
征询规划
  • 金融征询服务

    面向银行11大领域32个征询产品

  • 业务征询

    数字化战术、经营造模、零售与绿色信贷征询

  • 数字化征询

    科技战术与系统群架构及治理研发规划等

  • 数据治理征询

    企业整体战术导向全局数据治理与利用规划

  • PMO治理征询

    萦绕项目进行全性命周期管控与专家赋能

  • 金融信创征询

    3-5年信创工作整体规划造订

行业数字化转型
  • 企业AI利用场景解决规划(建设中)

    泛行业AI数智化解决规划

  • 企业IT治理服务产品族

    散布式架构+智能运维平台,全性命周期IT治理

  • 企业IT治理服务解决规划

    丰硕的IT治理解决规划,保险业务陆续性

  • 企业数字化转型服务

    科研知识产权规划,提升全性命周期治理能力

  • 工业数字化转型服务

    工业智能体+物联网优化出产,打造数智工厂

软件及服务
  • 研发治理及DevOps

    云原生+DevOps全性命周期平台

  • 自动化产品

    自动化建模、执杏注测试、业务流程自动化

  • 测试解决规划

    AI+TMMi赋能全性命周期测试,智能天生用例

  • 征询及表包

    全性命周期IT服务,PMO征询与行业级交付

首页- J9集团国际站官网入口
数字中国·星火文集 | Rasa2 NLU 架构及源码解析(三)
颁布功夫:2022-06-29

news_20220629_14_01

Rasa2 NLU 架构及源码解析(三)

J9集团信息

李丹 郑飞 杜昕宸 韩彤 秦帅帅

news_20220629_14_02

Rasa是当前智能机械人中最盛行的的谈天机械人框架,是基于机械进建和天然说话处置技术开发的系统,用于构建高低文AI副手和谈天机械人。

1.

布景

近年来,谈天机械人受到了学术界和工业界的宽泛关注。人为智能技术的急剧发展突破了谈天机械人原有的技术瓶颈,并且实际证明,谈天机械人的使用不仅可能为企业削减一大笔人力成本,并且可能显著提高工作效能,国内表多家企业纷纷布局谈天机械人行业。微软推出了基于感情推算的谈天机械人幼冰,百度推出了用于交互式搜索的谈天机械人幼度,进而推动了谈天机械人产品化的发展。谈天机械人系统能够看作是机械人产业与“互联网+”的结合,切合国度的科研及产业化发展方向。

随着人为智能在银行和金融科技的客户服务方面获得了沉大改进,客户越来越习惯于获得急剧响应。金融机构必须全天候回覆客户问题和进行买卖。金融机构业务扩大的加快使人为客服的成本大幅攀升的同时又无法持续满足服务质量,人为智能机械人通过金融机构持久堆集的业务经验和数据培训谈天机械人,可显著改善客户履历;谏鲜鐾吹愫托枰,各类谈天机械人框架应运而生。凭据社区活跃度、技术的成熟完整度及被引用、点赞等指标,我们选取Rasa作为人机交互对话机械人根基框架。

2.

Rasa简介

Rasa Open Source有两个重要?椋

●Rasa NLU :用于理解用户新闻,蕴含意图鉴别和实体鉴别。以pipeline的方式处置用户对话,可在config.yml中配置。

●Rasa Core:重要掌管对话治理。凭据NLU输出的信息、以及Tracker纪录的汗青信息,得到高低文的语境,从而预测用户当前步最可能执行哪一个action。

其中,Rasa NLU重要依赖天然说话处置技术,是能够独立的、与整体框架解耦的?,可支持大量NLP前沿技术,以组件的大局,能够矫捷与其他开源、自研框架搭配使用。

3.

Rasa NLU架构及源码解析

3.3 Custom Component案例

3.3.1自界说组件方式

●拆分方式:将分词、特点化、模型等部门进行解耦,以TextCNN意图鉴别模型为例

●整体打包方式:将模型的各部门封装一路,只对暴露出个别接口,以JointBert意图和实体结合鉴别模型为例

3.3.2拆分方式

3.3.2.1简介

TextCNN做意图鉴别,以拆分的方式进行自界说组件,以字作为单元,不用分词。只需拆分成:featurizer和 classifier两部门。

3.3.2.2组件介绍

●Featurizer:

components.user_featurizer.UserFeaturizer

重要职能:构建字典,获取字到id的映射,得到句子的id 列表。

重要参数:

news_20220629_14_03

训练流程:

news_20220629_14_04

components的train函数 -> 构建字典:基于最幼词频和词典最大容量 -> 遍历所有的训练数据 -> 得到句子的id列表 -> 事俘化特点类Features - > message设置

预测流程:

news_20220629_14_05

components的process函数 -> 获取句子id列表 -> 事俘化Features设置message

●Classifier:

components.user_intent.UserIntentClassifier

重要职能:利用TextCNN进行意图分类

重要参数:

news_20220629_14_06

训练流程:

news_20220629_14_07

components的train函数 -> 过滤掉空的examples -> 获取字典大幼 -> 获取label -> 构建label2id dict-> 构建模型网络 -> model.train

预测流程:

news_20220629_14_08

components的process函数 -> 获取句子id list -> 挪用predict函数预测 -> _get_ranking 对了局进行排序 -> 保留到message

把稳:两个组件之间的依赖关系,有关信息的传递,例如:词典大幼,无法在classifier中当作参数配置,只能凭据featurizer中构建词典的了局得到。这里通过在featurizer中构建字典之后保留到message中,在classifier中通过message获取。

news_20220629_14_09

3.3.2.3使用样例

把稳:样例仅配置了NLU部门,训练时使用rasa train nlu,测试时使用rasa shell nlu。

domain中的意图:

news_20220629_14_10

配置文件config:

news_20220629_14_11

运行样例:

{

"text": "收不到余额改观提醒怎么办",

"intent": {

"name": "personal_bank",

"confidence": 0.9055530429

},

"entities": [],

"intent_ranking": [

{

"intent": "personal_bank",

"confidence": 0.9055530429

},

{

"intent": "finance_investment",

"confidence": 0.0601818413

},

{

"intent": "personal_finance",

"confidence": 0.033517994

},

{

"intent": "corporate_bank",

"confidence": 0.0006058206

},

{

"intent": "other",

"confidence": 0.0001413494

}

]

}

3.3.3整体打包方式

3.3.3.1简介

JointBert意图和词槽结合鉴别,以整体打包的方式进行自界说组件,包放在src/smartintslotpretrain,对暴露出三个函数即可,别离为:训练train, 预测eval, 模型加载load_model。

3.3.3.2组件介绍

结合鉴别组件:

components.jointbert_intent_slot.JointBertIntentSlot

重要职能:进行意图和词槽的结合鉴别

重要参数:

news_20220629_14_12

训练流程:

news_20220629_14_13

JointBert作为表部包,提供三个接口,训练train, 加载load_model,预测eval。

component的train函数 -> 通过transfer_data进行数据体式转换,将rasa的nlu数据转化为JointBert所必要的数据体式(具体为:过滤空文本, auto_mark进行实体标注,把稳实体标注可能存在group和role的分辨,save format data 保留为特定体式的文件)-> 挪用JointBert的train.train_model进行训练。

数据转化样例:

nlu.yml中的数据:

news_20220629_14_14

转换之后的数据体式:

news_20220629_14_15

news_20220629_14_16

auto_mark关键代码:

注:这里只标注了存在role的情况,若是存在group可按同样的方式进行增长。

news_20220629_14_17

预测流程:

news_20220629_14_18

components的process函数 -> 文本和JointBert的模型传入 eval.preditce_online中进行预测,得到 intent_dict, slot_dict -> format_entity 体式化成rasa必要的entity体式-> _sort_intent_ranking 对intent进行排序 -> message.set 进行保留了局。

注:format_entity 为 auto_mark的逆过程,这两部门必要对齐。

news_20220629_14_19

以打包方式进行组件编写的方式关键有三点:

●合理的提供模型的三个接口:训练、模型加载、预测

●rasa数据到模型数据的转换,分歧模型训练源码必要的数据体式都不太一样。

●模型预测了局到rasa必要了局体式的转换

3.3.3.3使用样例

把稳:样例仅配置了NLU部门,训练时使用rasa train nlu,测试时使用rasa shell nlu。

domain中的intent和entity:

news_20220629_14_20

配置文件config:

news_20220629_14_21

运行样例:

{

"text": "今天黄金的价值是几多",

"intent": {

"name": "gold_price",

"confidence": 0.999890089

},

"entities": [

{

"entity": "date",

"value": "今天",

"start": 0,

"end": 2,

"extractor": "JointBertIntentSlot"

}

],

"intent_ranking": [

{

"intents": "gold_price",

"confidence": 0.999890089

},

{

"intents": "UNK",

"confidence": 3.54958e-05

},

{

"intents": "consume_check",

"confidence": 2.15434e-05

},

{

"intents": "currency_exchange",

"confidence": 2.13388e-05

},

{

"intents": "card_requirement",

"confidence": 1.93974e-05

},

{

"intents": "card_meterial",

"confidence": 1.20613e-05

}

]

{

"text": "10美元能兑换几多人民币",

"intent": {

"name": "currency_exchange",

"confidence": 0.9999859333

},

"entities": [

{

"entity": "money",

"value": "10",

"start": 0,

"end": 2,

"extractor": "JointBertIntentSlot"

},

{

"entity": "currency_type",

"value": "美元",

"start": 2,

"end": 4,

"extractor": "JointBertIntentSlot",

"role": "from"

},

{

"entity": "currency_type",

"value": "人民币",

"start": 9,

"end": 12,

"extractor": "JointBertIntentSlot",

"role": "to"

}

],

"intent_ranking": [

{

"intents": "currency_exchange",

"confidence": 0.9999859333

},

{

"intents": "UNK",

"confidence": 4.3686e-06

},

{

"intents": "gold_price",

"confidence": 3.5197e-06

},

{

"intents": "consume_check",

"confidence": 2.3771e-06

},

{

"intents": "card_meterial",

"confidence": 1.879e-06

},

{

"intents": "card_requirement",

"confidence": 1.8156e-06

}

]

}

{

"text": "6.1的黄金价值是几多",

"intent": {

"name": "gold_price",

"confidence": 0.9998868704

},

"entities": [

{

"entity": "date",

"value": "6.1",

"start": 0,

"end": 3,

"extractor": "JointBertIntentSlot"

}

],

"intent_ranking": [

{

"intents": "gold_price",

"confidence": 0.9998868704

},

{

"intents": "UNK",

"confidence": 3.81634e-05

},

{

"intents": "consume_check",

"confidence": 3.09156e-05

},

{

"intents": "currency_exchange",

"confidence": 2.11939e-05

},

{

"intents": "card_requirement",

"confidence": 1.48951e-05

},

{

"intents": "card_meterial",

"confidence": 7.9957e-06

}

]

}

3.3.4优弊端

news_20220629_14_22

References

1. Rasa官方文档

https://rasa.com/docs/rasa/2.x/components

2. diet介绍

https://www.yiyibooks.cn/nlp/diet/index.html

3. spaCy官方文档

https://spacy.io/api/architectures#parser

4. Greedy transition-based parsing

https://explosion.ai/blog/parsing-english-in-python

5. spaCy v2.0定名实体鉴别解析

https://www.bilibili.com/video/av16282127

6.NLU自界说组件

https://puluwen.github.io/2018/12/rasa-nlu/

news_20220629_14_23

news_20220629_14_24

【网站地图】