聚焦主题业务系统建设,支持数字化转型
提供云原生架构解决规划
以数据中台为主题的数据全性命周期产品
覆盖智能风控、远程视频银行等场景化产品
通过盛开银行等延长互联网金融产品
覆盖信贷全流程,助力普惠金融
提供信誉风险与本钱计量产品
聚焦监管合规,强化金融系统安全性
散布式主题系统国产适配,构建金融安全底座
全栈式信创云平台,驱动多行业自主可控
云原生+AI驱动,全栈式火速部署与智能运维
量子密钥分发技术,构建金融级安全通讯网络
数字技术赋能农业产融,构建智慧村落生态
大数据风控+线上化服务,破解幼微融资难题
区块链+AIoT技术整合,优化产融协同效能
智能合约+多载体支付,拓展消费场景
面向银行11大领域32个征询产品
数字化战术、经营造模、零售与绿色信贷征询
科技战术与系统群架构及治理研发规划等
企业整体战术导向全局数据治理与利用规划
萦绕项目进行全性命周期管控与专家赋能
3-5年信创工作整体规划造订
泛行业AI数智化解决规划
散布式架构+智能运维平台,全性命周期IT治理
丰硕的IT治理解决规划,保险业务陆续性
科研知识产权规划,提升全性命周期治理能力
工业智能体+物联网优化出产,打造数智工厂
云原生+DevOps全性命周期平台
自动化建模、执杏注测试、业务流程自动化
AI+TMMi赋能全性命周期测试,智能天生用例
全性命周期IT服务,PMO征询与行业级交付

Rasa2 NLU 架构及源码解析(三)
J9集团信息
李丹 郑飞 杜昕宸 韩彤 秦帅帅

Rasa是当前智能机械人中最盛行的的谈天机械人框架,是基于机械进建和天然说话处置技术开发的系统,用于构建高低文AI副手和谈天机械人。
1.
布景
近年来,谈天机械人受到了学术界和工业界的宽泛关注。人为智能技术的急剧发展突破了谈天机械人原有的技术瓶颈,并且实际证明,谈天机械人的使用不仅可能为企业削减一大笔人力成本,并且可能显著提高工作效能,国内表多家企业纷纷布局谈天机械人行业。微软推出了基于感情推算的谈天机械人幼冰,百度推出了用于交互式搜索的谈天机械人幼度,进而推动了谈天机械人产品化的发展。谈天机械人系统能够看作是机械人产业与“互联网+”的结合,切合国度的科研及产业化发展方向。
随着人为智能在银行和金融科技的客户服务方面获得了沉大改进,客户越来越习惯于获得急剧响应。金融机构必须全天候回覆客户问题和进行买卖。金融机构业务扩大的加快使人为客服的成本大幅攀升的同时又无法持续满足服务质量,人为智能机械人通过金融机构持久堆集的业务经验和数据培训谈天机械人,可显著改善客户履历;谏鲜鐾吹愫托枰,各类谈天机械人框架应运而生。凭据社区活跃度、技术的成熟完整度及被引用、点赞等指标,我们选取Rasa作为人机交互对话机械人根基框架。
2.
Rasa简介
Rasa Open Source有两个重要?椋
●Rasa NLU :用于理解用户新闻,蕴含意图鉴别和实体鉴别。以pipeline的方式处置用户对话,可在config.yml中配置。
●Rasa Core:重要掌管对话治理。凭据NLU输出的信息、以及Tracker纪录的汗青信息,得到高低文的语境,从而预测用户当前步最可能执行哪一个action。
其中,Rasa NLU重要依赖天然说话处置技术,是能够独立的、与整体框架解耦的?,可支持大量NLP前沿技术,以组件的大局,能够矫捷与其他开源、自研框架搭配使用。
3.
Rasa NLU架构及源码解析
3.3 Custom Component案例
3.3.1自界说组件方式
●拆分方式:将分词、特点化、模型等部门进行解耦,以TextCNN意图鉴别模型为例
●整体打包方式:将模型的各部门封装一路,只对暴露出个别接口,以JointBert意图和实体结合鉴别模型为例
3.3.2拆分方式
3.3.2.1简介
TextCNN做意图鉴别,以拆分的方式进行自界说组件,以字作为单元,不用分词。只需拆分成:featurizer和 classifier两部门。
3.3.2.2组件介绍
●Featurizer:
components.user_featurizer.UserFeaturizer
重要职能:构建字典,获取字到id的映射,得到句子的id 列表。
重要参数:

训练流程:

components的train函数 -> 构建字典:基于最幼词频和词典最大容量 -> 遍历所有的训练数据 -> 得到句子的id列表 -> 事俘化特点类Features - > message设置
预测流程:

components的process函数 -> 获取句子id列表 -> 事俘化Features设置message
●Classifier:
components.user_intent.UserIntentClassifier
重要职能:利用TextCNN进行意图分类
重要参数:

训练流程:

components的train函数 -> 过滤掉空的examples -> 获取字典大幼 -> 获取label -> 构建label2id dict-> 构建模型网络 -> model.train
预测流程:

components的process函数 -> 获取句子id list -> 挪用predict函数预测 -> _get_ranking 对了局进行排序 -> 保留到message
把稳:两个组件之间的依赖关系,有关信息的传递,例如:词典大幼,无法在classifier中当作参数配置,只能凭据featurizer中构建词典的了局得到。这里通过在featurizer中构建字典之后保留到message中,在classifier中通过message获取。

3.3.2.3使用样例
把稳:样例仅配置了NLU部门,训练时使用rasa train nlu,测试时使用rasa shell nlu。
domain中的意图:

配置文件config:

运行样例:
{
"text": "收不到余额改观提醒怎么办",
"intent": {
"name": "personal_bank",
"confidence": 0.9055530429
},
"entities": [],
"intent_ranking": [
{
"intent": "personal_bank",
"confidence": 0.9055530429
},
{
"intent": "finance_investment",
"confidence": 0.0601818413
},
{
"intent": "personal_finance",
"confidence": 0.033517994
},
{
"intent": "corporate_bank",
"confidence": 0.0006058206
},
{
"intent": "other",
"confidence": 0.0001413494
}
]
}
3.3.3整体打包方式
3.3.3.1简介
JointBert意图和词槽结合鉴别,以整体打包的方式进行自界说组件,包放在src/smartintslotpretrain,对暴露出三个函数即可,别离为:训练train, 预测eval, 模型加载load_model。
3.3.3.2组件介绍
结合鉴别组件:
components.jointbert_intent_slot.JointBertIntentSlot
重要职能:进行意图和词槽的结合鉴别
重要参数:

训练流程:

JointBert作为表部包,提供三个接口,训练train, 加载load_model,预测eval。
component的train函数 -> 通过transfer_data进行数据体式转换,将rasa的nlu数据转化为JointBert所必要的数据体式(具体为:过滤空文本, auto_mark进行实体标注,把稳实体标注可能存在group和role的分辨,save format data 保留为特定体式的文件)-> 挪用JointBert的train.train_model进行训练。
数据转化样例:
nlu.yml中的数据:

转换之后的数据体式:


auto_mark关键代码:
注:这里只标注了存在role的情况,若是存在group可按同样的方式进行增长。

预测流程:

components的process函数 -> 文本和JointBert的模型传入 eval.preditce_online中进行预测,得到 intent_dict, slot_dict -> format_entity 体式化成rasa必要的entity体式-> _sort_intent_ranking 对intent进行排序 -> message.set 进行保留了局。
注:format_entity 为 auto_mark的逆过程,这两部门必要对齐。

以打包方式进行组件编写的方式关键有三点:
●合理的提供模型的三个接口:训练、模型加载、预测
●rasa数据到模型数据的转换,分歧模型训练源码必要的数据体式都不太一样。
●模型预测了局到rasa必要了局体式的转换
3.3.3.3使用样例
把稳:样例仅配置了NLU部门,训练时使用rasa train nlu,测试时使用rasa shell nlu。
domain中的intent和entity:

配置文件config:

运行样例:
{
"text": "今天黄金的价值是几多",
"intent": {
"name": "gold_price",
"confidence": 0.999890089
},
"entities": [
{
"entity": "date",
"value": "今天",
"start": 0,
"end": 2,
"extractor": "JointBertIntentSlot"
}
],
"intent_ranking": [
{
"intents": "gold_price",
"confidence": 0.999890089
},
{
"intents": "UNK",
"confidence": 3.54958e-05
},
{
"intents": "consume_check",
"confidence": 2.15434e-05
},
{
"intents": "currency_exchange",
"confidence": 2.13388e-05
},
{
"intents": "card_requirement",
"confidence": 1.93974e-05
},
{
"intents": "card_meterial",
"confidence": 1.20613e-05
}
]
{
"text": "10美元能兑换几多人民币",
"intent": {
"name": "currency_exchange",
"confidence": 0.9999859333
},
"entities": [
{
"entity": "money",
"value": "10",
"start": 0,
"end": 2,
"extractor": "JointBertIntentSlot"
},
{
"entity": "currency_type",
"value": "美元",
"start": 2,
"end": 4,
"extractor": "JointBertIntentSlot",
"role": "from"
},
{
"entity": "currency_type",
"value": "人民币",
"start": 9,
"end": 12,
"extractor": "JointBertIntentSlot",
"role": "to"
}
],
"intent_ranking": [
{
"intents": "currency_exchange",
"confidence": 0.9999859333
},
{
"intents": "UNK",
"confidence": 4.3686e-06
},
{
"intents": "gold_price",
"confidence": 3.5197e-06
},
{
"intents": "consume_check",
"confidence": 2.3771e-06
},
{
"intents": "card_meterial",
"confidence": 1.879e-06
},
{
"intents": "card_requirement",
"confidence": 1.8156e-06
}
]
}
{
"text": "6.1的黄金价值是几多",
"intent": {
"name": "gold_price",
"confidence": 0.9998868704
},
"entities": [
{
"entity": "date",
"value": "6.1",
"start": 0,
"end": 3,
"extractor": "JointBertIntentSlot"
}
],
"intent_ranking": [
{
"intents": "gold_price",
"confidence": 0.9998868704
},
{
"intents": "UNK",
"confidence": 3.81634e-05
},
{
"intents": "consume_check",
"confidence": 3.09156e-05
},
{
"intents": "currency_exchange",
"confidence": 2.11939e-05
},
{
"intents": "card_requirement",
"confidence": 1.48951e-05
},
{
"intents": "card_meterial",
"confidence": 7.9957e-06
}
]
}
3.3.4优弊端

References
1. Rasa官方文档
https://rasa.com/docs/rasa/2.x/components
2. diet介绍
https://www.yiyibooks.cn/nlp/diet/index.html
3. spaCy官方文档
https://spacy.io/api/architectures#parser
4. Greedy transition-based parsing
https://explosion.ai/blog/parsing-english-in-python
5. spaCy v2.0定名实体鉴别解析
https://www.bilibili.com/video/av16282127
6.NLU自界说组件
https://puluwen.github.io/2018/12/rasa-nlu/

