科研项目
规模最大的中文医疗问答数据集
项目概要
- 发布规模最大的中文医疗问答数据集,该数据集由2650万个问答对组成,将现有的医疗问答数据集规模扩大了2个数量级;
- 对中国生物医学问答数据集的许多现有工作进行了基准测试,并为性能最佳的模型提供开放API;
- 建立在线排行榜来更好地比较现有工作。
项目挑战
- 海量数据的收集和清理需要大量时间和繁琐工作;
- 现存工作大多数针对英文,进行基准测试需要重新复现、训练、评估;
- 在该数据集上预训练大模型,并和通用模型进行对比需要大量算力和时间。
项目意义
- 医疗问答对作为一种富含医疗知识的数据形式,规模不断扩大的同时,缺少针对性的知识挖掘工作。本项目在构建数据集之后进行基准测试,并开源在数据集上预训练的语言模型,一方面可以为中文医疗下游任务提供强大的基线,另一方面也可以促进更多的工作聚焦医疗问答对上的数据挖掘
- 查询搜索引擎或在线问诊是现在大多数人就医前的选择。对于一般症状,因其有很大的相似性经常导致重复回答;而对于有潜在风险的症状,存在有错诊漏诊的可能。构建大型中文医疗问答数据集,可以促进实现自动医疗问答平台的构建,提高效率和准确程度。
- 本项目虽然为特定领域的问答对数据集,但是其千万级别的规模甚至超过了所有通用领域数据集的规模。所以该数据集也可作为检索领域的评估数据集,对评估相关工作提供参考。
数据集构建
数据爬取
- 千问健康:
文章类数据: 299943篇专家文章;
问答类数据:32708349条问题权威问答,32708342条医生回答;
- 中文维基:
疾病:17323条;
药物:3996条;
- 知识图谱:
CPubMed-KG:534842种疾病、184253类药物、142415种症状以及各类诊疗技术在内总计约172万个实体;
涵盖药物治疗、实验室检查等 40余种关系,结构化知识三元 组总量达到438万;
39健康网:包括15项信息,其中3.7万实体,21万实体关系; 寻医问药网:8类实体,11类实体关系,8个属性类型
数据处理和构建
千问数据:千问问答、千问文章分别进行数据清洗,数据去重;
中文维基:
- 在维基页面中,挑选出医疗相关数据;
- 对数据进行结构化解析,获得标题以及对应的内容;
- 对标题进行统计分析,筛选出频率超过5的标题,并且人工进行筛选;
- 通过模板和子标题构建问题,标题对应的内容为答案;
知识图谱:
- 对3个来源的知识图谱数据进行清洗、合并图谱实体关系,并去重;
- 根据实体、关系名称和模板构建问题和答案。
数据集概览
数据集组成
数据来源 |
编号 |
ID范围 |
千问问答 |
00 |
0000000000—0025341578 |
千问篇章 |
01 |
0100000000—0000223638 |
知识图谱 |
02 |
0200000000—0200798444 |
wiki |
03 |
0300000000—0300021319 |
A-hospital |
04 |
0400000000—0400119109 |
数据集文本格式
0000030024 舌中分化鳞癌是什么病 你好!不知道是不是最终手术病理切片出来的结果!一种癌症癌症的分期,分化程度越高,其恶性程度越低,癌症的分期是看肿瘤本身大小和转移的情况来分的。建议你到口腔医院去看,可以先放疗,待瘤体缩小、稍硬化一点,再做手术,效果会好些。,一般再医学上规定,存活5年以上就是痊愈!
0000030025 输卵管通水后40天没有来月经正常吗月经推迟40天 输卵管通水是可以在月经干净后3天,去医院的妇产科做的检查的,是可以判断和治疗输卵管通畅性的情况的。
0000030026 最近经常排尿时尿道有烧痛感、尿频尿急,有时还尿失禁,全身疲乏,去医院检查是膀胱炎。请问膀胱炎能治好吗? 膀胱炎是可以治愈的。针对膀胱炎的治疗,在临床上,多选用抗生素类药物进行治疗,抗生素类药物虽然起效迅速,但对人体的毒副作用较大,且容易产生耐药性。针对这种情况,患者可以采用保守的中药治疗。
基准测试
- 预训练语言模型
MODEL |
BLEU |
GLEU |
ROUGE |
DISTINCT1 |
DISTINCT2 |
T5 |
23.78 |
8.03 |
24.39 |
0.60 |
0.76 |
GPT2 |
16.89 |
6.54 |
21.66 |
0.50 |
0.67 |
- 检索增强
DATASET |
BLEU |
ROUGE |
DISTINCT1 |
DISTINCT2 |
cMedQA2 |
26.74 |
21.47 |
0.54 |
0.73 |
cMedQA2(RAG) |
31.85 |
28.72 |
0.57 |
0.76 |
WebQA |
23.20 |
22.26 |
0.46 |
0.63 |
WebQA(RAG) |
31.47 |
26.72 |
0.65 |
0.83 |
合作伙伴
鼎富智能科技有限公司
研究成员与团队
PI:王本友教授、万翔教授
工程师:李健铨、刘小康、相博、张志一
博士生:王熙栋