ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

幽梦影数据集解析:chinese-poetry 中张潮清言文集的 JSON 数据格式与加载实践

幽梦影数据集解析:chinese-poetry 中张潮清言文集的 JSON 数据格式与加载实践 数据集【免费下载链接】chinese-poetryThe most comprehensive database of Chinese poetry 最全中华古诗词数据库, 唐宋两朝近一万四千古诗人, 接近5.5万首唐诗加26万宋诗. 两宋时期1564位词人21050首词。项目地址https://gitcode.com/gh_mirrors/ch/chinese-poetry点击查看免费下载本文以 chinese-poetry 仓库中 幽梦影/README.md 及其数据文件 幽梦影/youmengying.json 为主体系统讲解清代张潮《幽梦影》一书的 JSON 数据组织方式、字段语义与完整加载路径。通过仓库内的数据加载器loader/data_loader.py与数据校验脚本test_poetry.py读者可以掌握这套「正文 评注」两层结构的清言类文本如何在仓库中被定义、读取与复用并可直接运用于自己的诗词类应用开发。数据集概况清代张潮的清言文集幽梦影是清代文学家张潮字山来号心斋所著的一部随笔体格言集以格言、警句与生活美学感悟为主全书采用「正文 时人评注」的独特体例正文之后往往附有曹秋岳、张竹坡、江含徵、黄九烟等同时代文人圈子的批注形成一种对话式的阅读体验。在 chinese-poetry 仓库中该数据集由以下两部分组成幽梦影/README.md数据集说明文档交代作者、内容与数据格式幽梦影/youmengying.json实际数据文件共收录 219 条条目。依据 幽梦影/README.md 的说明本数据集提供简体中文内容首版数据由社区贡献者snowtraces提供。该数据集同时被仓库根目录 README.md 的「数据集」章节收录与唐诗宋诗、全宋词、论语、诗经等并列属于仓库覆盖的古典文集之一。数据格式content 与 comment 两层结构幽梦影/README.md 中给出了明确的数据格式定义整个文件是一个 JSON 数组每个元素是一个对象包含content正文与comment评注数组两个字段。README 中的示意如下[ { content: 读经宜冬其神专也读史宜夏其时久也读诸子宜秋其致别也读诸集宜春其机物也。, comment: [ 曹秋岳曰可想见其南面百城时。, 庞笔奴曰读《幽梦影》则春、夏、秋、冬无时不宜。 ] } ]对 幽梦影/youmengying.json 的实际内容进行全量统计可以得到如下结构事实维度实际情况总条目数219 条字段集合仅content与comment两个键含评注条目209 条约 95.4%无评注条目10 条各字段语义如下content字符串张潮原文正文。部分条目正文中保留有括号内注文如“无善无恶是圣人(如帝力何有于我……之类)”这是原书自注直接保留在字符串中comment字符串数组时人评注的集合。每条评注以评者姓名开头格式为“评者名曰评语”例如“张竹坡曰……”同一正文可附带 0 到多条评注。真实数据示例节选自 幽梦影/youmengying.json 第 4 条{ content: 天下有一人知己可以不恨。不独人也物亦有之。如菊以渊明为知己梅以和靖为知己竹以子猷为知己……一与之订千秋不移。若松之于秦始鹤之于卫懿正所谓不可与作缘者也。, comment: [ 查二瞻曰此非松、鹤有求于秦始、卫懿不幸为其所近欲避之而不能耳。, 殷日戒曰二君究非知松、鹤者然亦无损其为松、鹤。, 周星远曰鹤于卫懿犹当感恩。至吕政五大夫之爵直是唐突十八公耳。, 王名友曰松遇封鹤乘轩还是知己。世间尚有剧松煮鹤者此又秦、卫之罪人也。, 张竹坡曰人中无知己而下求于物是物幸而人不幸矣。物不遇知己而滥用于人是人快而物不快矣。可见知己之难知其难方能知其乐。 ] }从数据结构上看这种「一正文对多评注」的模型与仓库中其他诗集类数据集如paragraphs数组式诗行不同幽梦影的content是整段连续文本评注则独立成数组非常适合直接渲染为“原文 批注”的阅读界面。在数据集注册表中定位幽梦影仓库通过 loader/datas.json 维护所有数据集的注册信息幽梦影在其中登记如下youmengying: { name: 幽梦影-张潮文集, id: 6, path: 幽梦影/youmengying.json, tag: content }该配置字段的含义字段值说明name幽梦影-张潮文集数据集显示名id6数据集在注册表中的数字标识可用于按 id 反查数据集path幽梦影/youmengying.json数据文件相对仓库根目录的路径单文件类型tagcontent从每条记录中提取正文所用的字段名注意此处tag取值为content这正是幽梦影数据集区别于多数诗集的标志大部分数据集如全唐诗、宋词的tag是paragraphs按诗行数组切分正文而幽梦影直接以content字段作为提取目标反映其“格言段落”而非“诗句行”的文本性质。通过 PlainDataLoader 加载幽梦影正文仓库提供了统一的数据加载器 loader/data_loader.py其中PlainDataLoader类负责按注册表配置读取任意数据集。其核心读取逻辑body_extractor会先判断目标路径是单个 JSON 文件还是目录若是单文件os.path.isfile成立直接json.load后逐条累加poem[tag]若是目录则遍历子文件并按excludes列表跳过 README、error 等非数据文件。由于datas.json中youmengying的path指向单个文件、tag为content因此加载时会走到单文件分支将 219 条记录的content字符串依次拼入返回列表。最小可用调用示例from loader.data_loader import PlainDataLoader loader PlainDataLoader() # 默认读取 ./loader/datas.json bodies loader.body_extractor(youmengying) # 按注册名提取正文 print(len(bodies)) # 219 print(bodies[0]) # 读经宜冬其神专也读史宜夏其时久也……PlainDataLoader还支持按数据集 id 提取extract_with_ids([6])与多数据集合并提取extract_from_multiple([youmengying, shijing])便于把《幽梦影》与其他古典文集拼接成统一语料。若需要连带评注一起使用则直接解析 幽梦影/youmengying.json 原始数组遍历comment字段即可。数据校验test_poetry.py 与幽梦影目录仓库根目录的 test_poetry.py 提供了针对各中文目录的 JSON 合法性校验。脚本中的is_book_directory通过判断目录名是否含中文字符来筛选文集目录随后为每个目录含幽梦影动态注册一个test_幽梦影测试函数递归调用check_json校验其中所有.json文件。校验逻辑为读取文件并执行json.loads解析成功输出「校验成功」解析失败则抛出断言并打印堆栈。这意味着 幽梦影/youmengying.json 只要能被标准 JSON 解析器读取即可通过该脚本的校验。将 幽梦影/youmengying.json 与本仓库其他 JSON 数据一起纳入测试保证了content/comment两层结构的数据在多次更新后仍保持合法可解析。应用场景与使用建议基于上述数据格式与加载路径可将《幽梦影》数据集直接应用于以下场景古籍阅读应用渲染「正文 评注」对照视图content作为主文comment数组按评者分组展示还原原书对话式批注体验自然语言处理语料利用PlainDataLoader的extract_from_multiple将youmengying与其他数据集如shijing、chuci合并作为清言类文本的训练或检索语料格言检索与推荐219 条短小精悍的格言段落适合构建“每日一句”类功能按id数组下标随机取条即可。使用时需注意两点前提一是数据文件采用 UTF-8 编码读取时建议显式指定encodingutf-8二是content与comment均为简体中文原始文本未做句读分段或标点标准化处理如需按句切分可在读取后进行二次加工。小结幽梦影数据集是 chinese-poetry 仓库中文言随笔类数据的典型代表以 幽梦影/README.md 定义格式规范以 幽梦影/youmengying.json 承载 219 条「正文 评注」内容并通过 loader/datas.json 的注册表配置与 loader/data_loader.py 的PlainDataLoader实现统一读取同时由 test_poetry.py 保证数据合法性。掌握这一组文件之间的关系即可在自有应用中快速集成这份清言文集数据。赞分享数据集【免费下载链接】chinese-poetryThe most comprehensive database of Chinese poetry 最全中华古诗词数据库, 唐宋两朝近一万四千古诗人, 接近5.5万首唐诗加26万宋诗. 两宋时期1564位词人21050首词。项目地址https://gitcode.com/gh_mirrors/ch/chinese-poetry点击查看免费下载相关推荐《花间集》数据集深度解析五代文人词 JSON 数据格式、文件组织与加载实践chinese-poetry 仓库《花间集》数据集深度解析五代文人词 JSON 数据格式、文件组织与加载实践chinese poetry 仓库 《花间集》是中国文学史上第一部文人词选集也数据集HyperFrames Lottie动画指南JSON动画如何安全地参与渲染HyperFrames Lottie动画指南JSON动画如何安全地参与渲染 HyperFrames 是一个写 HTML、渲染视频的开源框架它把 Lott数据集chinese-poetry 中华古诗词数据库数据集全景、JSON 数据结构与加载器源码解析chinese poetry 中华古诗词数据库数据集全景、JSON 数据结构与加载器源码解析 本文是一份面向开发者的技术指南围绕开源仓库 chinese p数据集上一篇Unbabel COMET多语言翻译质量评估框架下一篇给扫描 PDF 补上可搜索文字层OCRmyPDF 多语言 OCR 配置3 条命令快速上手创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表