数据构建报告
本文件由
python -m feedlens.data.build自动生成,数字全部来自实际运行,请勿手改。
- 随机种子:42
- 合成语法版本:
synthetic_grammar_v1
各划分规模
| 划分 | 样本数 | core 数 | 问题类型数 | 文本长度 最小/平均/最大 | 保留领域样本数 |
|---|---|---|---|---|---|
| train | 5146 | 247 | 72 | 2 / 20.2 / 48 | 0 |
| val | 969 | 69 | 69 | 4 / 20.5 / 50 | 0 |
| test | 977 | 70 | 69 | 3 / 21.6 / 49 | 100 |
| ood_dev | 63 | 63 | — | 2 / 18.5 / 30 | 0 |
| ood_test | 117 | 117 | — | 2 / 18.9 / 32 | 0 |
类别分布
| 划分 | 功能故障 | 性能体验 | 功能建议 | 界面交互 | 账号登录 | 支付订单 | 广告骚扰 | 表扬认可 | 其他 |
|---|---|---|---|---|---|---|---|---|---|
| train | 810 | 637 | 555 | 524 | 601 | 584 | 532 | 470 | 433 |
| val | 143 | 122 | 96 | 99 | 109 | 119 | 125 | 98 | 58 |
| test | 141 | 120 | 94 | 114 | 115 | 125 | 105 | 102 | 61 |
| ood_dev | 7 | 7 | 7 | 7 | 7 | 7 | 7 | 7 | 7 |
| ood_test | 13 | 13 | 13 | 13 | 13 | 13 | 13 | 13 | 13 |
情感分布
| 划分 | 正面 | 中性 | 负面 |
|---|---|---|---|
| train | 637 | 853 | 3656 |
| val | 127 | 125 | 717 |
| test | 124 | 130 | 723 |
| ood_dev | 8 | 15 | 40 |
| ood_test | 16 | 24 | 77 |
紧急度分布
| 划分 | 高 | 中 | 低 |
|---|---|---|---|
| train | 1209 | 2249 | 1688 |
| val | 227 | 458 | 284 |
| test | 240 | 445 | 292 |
| ood_dev | 13 | 25 | 25 |
| ood_test | 14 | 58 | 45 |
清洗与去重
1_imported:{"train": 6422, "test": 1120, "val": 1104, "ood_dev": 63, "ood_test": 117}3_rejected_by_validation:{}4_exact_duplicates_removed:{"test(与test重复)": 141, "val(与val重复)": 135, "train(与train重复)": 1254}5_near_duplicates_removed:{"test": 2, "train": 22}6_train_rows_removed_as_leak:0
泄漏检查
对每条评测样本,计算它与全部训练样本的字符三元组 Jaccard 相似度并取最大值。
| 划分 | 样本数 | 最大相似度均值 | P95 | 最大 | ≥0.8 的条数 | ≥0.6 的条数 |
|---|---|---|---|---|---|---|
| val | 969 | 0.186 | 0.348 | 0.567 | 0 | 0 |
| test | 977 | 0.18 | 0.333 | 0.529 | 0 | 0 |
| ood_dev | 63 | 0.04 | 0.13 | 0.154 | 0 | 0 |
| ood_test | 117 | 0.046 | 0.12 | 0.192 | 0 | 0 |
相似度最高的样本对(供人工检查):
valsim=0.567 评测:希望能加个批量修图,这么基本的功能都没有,太不方便了!!! | 训练:期待后续版本加入批量修图,这么基本的功能都没有,太不方便了??👎valsim=0.538 评测:这么基本的功能都没有,太不方便了,求开放字体自定义。 | 训练:这么基本的功能都没有,太不方便了,求加自动记账valsim=0.533 评测:这个记账软件,新版界面太难用了 | 训练:这个记账软件新版界面很漂亮!!testsim=0.529 评测:讲真,一转账就闪退,重启一下又能恢复… | 训练:一打开就闪退,重启一下又能恢复!!!😡testsim=0.5 评测:别的软件早就有了 你们动作太慢了 能不能在鸿蒙系统上也能用! | 训练:别的软件早就有了,你们动作太慢了,求适配鸿蒙系统。。。💢testsim=0.48 评测:每次都要绕一大圈,烦死了,能不能在车机上也能用。 | 训练:每次都要绕一大圈,烦死了,能不能出个倍速播放…ood_devsim=0.154 评测:关了自动续费,过两天它自己又打开了,又被扣一次 | 训练:明明关了自动续费还是被扣了…🙄ood_devsim=0.138 评测:换了新手机,登录的时候一直说设备异常,不让我进 | 训练:换了新手机之后播放的时候没有声音!!!ood_devsim=0.136 评测:买错了规格,想改一下订单,在哪里操作呀 | 训练:想取消连续包月,在哪里操作。ood_testsim=0.192 评测:红包明明显示可用,提交订单的时候就是抵扣不了 | 训练:提交订单的时候特别卡,体验很差??ood_testsim=0.182 评测:地图放大缩小的时候特别卡,经常糊成一片 | 训练:如题,粘贴图片的时候特别卡…😡ood_testsim=0.148 评测:每次打开都要重新输密码,记住密码的勾选了也没用 | 训练:每次打开都要加载很久才能用!
Token 长度检查
{"min": 68, "mean": 87.2, "max": 113, "limit": 220, "over_limit": 0}
本页由 data/reports/data_report.md 生成。