失败案例分析:ft-full-v1 在 ood_dev 上
由 scripts/analyze_failures.py 根据 eval/results/ft-full-v1/ood_dev.predictions.jsonl 生成。只做计数与罗列。
- 样本数:63
- 三标签全对:34(54.0%)
- 至少错一个标签或格式不合规:29(46.0%)
- 格式不合规:0
- 摘要 ROUGE-L 平均:0.369
- 三标签全对但摘要 ROUGE-L < 0.5:20
- 摘要是原文连续片段的条数:0
错了哪些字段
| 出错字段组合 |
条数 |
占全部样本 |
| 类别 |
11 |
17.5% |
| 类别+情感+紧急度 |
9 |
14.3% |
| 紧急度 |
5 |
7.9% |
| 类别+紧急度 |
3 |
4.8% |
| 情感+紧急度 |
1 |
1.6% |
类别:标注 → 预测
| 标注 |
预测 |
条数 |
| 性能体验 |
功能故障 |
4 |
| 界面交互 |
功能建议 |
4 |
| 界面交互 |
功能故障 |
2 |
| 支付订单 |
功能故障 |
2 |
| 表扬认可 |
界面交互 |
2 |
| 功能故障 |
功能建议 |
1 |
| 功能建议 |
账号登录 |
1 |
| 账号登录 |
界面交互 |
1 |
| 账号登录 |
功能故障 |
1 |
| 账号登录 |
其他 |
1 |
| 支付订单 |
其他 |
1 |
| 表扬认可 |
功能故障 |
1 |
| 表扬认可 |
广告骚扰 |
1 |
| 其他 |
功能故障 |
1 |
情感:标注 → 预测
| 标注 |
预测 |
条数 |
| 正面 |
负面 |
4 |
| 负面 |
中性 |
3 |
| 中性 |
负面 |
3 |
紧急度:标注 → 预测
| 标注 |
预测 |
条数 |
| 低 |
中 |
7 |
| 高 |
中 |
5 |
| 中 |
低 |
3 |
| 中 |
高 |
2 |
| 低 |
高 |
1 |
标签出错的样本
| 原文 |
出错字段 |
标注(类别/情感/紧急度) |
预测(类别/情感/紧急度) |
标注摘要 |
预测摘要 |
| 搜索框输入关键词点确定没有任何结果,明明有这个商品 |
类别、情感、紧急度 |
功能故障/负面/中 |
功能建议/中性/低 |
搜索无结果 |
希望支持导出关键词 |
| 地图定位飘到隔壁市去了,导航完全不能用 |
紧急度 |
功能故障/负面/高 |
功能故障/负面/中 |
定位偏移无法导航 |
地图导航时闪退 |
| 打团的时候帧数直接掉到个位数,没法玩 |
类别、紧急度 |
性能体验/负面/高 |
功能故障/负面/中 |
团战时严重掉帧 |
打单时闪退 |
| 开个机它就自启动,占着后台不放,手机越用越慢 |
类别 |
性能体验/负面/中 |
功能故障/负面/中 |
后台自启占用资源 |
启动时闪退 |
| 页面切换有明显的延迟,动画一顿一顿的 |
类别、紧急度 |
性能体验/负面/中 |
功能故障/负面/高 |
页面切换卡顿 |
页面切换失败 |
| 上传一个几兆的文件要十分钟 |
类别 |
性能体验/负面/中 |
功能故障/负面/中 |
文件上传速度慢 |
上传文件加载慢 |
| 为啥不能改昵称啊,一年只能改一次也太少了吧,希望放开限制 |
紧急度 |
功能建议/负面/低 |
功能建议/负面/中 |
希望放宽改昵称次数 |
希望增加只听 |
| 能否支持指纹解锁,每次输密码有点麻烦 |
类别、情感、紧急度 |
功能建议/中性/低 |
账号登录/负面/中 |
希望支持指纹解锁 |
无法增加指纹导出密码 |
| 首页全是各种卡片和浮窗,我只想看我关注的内容 |
类别 |
界面交互/负面/中 |
功能建议/负面/中 |
首页内容杂乱 |
希望支持看功能 |
| 每次返回都回到列表最顶上,又得重新往下翻 |
类别 |
界面交互/负面/中 |
功能建议/负面/中 |
返回后列表位置丢失 |
希望恢复列表顶上限 |
| 图标换得太丑了,还我原来的图标 |
类别 |
界面交互/负面/低 |
功能建议/负面/低 |
新图标不好看 |
希望恢复图标 |
| 弹出的提示一闪而过,根本来不及看写了什么 |
类别 |
界面交互/负面/中 |
功能故障/负面/中 |
提示信息消失过快 |
弹窗广告频繁 |
| 夜间模式下有的页面还是雪白一片,晃得睁不开眼 |
类别 |
界面交互/负面/中 |
功能故障/负面/中 |
夜间模式适配不全 |
深色模式下文字看不清 |
| 筛选条件选完没有确认按钮,不知道生效了没有 |
类别、情感、紧急度 |
界面交互/负面/中 |
功能建议/中性/低 |
筛选缺少确认反馈 |
希望筛选条件选 |
| 莫名其妙被永久封号,申诉了三次都是机器人回复 |
紧急度 |
账号登录/负面/高 |
账号登录/负面/中 |
账号被封禁申诉无果 |
账号被封禁 |
| 怎么解绑微信啊,找遍了设置都没有 |
类别、情感、紧急度 |
账号登录/中性/低 |
界面交互/负面/中 |
咨询如何解绑微信 |
通知过多 |
| 孩子用我身份证实名的,现在想换成他自己的,改不了 |
情感、紧急度 |
账号登录/负面/中 |
账号登录/中性/低 |
无法修改实名信息 |
咨询如何换算名 |
| 登录的时候滑块验证怎么滑都不对,滑了二十多次 |
类别、紧急度 |
账号登录/负面/高 |
功能故障/负面/中 |
滑块验证无法通过 |
无法登录 |
| 你好,企业账号和个人账号有什么区别 |
类别 |
账号登录/中性/低 |
其他/中性/低 |
咨询账号类型区别 |
用户发布的引流信息 |
| 我根本没开过会员,今天发现每个月都在扣我25块,扣了半年 |
类别 |
支付订单/负面/高 |
功能故障/负面/高 |
未开通会员被持续扣费 |
用户发布的引流信息 |
| 首月1元,第二个月直接扣了30,页面上那行小字谁看得见 |
类别 |
支付订单/负面/高 |
功能故障/负面/高 |
自动续费被扣款 |
首月界面发烫 |
| 买错了规格,想改一下订单,在哪里操作呀 |
类别 |
支付订单/中性/低 |
其他/中性/低 |
咨询如何修改订单 |
咨询使用方法 |
| 广告的关闭按钮是假的,点了直接开始下载 |
紧急度 |
广告骚扰/负面/高 |
广告骚扰/负面/中 |
广告误触后自动下载 |
广告诱导误触跳转 |
| 每次退出都弹确定要离开吗然后塞一个广告 |
紧急度 |
广告骚扰/负面/中 |
广告骚扰/负面/高 |
退出时弹广告 |
退出弹操作繁琐 |
| 用了五年了,从学生用到上班,一直没换过 |
类别、情感、紧急度 |
表扬认可/正面/低 |
功能故障/负面/高 |
认可长期使用体验 |
学生用上口无法上口 |
| 没有开屏广告这一点就值得五星 |
类别、情感、紧急度 |
表扬认可/正面/低 |
广告骚扰/负面/中 |
认可无开屏广告 |
开屏广告过多 |
| 老师讲得清楚,回放也方便,孩子成绩提高了不少 |
类别、情感、紧急度 |
表扬认可/正面/低 |
界面交互/负面/中 |
认可课程质量 |
喜欢堙 |
| 比同类软件便宜一半,功能一点不少 |
类别、情感、紧急度 |
表扬认可/正面/低 |
界面交互/负面/中 |
认可性价比高 |
整体体验 |
| 看了评论才下载的,还没用,先观望 |
类别、情感、紧急度 |
其他/中性/低 |
功能故障/负面/中 |
尚未使用暂无评价 |
评论时下载 |
标签全对但摘要偏离的样本(ROUGE-L < 0.5)
| 原文 |
标注摘要 |
预测摘要 |
ROUGE-L |
| 闹钟设的七点,结果八点才响,迟到了 |
闹钟延迟响铃 |
消息通知收不到 |
0.00 |
| 不予置评 |
反馈内容不明确 |
咨询使用方法 |
0.00 |
| 祝大家新年快乐 |
与产品无关的闲聊 |
咨询使用时手机发烫 |
0.00 |
| 蓝牙耳机连着的时候通话对方听不到我说话 |
蓝牙通话对方听不到 |
蓝耳机播放没有功能故障 |
0.10 |
| 帮朋友下的,我自己不用 |
无明确反馈内容 |
与产品无关的闲聊 |
0.13 |
| 点了一次支付,银行卡被划走两笔,各298 |
重复扣费 |
银行卡被扣款 |
0.20 |
| 同样的商品,我的账号比我老公的贵20块,杀熟是吧 |
不同账号价格不一致 |
我的账号被盗 |
0.27 |
| 每次启动都要先更新资源,一等就是五分钟 |
启动加载时间长 |
启动速度慢 |
0.33 |
| 付完钱显示支付成功,订单列表里却找不到这笔订单 |
付款后订单未生成 |
付款后支付后显示异常 |
0.33 |
| 半夜两点给我推送你关注的主播开播了,有病吧 |
深夜推送打扰 |
推送通知过多 |
0.33 |
| 广告声音巨大,戴着耳机吓一跳,还不能静音 |
广告音量过大 |
广告内容低俗 |
0.33 |
| 同步速度很快,手机上写的电脑上马上就有 |
认可同步速度 |
认可运行流畅 |
0.33 |
| 歌单推荐越来越懂我了 |
认可推荐精准 |
认可歌单功能 |
0.33 |
| 打开就是15秒广告,跳过按钮要等5秒才出现,还特别小 |
开屏广告过长难跳过 |
广告诱导误触跳转 |
0.35 |
| 刷个朋友圈都要卡半天,滑一下停三秒 |
刷动态时卡顿 |
喜欢卡顿 |
0.40 |
| 软件很棒!如果能出Apple Watch版就更好了,支持一下 |
希望支持Apple Watch |
希望增加Appapp情感:负面 |
0.40 |
| 字幕可以调大小和颜色就好了 |
希望字幕样式可调 |
希望增加字体 |
0.43 |
| 推荐的全是我搜过一次的东西的广告,感觉被监视了 |
广告过度追踪 |
推荐的广告过多 |
0.46 |
| 拍完照片点保存,图直接没了,白拍了半天 |
拍照保存后图片丢失 |
拍好友片数据丢失 |
0.47 |
| 定时提醒根本不响,害我错过了吃药时间 |
定时提醒不响 |
定时提醒关闭成电话骚扰 |
0.47 |
本页由 eval/analysis/ft-full-v1.ood_dev.md 生成。