FeedLens反馈透镜

失败案例分析:ft-full-v1 在 ood_dev 上

由 scripts/analyze_failures.py 根据 eval/results/ft-full-v1/ood_dev.predictions.jsonl 生成。只做计数与罗列。

错了哪些字段

出错字段组合 条数 占全部样本
类别 11 17.5%
类别+情感+紧急度 9 14.3%
紧急度 5 7.9%
类别+紧急度 3 4.8%
情感+紧急度 1 1.6%

类别:标注 → 预测

标注 预测 条数
性能体验 功能故障 4
界面交互 功能建议 4
界面交互 功能故障 2
支付订单 功能故障 2
表扬认可 界面交互 2
功能故障 功能建议 1
功能建议 账号登录 1
账号登录 界面交互 1
账号登录 功能故障 1
账号登录 其他 1
支付订单 其他 1
表扬认可 功能故障 1
表扬认可 广告骚扰 1
其他 功能故障 1

情感:标注 → 预测

标注 预测 条数
正面 负面 4
负面 中性 3
中性 负面 3

紧急度:标注 → 预测

标注 预测 条数
低 中 7
高 中 5
中 低 3
中 高 2
低 高 1

标签出错的样本

原文 出错字段 标注(类别/情感/紧急度) 预测(类别/情感/紧急度) 标注摘要 预测摘要
搜索框输入关键词点确定没有任何结果,明明有这个商品 类别、情感、紧急度 功能故障/负面/中 功能建议/中性/低 搜索无结果 希望支持导出关键词
地图定位飘到隔壁市去了,导航完全不能用 紧急度 功能故障/负面/高 功能故障/负面/中 定位偏移无法导航 地图导航时闪退
打团的时候帧数直接掉到个位数,没法玩 类别、紧急度 性能体验/负面/高 功能故障/负面/中 团战时严重掉帧 打单时闪退
开个机它就自启动,占着后台不放,手机越用越慢 类别 性能体验/负面/中 功能故障/负面/中 后台自启占用资源 启动时闪退
页面切换有明显的延迟,动画一顿一顿的 类别、紧急度 性能体验/负面/中 功能故障/负面/高 页面切换卡顿 页面切换失败
上传一个几兆的文件要十分钟 类别 性能体验/负面/中 功能故障/负面/中 文件上传速度慢 上传文件加载慢
为啥不能改昵称啊,一年只能改一次也太少了吧,希望放开限制 紧急度 功能建议/负面/低 功能建议/负面/中 希望放宽改昵称次数 希望增加只听
能否支持指纹解锁,每次输密码有点麻烦 类别、情感、紧急度 功能建议/中性/低 账号登录/负面/中 希望支持指纹解锁 无法增加指纹导出密码
首页全是各种卡片和浮窗,我只想看我关注的内容 类别 界面交互/负面/中 功能建议/负面/中 首页内容杂乱 希望支持看功能
每次返回都回到列表最顶上,又得重新往下翻 类别 界面交互/负面/中 功能建议/负面/中 返回后列表位置丢失 希望恢复列表顶上限
图标换得太丑了,还我原来的图标 类别 界面交互/负面/低 功能建议/负面/低 新图标不好看 希望恢复图标
弹出的提示一闪而过,根本来不及看写了什么 类别 界面交互/负面/中 功能故障/负面/中 提示信息消失过快 弹窗广告频繁
夜间模式下有的页面还是雪白一片,晃得睁不开眼 类别 界面交互/负面/中 功能故障/负面/中 夜间模式适配不全 深色模式下文字看不清
筛选条件选完没有确认按钮,不知道生效了没有 类别、情感、紧急度 界面交互/负面/中 功能建议/中性/低 筛选缺少确认反馈 希望筛选条件选
莫名其妙被永久封号,申诉了三次都是机器人回复 紧急度 账号登录/负面/高 账号登录/负面/中 账号被封禁申诉无果 账号被封禁
怎么解绑微信啊,找遍了设置都没有 类别、情感、紧急度 账号登录/中性/低 界面交互/负面/中 咨询如何解绑微信 通知过多
孩子用我身份证实名的,现在想换成他自己的,改不了 情感、紧急度 账号登录/负面/中 账号登录/中性/低 无法修改实名信息 咨询如何换算名
登录的时候滑块验证怎么滑都不对,滑了二十多次 类别、紧急度 账号登录/负面/高 功能故障/负面/中 滑块验证无法通过 无法登录
你好,企业账号和个人账号有什么区别 类别 账号登录/中性/低 其他/中性/低 咨询账号类型区别 用户发布的引流信息
我根本没开过会员,今天发现每个月都在扣我25块,扣了半年 类别 支付订单/负面/高 功能故障/负面/高 未开通会员被持续扣费 用户发布的引流信息
首月1元,第二个月直接扣了30,页面上那行小字谁看得见 类别 支付订单/负面/高 功能故障/负面/高 自动续费被扣款 首月界面发烫
买错了规格,想改一下订单,在哪里操作呀 类别 支付订单/中性/低 其他/中性/低 咨询如何修改订单 咨询使用方法
广告的关闭按钮是假的,点了直接开始下载 紧急度 广告骚扰/负面/高 广告骚扰/负面/中 广告误触后自动下载 广告诱导误触跳转
每次退出都弹确定要离开吗然后塞一个广告 紧急度 广告骚扰/负面/中 广告骚扰/负面/高 退出时弹广告 退出弹操作繁琐
用了五年了,从学生用到上班,一直没换过 类别、情感、紧急度 表扬认可/正面/低 功能故障/负面/高 认可长期使用体验 学生用上口无法上口
没有开屏广告这一点就值得五星 类别、情感、紧急度 表扬认可/正面/低 广告骚扰/负面/中 认可无开屏广告 开屏广告过多
老师讲得清楚,回放也方便,孩子成绩提高了不少 类别、情感、紧急度 表扬认可/正面/低 界面交互/负面/中 认可课程质量 喜欢堙
比同类软件便宜一半,功能一点不少 类别、情感、紧急度 表扬认可/正面/低 界面交互/负面/中 认可性价比高 整体体验
看了评论才下载的,还没用,先观望 类别、情感、紧急度 其他/中性/低 功能故障/负面/中 尚未使用暂无评价 评论时下载

标签全对但摘要偏离的样本(ROUGE-L < 0.5)

原文 标注摘要 预测摘要 ROUGE-L
闹钟设的七点,结果八点才响,迟到了 闹钟延迟响铃 消息通知收不到 0.00
不予置评 反馈内容不明确 咨询使用方法 0.00
祝大家新年快乐 与产品无关的闲聊 咨询使用时手机发烫 0.00
蓝牙耳机连着的时候通话对方听不到我说话 蓝牙通话对方听不到 蓝耳机播放没有功能故障 0.10
帮朋友下的,我自己不用 无明确反馈内容 与产品无关的闲聊 0.13
点了一次支付,银行卡被划走两笔,各298 重复扣费 银行卡被扣款 0.20
同样的商品,我的账号比我老公的贵20块,杀熟是吧 不同账号价格不一致 我的账号被盗 0.27
每次启动都要先更新资源,一等就是五分钟 启动加载时间长 启动速度慢 0.33
付完钱显示支付成功,订单列表里却找不到这笔订单 付款后订单未生成 付款后支付后显示异常 0.33
半夜两点给我推送你关注的主播开播了,有病吧 深夜推送打扰 推送通知过多 0.33
广告声音巨大,戴着耳机吓一跳,还不能静音 广告音量过大 广告内容低俗 0.33
同步速度很快,手机上写的电脑上马上就有 认可同步速度 认可运行流畅 0.33
歌单推荐越来越懂我了 认可推荐精准 认可歌单功能 0.33
打开就是15秒广告,跳过按钮要等5秒才出现,还特别小 开屏广告过长难跳过 广告诱导误触跳转 0.35
刷个朋友圈都要卡半天,滑一下停三秒 刷动态时卡顿 喜欢卡顿 0.40
软件很棒!如果能出Apple Watch版就更好了,支持一下 希望支持Apple Watch 希望增加Appapp情感:负面 0.40
字幕可以调大小和颜色就好了 希望字幕样式可调 希望增加字体 0.43
推荐的全是我搜过一次的东西的广告,感觉被监视了 广告过度追踪 推荐的广告过多 0.46
拍完照片点保存,图直接没了,白拍了半天 拍照保存后图片丢失 拍好友片数据丢失 0.47
定时提醒根本不响,害我错过了吃药时间 定时提醒不响 定时提醒关闭成电话骚扰 0.47

本页由 eval/analysis/ft-full-v1.ood_dev.md 生成。