CHI 2007 · Deep Reading

earPod

用圆形触摸盘把串行语音菜单变成可探索、可中断、可直接访问的空间界面。论文的关键贡献来自交互时序与学习路径设计,并通过 12 人、11,520 次选择的受控实验检验。

Shengdong Zhao 等CHI 2007 · pp. 1395–1404DOI 10.1145/1240624.124083610 页 · 无独立附录

核心转变

传统 IVR 先播放选项、再等待按键,用户受系统节奏支配。earPod 把语音片段绑定到手指所在扇区:触碰即播报,越界立即截断并切换,抬手确认,中心区域取消。用户可以按自己的速度浏览,也可以在记住位置后直接点击。

2.1 s最后五个 block 中 earPod 的平均选择时间;视觉条件为 2.5 s。该结果限于固定菜单与反复出现的目标。
01 · Research gap

把听觉菜单的时间轴交还给用户

Paper Verified

视觉注意力有成本

行走、跑步或驾驶会与屏幕争夺视觉注意力;无屏设备、视觉障碍、从口袋取出设备的不便和屏幕耗电也会限制视觉菜单。

Paper Verified

语音具有串行性

音频无法像视觉列表那样持续并行呈现。传统 IVR 设定固定播放顺序与速度,用户需要等待并依赖短期记忆,错误恢复成本也较高。

Author Claim

研究假设

静态且规模适中的菜单如果改用反应式触摸、可中断语音和空间映射,纯听觉反馈也可能获得可接受的新手表现,并支持从探索到直接点击的学习过程。

研究问题:在相同圆形触摸输入上,earPod 的准确率、选择时间和学习曲线能否接近模拟 iPod 的视觉线性菜单?参与者能否自行从滑动探索过渡到直接点击?
论文 Figure 1,earPod 的触摸探索、抬手选择和快速滑动过程
Figure 1. 原论文的操作概览。a、b 展示滑动发现菜单项;c 展示抬手选择;d 展示快速运动只播放音频开头。图中触摸盘尺寸经过夸张。

相对于相关工作的实际位置

系统类别已有能力论文指出的缺口earPod 的处理
传统 IVR语音提示与数字键快捷访问播放与输入构成顺序对话;中间熟练度用户仍会等待完整列表手指动作主动驱动播放,越界立即切换
Auditory icons / earcons非语音提示可辅助导航没有给出完整层级菜单的触摸交互模型语音命名负责语义,click 与 shutter 负责边界和确认
移动音频手势控制音乐等少量命令命令规模很小评估一层 8 项与两层 8×8 层级
Liao 等的纸笔菜单圆形布局与可中断语音同时依赖视觉、LED 和触觉,且笔输入难以代表移动免视线场景普通触摸盘与立体声耳机,正式实验聚焦纯音频反馈
02 · Interaction model

触摸位置控制声音,抬手提交意图

1 · 接触手指进入外圈 dial,系统定位当前扇区。
2 · 播报立即播放该扇区菜单项的人声。
3 · 探索滑动进入相邻扇区,旧语音被截断。
4 · 边界提示每次越界播放短促 click,快速滑动仍可感知经过数量。
5 · 抬手选择在外圈抬手提交当前项,并播放 camera-shutter。
6 · 层级递归若选中子菜单,重复一次接触—探索—抬手;移到中心再抬手可取消。
论文 Figure 3,触摸盘的外圈扇区与中心取消区
Figure 3. 外圈最多映射 12 个菜单项,内圆用于取消。正式实验每层使用 8 个扇区。
论文 Figure 4,传统 IVR 与 earPod 的交互时序对比
Figure 4. 左侧是 IVR 的异步轮流对话,右侧是 earPod 的同步反应式模型:系统等待动作并即时响应。

从几何输入到交互状态

Our Interpretation 论文没有给出数学模型。下列形式化用于明确实现关系。设触摸盘中心为 \(c=(c_x,c_y)\),触点为 \(p_t=(x_t,y_t)\),则半径与极角可写为:

\[ r_t=\sqrt{(x_t-c_x)^2+(y_t-c_y)^2},\qquad \theta_t=\operatorname{atan2}(y_t-c_y,x_t-c_x) \]

对于 \(N\) 个等宽扇区和方向偏移 \(\theta_0\),扇区索引可实现为:

\[ k_t=\left\lfloor\frac{N}{2\pi}\bigl((\theta_t-\theta_0)\bmod 2\pi\bigr)\right\rfloor \]

当 \(r_t\) 位于外圈且 \(k_t\ne k_{t-1}\) 时,系统终止旧音频、播放 click,再开始新语音。抬手事件在外圈触发选择,在中心触发取消。空间迟滞会把刚越过的边界向反方向移动,使返回原扇区需要更大的位移,从而抑制边界附近抖动。论文未公开迟滞距离、压力阈值和具体回退手势。

Novice

沿外圈长距离滑动,听取多个完整或部分菜单名。

Intermediate

记住近似位置,先落在附近,再做短距离修正。

Expert

记住绝对位置后直接点击;两层菜单以两次点击完成。

03 · Implementation

原型的每一个工程细节都服务于低延迟反馈

论文 Figure 2,耳机和经过覆盖层改造的 Cirque 触摸盘
Figure 2. 原型由立体声耳机和改造后的 Cirque EasyCat USB 触摸盘组成。
Paper Verified

硬件尺寸

塑料覆盖层开出半径 19 mm 的圆孔,覆盖层厚 2 mm;顶部 3 mm 缺口提供触觉方向。Java 1.5 程序通过 JNI 和 Cirque 专用驱动读取绝对 \(x,y\) 与 pressure。

抬手瞬间的非自主移动会被过滤;扇区边界使用空间迟滞。音频与视觉实验条件使用相同过滤。

语音处理

真人语音以 16 bit、44 kHz 录制。加载后移除 leading silence,并归一化音量。由于 Java 原生音频库存在可感知延迟,作者扩展了实时声音物理模拟库以降低播放延迟。

空间化范围

单声道人声通过 interaural time difference(ITD)与 interaural intensity difference(IID)编码左右轴。系统没有实现完整三维 HRTF,也没有进行个体校准。作者观察到“声音围绕头部成圆”的主观错觉,并明确将跨模态整合解释留作后续验证。

无机器学习流程:该系统没有 backbone、训练数据、optimizer、loss、权重更新、decoding 或模型推理。核心程序由触摸状态机、音频播放控制、空间化和过滤规则组成。
04 · Experiment

12 名参与者,固定菜单上的 11,520 次选择

12右手参与者,3 名女性
17–30年龄范围,平均 24 岁
20每种技术、每名参与者的 block 数
90 min单次完整实验约用时

比较对象与公平性

基线是研究者在 Dell Inspiron 8000、Windows XP 和 19 英寸 LCD 上实现的 iPod-like 视觉菜单。两种条件都使用同一圆形触摸盘;视觉条件沿圆周滑动使屏幕菜单项高亮,抬手完成选择。真实 iPod Nano 使用中心按钮确认,因此这个基线属于模拟接口。实验目标始终以视觉文字显示在屏幕中央,audio 条件只是在菜单反馈阶段免看菜单。

论文 Figure 5,iPod 视觉菜单和交互方式
Figure 5. 被模拟的 iPod 视觉线性菜单及其 ClickWheel 操作。实验实现把确认动作统一成抬手。

刺激与层级

菜单含 8 个上层类别,每类 8 个词,共 64 个叶子。每个词 1–3 个音节,录音约 1 秒。正式实验的两层条件只抽取每类 2 个目标,共 16 个反复练习的叶子;参与者仍需在完整 8×8 结构中查找。论文因而验证了对 16 个固定目标的位置学习,没有验证所有 64 个叶子的熟练掌握。

类别完整八项
ClothingApron, Brief, Cloak, Coat, Dress, Hat, Jacket(正文只列出 7 项)
FishCarp, Cod, Eel, Haddock, Pollock, Redfish, Salmon, Sardine
InstrumentBassoon, Cello, Clarinet, Drums, Flute, Guitar, Organ, Piano
JobActor, Cook, Doctor, Driver, Farmer, Hunter, Lawyer, Soldier
AnimalAnts, Apes, Bats, Bears, Eagles, Zebras, Elephants, Horses
ColorBlack, Blue, Grey, Green, Lime, Navy, Olive, Purple
CountryBrazil, China, Denmark, Egypt, England, Finland, France, Greece
FruitApple, Banana, Cherry, Grape, Guava, Kiwi, Lemon, Mango

原 PDF 的 Clothing 行只列出 7 个词,而方法部分声明每类有 8 项、合计 64 项。正文实际枚举共 63 个词,缺少的 Clothing 刺激没有披露。本页保留这项来源内部不一致,复现时需要向作者索取原始实验材料。

论文 Figure 6,实验屏幕中的目标文字与视觉菜单
Figure 6. 屏幕中央显示待选目标;底部菜单只在视觉条件出现。参与者右手操作触摸盘、左手按空格开始下一次 trial。

实验设计与计数

因素设置控制与限制
Techniqueaudio earPod / visual iPod-likewithin-participant;两组六人,技术顺序 6/6 counterbalance
Depth8 项一层 / 8×8 两层固定先易后难,没有 counterbalance
Practice每个接口 5 分钟使用正式实验以外的刺激
Trials\(12\times2\times(8+16)\times20=11{,}520\)目标呈现随机;菜单内容与顺序预先固定且所有人相同
Error任意层选中项与 stimulus 不匹配显示视觉 “mismatch”;成功 trial 无额外反馈
Time目标出现到最终抬手先求每名参与者、每个 cell 的 median,再对参与者取 mean

Our Interpretation 若 \(C_i\) 表示第 \(i\) 次选择正确与否,准确率可写为 \(A=\frac{1}{n}\sum_{i=1}^{n}C_i\)。对正偏的时间数据,论文先在参与者与设计 cell 内取中位数,再跨参与者求均值;这能降低极端慢 trial 对汇总结果的影响。

开始 trial左手按空格,屏幕中央出现视觉目标。
完成一层或两层选择右手拇指执行 touch-down、drag、thumb-up;两层任务重复两次。
记录结果保存准确率、选择时间与完整运动日志;技术和菜单布局之间强制休息。
分析学习20 个 block 分为四个连续 time period,每段 5 个 block;同时分析全部四段和最后一段。
05 · Results

总体相近,练习后的交叉曲线最有信息量

指标earPod / audiovisual统计证据与解释
总体准确率92.1%93.9%\(p\gt .05\),差异未达显著;该结果无法证明两者等效
菜单层级准确率一层 94.2%;两层 91.8%\(F_{1,11}=21.16,\ p\lt .001\)
总体选择时间技术主效应 \(F\lt1,\ p\gt .05\)全部练习阶段合并后没有显著总体差异
菜单层级时间一层 1.9 s;两层 3.4 s\(F_{1,10}=82.84,\ p\lt .001\)
三因素交互time period × technique × depth\(F_{3,30}=7.75,\ p\lt .01\),两种深度都出现曲线交叉
最后五个 block2.1 s2.5 s\(F_{1,10}=6.03,\ p\lt .05\),earPod 快约 16%
达到专家点击一层 9/12;两层 8/12只教授滑动,直接点击由参与者自行发现;其余参与者也在部分 trial 使用点击
主观偏好audio 4;visual 4;无偏好 411/12 同意或强烈同意组合两种模式
论文 Figure 7,两个菜单深度下 audio 与 visual 的选择时间学习曲线
Figure 7. 每个 time period 含连续 5 个 block。图展示 audio 与 visual 在一层和两层菜单中的选择时间曲线及交叉趋势。论文没有提供每个曲线点的精确表格,本页不从图像估算数字。
Paper Verified

日志揭示学习机制

新手会落在错误扇区后沿外圈逐项滑动。熟练后路径缩短,并逐渐变成一次点击;两层任务的专家行为是两次点击。性能变化与直接访问的采用同时发生。

Evidence Boundary

统计自由度未解释

参与者共有 12 人,但若干时间检验报告 \(df=10\)。正文没有说明排除、缺失数据或自由度处理,因此应保留原报告,不能推断有人退出。

哪些结论获得支持

结论证据状态理由
固定、规模适中的菜单可用 earPod 准确选择Paper Verified受控实验准确率 92.1%,与视觉条件差异未显著
约 30 分钟练习后 earPod 更快Paper Verified最后五个 block 为 2.1 s 对 2.5 s;限制在反复出现的 16 个目标与固定映射
空间化音频直接造成学习提升Author Claim实验没有单独移除空间化,也没有 factorial ablation
earPod 适合跑步、驾驶与盲人用户Unverified Extension正式实验是坐姿桌面环境;移动状态只有未量化的 informal 尝试,驾驶比较当时仍在进行
audio 本身优于 visualConfoundedaudio 同时使用直接空间访问,visual 使用线性访问;作者也承认视觉若支持直接访问,专家表现可能接近
06 · Beyond the lab

移动使用仍属于有限观察与设计推演

作者让“若干人”在站立、行走和慢跑时做少量选择。站立与行走中的滑动和点击没有明显问题;慢跑时触摸盘晃动使点击困难。把触摸盘用 Velcro 固定到 hand wrap 后,参与者感觉点击更容易。论文没有报告人数、trial 数、准确率、速度或统计检验。

论文 Figure 8,使用腕带和魔术贴固定触摸盘
Figure 8. 腕带与 Velcro 固定方案,用于减轻运动中的触摸盘晃动。该观察来自 informal testing。

动态长列表会破坏“一项对应一个空间位置”的前提,歌曲列表等内容无法自然获得稳定映射。作者提出 audio 与 visual 并存,让用户按情境选择通道;两种视觉草案分别保留线性标签布局,或直接把视觉菜单排成圆形以强化相同空间模型。

论文 Figure 9,与 earPod 输入模型一致的两种视觉菜单设计
Figure 9. 两种 dual-channel 视觉菜单草案:线性标签加位置 shortcut,或与圆形输入一致的径向布局。
07 · Reviewer commentary

贡献清晰,因果归属与生态有效性仍有限

Strengths

交互模型把音频串行性的弱点转化为用户可控制的扫描过程;click、shutter、可中断语音、取消区与迟滞共同形成完整系统。实验保留了长期练习曲线与运动日志,能解释性能变化来自何种操作策略。

Weaknesses

audio/visual 与 direct/linear 两个因素被绑定,无法辨认反馈模态与访问结构的独立贡献。depth 固定先一层后两层,可能混入练习或疲劳。样本小,参与者均未用过 iPod,且正式任务没有移动或并行视觉任务。

Reproducibility

硬件、软件版本、音频格式、菜单材料、trial 计数和聚合方式披露较充分。缺少迟滞距离、压力阈值、音频空间化参数、完整 raw logs、菜单缺失刺激项及代码,精确复现仍需补足。

更有判别力的后续实验

Research Extension

2×2 因子设计

交叉 audio / visual feedback 与 direct / linear access,统一确认动作与训练量。这样可以估计反馈模态、访问结构及两者交互,减少当前核心混淆。

Research Extension

生态任务

在行走、跑步、驾驶模拟、视觉双任务和设备入袋条件下测量选择时间、错误、主任务干扰和 workload,并预注册安全停止条件。

Research Extension

组件消融

分别移除 spatialization、boundary click、interruptibility 和 hysteresis,测量学习速度、修正路径与边界错误,检验每个设计机制的独立作用。

Research Extension

动态菜单编码

研究稳定的类别锚点、分层搜索、频率自适应位置与可撤销回退,评估映射变化对空间记忆的损害,覆盖歌曲列表等长尾内容。

08 · Sources

一手资料与核查范围

  1. Zhao et al. (2007), earPod: Eyes-free Menu Selection using Touch Input and Reactive Audio Feedback. CHI 2007, pp. 1395–1404. 本页的实验、统计、实现和讨论均以 10 页正式 PDF 为主。
  2. Shengdong Zhao 的 earPod 官方项目页. 核对交互流程、项目视频与 slides、后续驾驶比较的研究状态。
  3. Patrick Baudisch 的 earPod 项目页. 核对 USB touchpad、圆形覆盖层及 4/8 zone 描述。该页面日期和部分姓名拼写与正式 PDF 有差异,论文身份以正式 PDF 为准。
通讯作者状态:正式 PDF 与两处官方页面均未显式标注通讯作者。Patrick Baudisch 仅按 Obsidian 归档规则作为末位候选,状态保持 unverified。