© 何卓芬独立研究 / 产品概念
自适应信任修复智能体
Adaptive Trust Repair Agent for Intelligent Cockpit
面向智能座舱中的系统失误场景，通过识别驾驶员当前信任状态，自适应匹配解释、道歉与共情等修复策略，并通过文本、语音与数字人反馈，探索 AI 如何在犯错后主动修复人机信任。
研究与设计逻辑
项目概述 / Overview
面向智能座舱中的系统失误场景，通过识别驾驶员当前信任状态，自适应匹配解释、道歉与共情等修复策略，并通过文本、语音与数字人反馈，探索 AI 如何在犯错后主动修复人机信任。
背景与机会 / Context & Opportunity
随着智能系统能力提升，人与 AI 的关系逐渐从工具使用转向长期协作。
然而，当 AI 出现错误时，用户可能产生怀疑，对系统能力降低信任，甚至拒绝继续使用。传统固定式解释和道歉方式难以适应不同用户状态。
研究基础 / Research Foundation
信任具有认知与情感两个维度
认知信任
能力 / 可靠性 / 可预测性
情感信任
理解 / 尊重 / 情绪关系
这意味着修复不能只解释技术原因，也需要回应用户受到的情绪影响。
用户会主动寻找“为什么出错”
归因理论表明，系统失败后用户会判断：
原因来自系统还是外部环境？
是偶发问题还是持续问题？
是否能够被系统控制？
这些判断会影响信任受损程度以及后续修复方式。
不同修复策略解决不同问题
基于前期信任修复相关研究，本项目进一步梳理了智能系统在失误后的典型沟通策略。既有研究表明，信任修复并不存在单一通用的回应方式，解释、道歉、情绪回应等策略分别承担信息澄清与关系修复作用，其效果也会受到失误类型、责任归因与具体情境影响。 因此，本项目将这些研究转化为面向智能座舱的策略库，并结合用户信任状态与失败原因，进一步组织为解释、理解 / 共情、道歉与安全确认等可组合的修复方式。
| 策略 | 类型（方式/内容） | 主要信任目标 | 在人际关系中的有效性总结 | 在 HRI/HAI 中的有效性总结 | 关键中介机制 | 关键调节变量 |
|---|---|---|---|---|---|---|
| 道歉（Apology） | 言语 / 情感 | 情感 > 认知 | 对能力违背有效；对诚信违背可能有害。 | 效果不一，时而有效，时而无效甚至有害。结合情感表达和解释时效果更佳。 | 感知的真诚度、悔意 | 违背类型、拟人化程度、感知的心智、错误严重性 |
| 否认（Denial） | 言语 / 信息 | 认知 | 对诚信违背有效；对能力违背有害。 | 大多数情况下无效或不适用，因为 AI 失败通常被视为能力问题。 | 因果责任重新归属 | 违背类型、证据的明确性 |
| 解释 / XAI | 言语 / 信息 | 认知 | 可作为道歉或否认的补充，但单独使用可能被视为借口。 | 非常有效，尤其是详细的解释，是修复认知信任的核心策略。 | 因果再归因、提升可理解性 | 解释的质量和深度、用户专业知识 |
| 承诺（Promise） | 言语 / 信息 | 认知 | 有助于重建未来期望，直接针对稳定性归因。 | 有一定效果，旨在改变对未来的预期。 | 重建积极期望 | 违背的严重性、承诺的可信度 |
| 共情表达 | 言语 / 行为 / 情感 | 情感 | 增强其他言语策略的真诚度，尤其是否认。 | 作为情感缓冲器，能稳定信任，减缓失败后的下降。 | 情感共鸣、感知的善意 | 拟人化程度、交互情境 |
| 补偿 / 实质性行动 | 行为 / 信息 | 认知 & 情感 | 非常有效，尤其是补偿，显著优于纯粹道歉。 | 研究较少，是当前 HRI 研究的一个主要空白。 | 感知的悔意、感知的预防 | 违背的严重性、行动的成本 |
| 利他行为 | 行为 / 情感 | 认知 & 情感 | 高效建立关系纽带，展示亲社会意图。 | 显著提升认知、情感和行为信任，增强感知智能。 | 感知的善意、感知的智能 | 交互情境、感知的智能 / 动机 |
| 互惠行为 | 行为 / 关系 | 情感 > 认知 | 社交互动的基石，建立合作规范。 | 显著提升情感和行为信任，但对认知信任影响不显著。 | 建立互惠规范、感知的智能 | 交互情境（如重复交互 vs. 单次交互） |
| 交还控制权 | 行为 / 信息 | 认知 | — | 有效。通过可操作的错误信息、手动接管等方式恢复用户能动性，提升信任。 | 恢复代理感、提升可预测性 | 任务类型、用户的控制需求 |
信任修复不应该只有一句标准话术，而应该根据用户状态和失败原因动态组合。
设计机会 / Design Opportunity
从“回答用户”到“理解关系状态”
From Response Generation to Relationship Repair
自适应修复策略 / Adaptive Strategy
根据用户信任状态的变化，系统匹配不同层级的修复策略。
High Trust｜高信任
用户仍然接受系统判断。
- Repair Strategy｜简洁解释 + 决策说明
- Example Response｜“刚才检测到前方车辆减速，因此提前进行了制动。”
Medium Trust｜中信任
用户开始产生质疑。
- Repair Strategy｜解释 + 表达理解
- Example Response｜“我理解刚才的减速可能让你有些突然。前车速度发生变化，所以我提前进行了制动。”
Low Trust｜低信任
用户明显质疑、指责或接管。
- Repair Strategy｜道歉 + 共情 + 原因解释 + 安全确认
- Example Response｜“抱歉让你担心了。刚才为避让前车进行了紧急减速，我已经重新确认当前车辆状态。”
按照高、中、低信任状态分别配置解释、理解、道歉与共情等策略。
系统设计 / System Design
Core System Architecture｜核心系统架构
质疑 / 否定 / 指责
高信任 / 中信任 / 低信任
解释 / 理解 / 道歉 / 共情 / 安全确认
知识规则 / 对话上下文 / 语言生成
文本 / 语音 / 数字人表情
完整概念架构
研究中还进一步规划了副语言特征、驾驶接管行为、车辆状态、外部环境作为未来多模态信任识别输入，并通过归因分析进一步判断不信任来源。
上述输入目前属于概念层设计，尚未完成接入或验证。
原型 / Prototype
当前已实现流程
当前版本的信任检测主要使用文本输入，通过人工规则与情感分析对质疑、否定和指责等语义特征进行识别，并输出高、中、低三类信任状态。
策略生成
系统根据识别出的信任状态，从策略库选择对应的修复方式。
概念架构进一步引入 RAG，通过理论规则库约束生成逻辑，避免大模型完全自由生成信任修复内容。
数字人输出
修复文案进一步进入数字人生成流程：
回复文本 / 语音 → 数字人 API → 表情与口型同步视频
实现文本之外的视听反馈。
成果与反思 / Outcome & Reflection
Outcome
完成了从信任理论 → 状态识别 → 策略匹配 → AI 回复 → 数字人反馈的轻量原型链路。
项目价值
这个项目让我进一步理解，Human-AI Interaction 的关键并不只是让 AI“更智能地回答”，还包括 AI 如何识别人与系统之间正在发生的关系变化，并根据这种变化调整自己的沟通方式。
当前局限
当前信任检测主要基于文本语义；
副语言、车辆行为和环境数据仍属于概念架构；
高、中、低信任阈值尚未经过实证验证；
信任评分公式中的权重目前属于概念性设计，不应作为实验结论；
当前尚未通过正式用户实验验证修复策略效果。