AI English Shift · Lessons / D02
Human control and recovery
人的控制与失败恢复
Open the interactive lesson · 打开互动课程A human review step is useful only when the person can understand the proposed action and has enough authority to change the outcome.
只有当审查者能理解拟执行的操作,并有足够权限改变结果时,人工审查步骤才有用。
人の確認は、その人が提案する操作を理解でき、結果を変える十分な権限を持つ場合に役立ちます。
A confirmation screen should show the destination, affected data and relevant consequence, not simply ask whether the user wants to continue.
确认界面应展示目标位置、受影响的数据和相关后果,而不只是问用户是否继续。
確認画面には、続けたいかだけでなく、宛先、対象データ、関連する結果を示すべきです。
For a drafted message, let the user inspect and edit the actual text before committing it to an external channel.
对于消息草稿,应让用户在正式发送到外部渠道之前,检查并编辑实际文本。
下書きメッセージなら、外部へ送る前に実際の文章を確認し編集できるようにします。
The interface should distinguish a draft that can be discarded from a sent message whose effects may not be reversible.
界面应区分可以丢弃的草稿,与后果可能无法撤销的已发送消息。
破棄できる下書きと、影響を取り消せない場合がある送信済みメッセージを区別すべきです。
Undo needs a precise scope because changing a local display does not necessarily reverse a database update, email or payment.
“撤销”需要明确范围,因为改变本地显示,并不一定能逆转数据库更新、邮件发送或付款。
ローカル表示を変えてもデータ更新、メール、支払いが戻るとは限らないため、取り消しの範囲を正確に定めます。
When a tool reports an ambiguous result, show the uncertainty and prevent the user from unintentionally duplicating the operation.
当工具返回的结果不明确时,应展示这种不确定性,并防止用户无意中重复执行操作。
ツール結果が不明確なら、その不確実性を示し、利用者が意図せず操作を重複させるのを防ぎます。
A recovery flow should explain what is known, what remains unresolved, and which safe next actions are available.
恢复流程应解释目前已知什么、还有什么未确定,以及接下来有哪些安全可行的操作。
復旧の流れでは、分かっていること、未解決のこと、利用できる次の安全な操作を説明します。
Refusal, missing evidence, temporary failure and partial completion should not all collapse into the same generic error message.
拒绝执行、证据缺失、临时故障和部分完成,不应都被归为同一种笼统的错误消息。
拒否、根拠不足、一時障害、一部完了を、すべて同じ一般的なエラーにまとめるべきではありません。
Each state can require a different response, such as revising the request, supplying a document, waiting, or contacting a responsible person.
每种状态可能需要不同的应对,例如修改请求、提供文档、等待,或联系负责人。
要求の修正、文書の提供、待機、責任者への連絡など、状態ごとに異なる対応が必要です。
Test the recovery path with users who encounter a plausible failure, including whether they understand what has already changed.
应让用户遇到一种合理可信的故障,并据此测试恢复路径,包括检查他们是否理解哪些内容已经发生变化。
もっともらしい失敗に遭遇する利用者で復旧経路を試し、すでに何が変わったか理解できるかも確認します。
Control is meaningful when users can intervene at the right time using visible evidence, and when the system communicates the actual result afterward.
当用户能够依据可见证据,在合适的时机介入,而且系统事后能沟通实际结果时,控制才有实际意义。
適切な時点で見える根拠を使って介入でき、その後に実際の結果が伝わるとき、制御は実質的なものになります。
Key terms
- Tool result: Information returned from executing a tool, including outputs, errors or uncertain status.
- Permission request: A request for a human or policy authority to approve a specific action or access.
- Human in the loop: A workflow with a meaningful human role in reviewing, steering or deciding an outcome.
- Refusal: A system response declining to fulfill all or part of a request under defined conditions.
- Rollback: Restoring a previous version or process after a problematic change.
- Undo: An interface or system action that reverses a defined previous change when reversal is supported.