Designing for uncertain output

An AI interface teaches users what to expect through its wording, controls, feedback and treatment of errors.

AI 界面通过措辞、控件、反馈和错误处理方式，让用户形成对系统的预期。

AIの画面は、文言、操作、反応、エラーの扱いを通じて、利用者に期待の持ち方を教えます。

A confident answer displayed without its evidence can make the system appear to know more than its input supports.

如果一个语气肯定的答案没有同时展示证据，就可能让系统显得比实际输入所能支持的更有见识。

根拠を示さず自信のある回答を表示すると、入力から分かる以上のことを知っているように見える場合があります。

The design goal is appropriate reliance: users should understand when the system is useful and when they need additional evidence or human judgment.

设计目标是帮助用户适度依赖系统：用户应知道系统在什么时候有用，以及什么时候需要更多证据或人的判断。

設計の目的は適切な依存であり、役立つ場面と、追加の根拠や人の判断が必要な場面を理解できるようにします。

Start from a clear account of the task boundary and avoid introducing capabilities the system has not actually demonstrated.

首先清楚说明任务边界，避免引入系统尚未实际展示出的能力。

作業範囲を明確に説明することから始め、実証していない能力をあるように示さないようにします。

For a source-based answer, let a reader inspect the relevant passage and its date rather than rely only on a general confidence badge.

对于依据来源给出的答案，应让读者查看相关段落及其日期，而不是只能依赖一个笼统的置信度标记。

出典に基づく回答なら、一般的な自信の表示だけでなく、関連する文章と日付を調べられるようにします。

A percentage is meaningful only when its interpretation is established; an unexplained confidence number can create false precision.

只有明确了如何解读，百分比才有意义；一个未经解释的置信度数字可能制造虚假的精确感。

数値の意味が定まって初めて割合は有意味になり、説明のない自信の数値は偽りの精密さを生むことがあります。

Show uncertainty in terms of the user's decision, such as a missing condition or conflicting source, rather than merely adding a vague disclaimer.

应从用户决策的角度呈现不确定性，例如缺失了某个条件，或来源之间存在冲突，而不只是加上一句含糊的免责声明。

曖昧な注意文を足すだけでなく、不足した条件や矛盾する出典など、利用者の判断に関わる形で不確実性を示します。

Latency feedback should distinguish searching, drafting, waiting for approval and completed work when those states lead to different expectations.

当搜索中、起草中、等待审批和工作完成会引发不同预期时，等待过程中的反馈就应区分这些状态。

検索中、下書き中、承認待ち、完了で期待が異なるなら、待ち時間の表示もそれらを区別すべきです。

Progressive disclosure can keep the first reading view simple while making technical definitions and source details available at the moment of need.

渐进展示可以让初始阅读界面保持简洁，同时在需要时提供技术定义和来源细节。

段階的な表示で最初の読解画面を簡潔にしつつ、必要な時に技術用語や出典の詳細を開けます。

The interface should also explain whether a saved item records interest, an incorrect answer or demonstrated mastery, since those states are not equivalent.

界面还应说明，某条保存记录代表的是兴趣、一次错误回答，还是已展示出的掌握情况，因为这些状态并不等价。

保存した項目が関心、誤答、確認できた習得のどれを示すかも、それぞれ異なるため説明すべきです。

Evaluate the design by observing decisions users make after reading the output, not only whether they say the assistant feels trustworthy.

评估设计时，应观察用户阅读输出后作出了什么决定，而不只是询问他们是否觉得助手可信。

信頼できると感じたかだけでなく、出力を読んだ後に利用者が行う判断を観察して設計を評価します。