Prediction, sampling and uncertainty

A generative language model can assign scores to possible next tokens conditional on the input it has received.

生成式语言模型可以根据已收到的输入，为可能出现的下一个词元赋予分数。

生成言語モデルは、受け取った入力を条件として、次に現れ得るトークンにスコアを付けられます。

A decoding procedure uses those scores to select a token, and the selected token becomes part of the sequence used to produce later tokens.

解码过程利用这些分数选择一个词元，被选中的词元会加入序列，供后续词元的生成使用。

デコードの手順がそのスコアを使ってトークンを選び、選ばれたトークンは後続の生成に使う並びの一部になります。

Repeating this process produces a passage, but a likely continuation is not necessarily a verified statement about the world.

反复执行这个过程就能生成一段文字，但一个很可能出现的续写，并不一定是经过核实的现实陈述。

この処理を繰り返すと文章になりますが、起こりやすい続きが世界について確認済みの事実とは限りません。

The distinction matters because training text contains conventions, disputed claims, mistakes, fiction, and many situations unlike the current task.

这一区别很重要，因为训练文本包含惯常表达、有争议的主张、错误、虚构内容，以及许多与当前任务不同的情境。

学習用の文章には慣習、論争のある主張、誤り、創作、現在の作業とは違う状況も含まれるため、この区別が重要です。

Imagine a fictional assistant completing an explanation of a company's travel policy after seeing several unrelated travel documents.

设想一个虚构的助手：它看过几份不相关的差旅文档后，续写某家公司差旅政策的说明。

架空のアシスタントが、無関係な出張文書をいくつか見て、ある会社の出張規定の説明を完成させるとします。

It might generate a familiar reimbursement rule that sounds reasonable but is absent from the relevant policy.

它可能生成一条常见的报销规定，听起来合理，却并不存在于适用的政策中。

もっともらしく聞こえても、該当する規定にはない、よくある精算ルールを生成するかもしれません。

The wording may be consistent with common examples without being supported by the evidence for this company.

这段措辞可能符合常见示例，却没有这家公司相关证据的支持。

表現は一般的な例と整合していても、この会社についての根拠には支えられていない場合があります。

Temperature is one decoding control that changes the relative concentration of the token distribution used for sampling.

温度是一种解码控制参数，会改变采样所用的词元分布的相对集中程度。

温度はデコードの制御方法の一つで、サンプリングに使うトークン分布の相対的な集中度を変えます。

Lower settings tend to favor higher-scoring alternatives more strongly, whereas higher settings can allow greater variety.

较低的设置通常会更倾向于高分候选，而较高的设置则可能带来更丰富的变化。

低い設定では高スコアの候補がより選ばれやすくなり、高い設定では多様性が増すことがあります。

The available controls and their meanings depend on the model interface; some systems do not expose a temperature setting.

可用的控制参数及其含义取决于模型接口；有些系统不提供温度设置。

利用できる制御やその意味はモデルのインターフェースによって異なり、温度設定を公開していないシステムもあります。

A low temperature does not add missing evidence or correct an outdated policy in the input.

降低温度不会补上缺失的证据，也不会纠正输入中过时的政策。

温度を低くしても、不足した根拠を追加したり、入力にある古い規定を修正したりはできません。

It can make a wrong answer more repeatable rather than make the answer right.

它可能只是让错误答案更容易重复出现，而不是让答案变正确。

誤った回答を正しくするのではなく、同じ誤答を繰り返しやすくする場合があります。

Even an apparently deterministic setting should not be treated as a promise of identical results across model versions and serving environments.

即使某种设置看起来具有确定性，也不应把它视为保证不同模型版本和服务运行环境都产生相同结果的承诺。

一見決定的な設定でも、モデルの版や提供環境が違えば同じ結果になるという約束として扱うべきではありません。

The probability of a token is also different from the probability that an entire business claim is correct.

一个词元的概率，也不同于一条完整业务主张正确的概率。

トークンの確率は、業務上の主張全体が正しい確率とも異なります。

When an assistant says it is ninety percent confident, that statement is not automatically a calibrated measurement.

当助手说自己有百分之九十的把握时，这句话并不会自动成为经过校准的测量结果。

アシスタントが90パーセントの自信があると言っても、それが自動的に較正された測定値になるわけではありません。

Calibration would require comparing confidence estimates with observed correctness over relevant cases.

校准需要在相关案例中，把置信度估计与实际观察到的正确情况进行比较。

較正を確かめるには、関連する事例で自信の推定値と実際の正しさを比較する必要があります。

For consequential decisions, ask what evidence supports the answer, how the system behaves when evidence is missing, and how often it fails on representative tasks.

对于后果重大的决定，应询问：回答有什么证据支持、证据缺失时系统会怎么做，以及它在代表性任务中失败的频率有多高。

重要な判断では、回答の根拠、根拠がない場合の動作、代表的な作業での失敗頻度を確認します。

Those questions are more informative than judging the fluency or certainty of the generated prose.

这些问题比判断生成文字是否流畅、语气是否肯定，更能提供有用信息。

これらの問いは、生成された文章の流暢さや断定の強さを見るより有益です。