プロンプトで設定する『Temperature』とは、ランダム性、創造性、多様性を表します。Temperatureの値が大きいほど、ランダム性が大きく、それは同時に、創造性、多様性が大きいことを意味します。同時に、起こる可能性が小さい(Probabilityが低い)、とも言えます。
独創性のあるアイデアを得たいときは、Temeratureを大きく設定しますが、大きすぎると、文章が不自然であったり、情報の正確性が大きく低下する可能性があるので注意が必要です。
一方で、正確な情報を得たいときはTemperatureの値を小さく設定します。その場合は、情報は正確ですが、ありふれた回答になりやすい(起こりやすい:Probabilityが高い)です。
一般的には、Temperatureは0から1の範囲で設定され、多くの場合は0.5から0.9の範囲内で調整されます。この範囲内でTemperatureを変更することで、モデルの出力の多様性と一貫性のバランスを適切に調整することができます。
状況によってはTemperatureを高く設定することが有用な場合もあります。例えば、新しいアイデアや非常に創造的なテキストを生成したい場合などです。ただし、Temperatureが非常に高いと、生成されるテキストの品質が低下することに注意してください。
以下の例では、同じプロンプトを、Temperature設定を0.1(ランダム性:低、創造性:低)と10.0(ランダム性:高、創造性:高)のそれぞれで、3回ずつ質問を繰り返した結果です。
(テストとして差を実感いただく目的で、ここでは非常に大きなTemperature設定を用いていますが、Temperatureが10のように非常に高い値に設定されると、モデルが生成するテキストは非常にランダムで無秩序になり、意味がなくなることがほとんどです。)
Temperatureの設定はプロンプトの後に、『Please use temperature of ###』(###はTemperatureの値)を追加すれば設定できます。
プロンプト例:
(プロンプトをクリックするとコピーできます)
回答例(Temperature=0.1):
結果を見てみると、『スムージー販売』関連、『オンライン英会話』関連、『アクセサリー』関連がそれぞれ2回ずつ出てきています。つまり、ランダム性が低く、アイデアとしては、よくあるもの、が回答されています。
次は、Temperatureを10.0に設定した回答例です。(テスト目的で10に設定していますが、Tempeartureが大きすぎると、文章が意味をなさないくらいランダムになりますので、通常は1以下が推奨されています)
*2023/5/11 追記:"ChatGPT May 3" バージョンでは、GPT-4モデルにおいて、1より大きいTemperature設定は不可となりました。GPT-3.5 Turbo モデルでは設定可能です。
プロンプト例:
(プロンプトをクリックするとコピーできます)
回答例(Temperature=10.0):
Temperatureを10.0に設定した場合、9パターンの異なるアイデアが回答されました。つまり、ランダム性、創造性が高い結果となっています。一方で、文章の精度、アイデアの正確性、実現可能性の検証は必要です。
このようにプロンプトのTemperatureの設定を変えることで、得られる情報の創造性、正確性をコントロールすることが可能です。
ぜひ試してみてください。