LLMのパラメーターとは、AIが情報を処理し結果を生成する際の調整可能な設定です。
パラメーターを適切に調整することで、特定のタスクに対する出力精度の向上や
ユーザーの求めるスタイルやトーンに生成結果を近づけることができます。
例えば、想像性を高めてアイデア出しを促進したり、一貫性を重視して正確な情報提供を
おこなうことができます。
Temperature
・ランダム性や創造性を調整するパラメーター
・数値が小さいほど確実性の高い選択を行い、予測可能な応答を生成する
・数値が大きいほど創造的な出力をする
Temperatureの数値を小さくする場合の有効なユースケース
・技術文書の作成
・ニュース記事の要約
・FAQの作成
・カスタマーサポートなど
Temperatureの数値を大きくする場合の有効なユースケース
・ストーリー作成
・キャッチコピーのアイデア出し
・プロダクトデザインの初期段階
・マーケティングのコンセプト出し
top_p
・生成されるテキストの確率分布から選択するトークンの範囲を制御するパラメーター
・上位確率の集合にあるトークンをランダムにサンプリングすることでモデルの生成する
テキストの多様性や創造性を調整
・値が0.01だと上位1%、1.0だと全てのトークンを対象に回答を生成する
・小さい値になるほど選択肢が少なくなり、大きい値ほどランダムになる
その他のパラメーター
Max_tokens
・生成されるテキストの最大長を指定するパラメーター
Presence Penalty
・特定の単語やフレーズが繰り返し出現することを制御するためのパラメーター
・値を高く設定すると、同じ単語やフレーズが繰り返し使われにくくなり、生成されるテキストの
多様性を高めることができる
Frequency Penalty
・生成される単語が何回出現したかを計算し、その頻度に応じてペナルティをかけるパラメーター
・値を高く設定すると、同じ単語が頻繁に出現することを抑制して、テキストの多様性を
確保することができる
Seed
・ランダム性を制御するための初期値を設定するパラメーター
・同じSeed値を使用すると、同じ入力に対して一貫した出力が得られ、生成結果の再現性を
確保することができる
Stop
・特定の単語が出力されそうになると出力を停止するパラメーター
・ユーザーが直接目にする出力には不適切な単語を入れることにより、不適切な発言を確実に
回避することができる
＜まとめ＞
・TemperatureとTop-pを中心に調整することで出力精度をさらに上げることができる
・創造性を重視するか、再現性を重視するかで使い分ける
・その他のパラメータは必要に応じて調整する
・生成結果に望ましい回答が得られない場合は、テンプレート内のプロンプトも含め
パラメーターの設定をケースに応じて見直す
パラメーターはAIをユーザーの目的に合わせて最適化するための重要な要素です。