生成型AIチャットボットと関わる一般的な戦略は、よく練られたプロンプトから始めることです。実際、プロンプトエンジニアリングは、 キャリアアップを目指す 人工知能の時代において。
ただし、代替手段はあります。大規模言語モデル (LLM) の開発と独自のカスタム データに費やす予算がある開発者にとって、AI モデルを「微調整」することは、場合によっては優れたアプローチになる可能性があります。
しかし、微調整にはコストがかかる可能性があり、良いニュースとしては、OpenAIが火曜日にGPT-4oミニAIモデルの微調整を大幅に安価に提供すると発表したことである。 先週紹介された。
また： OpenAIはアプリケーションのコストを大幅に削減するGPT-4o miniを提供
微調整プロセスでは、モデルの初期トレーニング後に AI モデルを新しいトレーニング ラウンドにかける必要があります。一部のデータをアップロードしてトレーニングを再度実行すると、モデルのニューラル「重み」、つまり「パラメーター」がモデルの標準バージョンから変更されます。
その結果、予測を求められたときに、プレーンバニラ モデルの場合よりも新しいトレーニング データ セット内のデータを強調するモデルが作成されます。
GPT-4o mini などのニューラル ネットワークは確率分布を反映しており、その出力 (つまり予測) は、ユーザーのプロンプトに続く最も可能性の高いテキストです。微調整によって、その確率分布が特定の方向にシフトします。その結果、モデルの回答もシフトし、変更された確率分布を反映します。
したがって、微調整はプロンプトを希望の方向に微調整する手段となります。
GPT-4o miniの微調整にかかるコストは、トレーニングに使用するトークン100万個あたり3ドルから始まります。 OpenAIの価格ガイドによるとこれは、GPT-3.5「Turbo」の 8 ドルの半分以下のコストです。
OpenAIは、9月23日まで、条件を満たす機関に毎日200万の無料トークンを提供する予定です。
また： 報告書によると、ミレニアル世代の男性はAIスキルアップコースを受講する可能性が最も高い
ただし、微調整された GPT-4o mini の価格は、汎用 GPT-4o mini の 2 倍、モデルへの入力トークン 100 万個あたり 30 セント、出力トークン (予測を促して受け取るために使用するトークン) 100 万個あたり 1.20 ドルであることに注意してください。
OpenAI は、コスト上の利点に加えて、微調整のためにモデルに取り込むことができるトレーニング データの量が GPT-3.5 の 4 倍の 65,000 トークンであることを強調しています。
微調整は GPT-4o mini のテキスト機能でのみ使用でき、画像タスクでは使用できないことに注意してください。
微調整を行う前に、他の選択肢を検討する価値があります。OpenAIのドキュメントによると、モデルが微調整された後でも、洗練されたプロンプトが役立つ可能性があるため、プロンプトを改良し続けることは依然として良い戦略です。 ドキュメントの微調整。
LLMからよりカスタマイズされた結果を得るためのもう1つのアプローチは、「検索拡張生成 「RAG」は、モデルがデータベースなどの外部の真実のソースを呼び出すエンジニアリング手法として、ますます人気が高まっています。
RAG は、モデルがデータベースに問い合わせることを要求するため、ある意味では各クエリをより面倒にする可能性がありますが、利点もあります。モデルを微調整すると、モデルが元のトレーニング段階で獲得した内容を学習し直す可能性があります。言い換えると、モデル パラメータを改ざんすると、モデルが持つより広範でより一般的な機能の点で障害が発生する可能性があります。
また： RAG のためのスペースを確保: Gen AI のパワーバランスがどのように変化しているか
プロンプト エンジニアリングと RAG 以外の 3 番目の選択肢 (ただし RAG と密接に関連) は、関数呼び出しです。これらの場合、非常に具体的な質問をプロンプトに挿入し、非常に具体的な形式の回答を要求し、それをまとめて関数呼び出しとして外部アプリケーションに送信できます。OpenAI やその他の組織は、これを関数呼び出し、ツールの使用、および「エージェント AI」と呼んでいます。
これらすべてのアプローチはそれぞれの位置を占めることになるだろうが、少なくとも OpenAI の新しい価格設定により、微調整実験のコストは少し安くなるだろう。
なお、Google は Vertex AI プログラムを通じてモデルの微調整も提供しており、他の多くのモデル プロバイダーも同様に提供しています。
モデルの再トレーニングはより一般的になり、 いつかはモバイルデバイスにも搭載されるかもしれない十分な計算能力を備えています。
