GPT-4 Turboについて|ブルーキャピタルマネジメント
おつかれさまです、ブルーキャピタルマネジメント広報部です。
今回も、LLMなど最先端のテクノロジーについて、触れていこうと思います。
今日はGPT-4 Turboについて紹介します。
①GPT-4 Turboでは読み込めるデータ量が格段に増えました。
GPT4では読み込めるデータ量が少ないことが弱点でしたが、GPT-4 Turboでは、コンテクストウインドウが128Kトークンに拡大。プロンプトあたり、テキストにして300ページ以上の内容が渡せて、技術文書や政策文書をまるごと含められるほどになりました。
②APIの料金も格段に安くなり、あらゆるサービスで使用しやすくなります。
従来のモデルからAPIの利用料金が入力で3分の1、出力で2分の1に変更となりました。
③回答形式の制御や再現性を出せるようになりました。
GPT-4 Turboでは、JSON形式での応答が保証される「JSON mode」や、再現可能な出力が得られる「seedパラメーター」などが登場しました。サービスでGPT-4を使用すると、応答ごとに内容やテイストが少し変わるところもあったのですが、ある程度制御できるようになってます。
どんどん進化していくopenAIですが、使いこなせることで生産性を上げることもできるため、早めに使い初めて
ナレッジを社内でためていくことが重要と考えられます。