Vicuna-13B AI チャットボットは、ShareGPT から収集されたユーザー共有の会話で微調整 LLaMA を使用してトレーニングされるオープンソース チャットボットとして導入されました。 このチャットボットは、ベンチマークとして GPT-4 を使用して予備評価を受けており、OpenAI ChatGPT や Google Bard などの他の人気のあるチャットボットと比較して 90%* 以上の品質を達成していることが示されています。 Vicuna-13B は、90% 以上のケースで、LLaMA や Stanford Alpaca などの他のモデルよりも優れています。
スタンフォード アルパカのほぼ 2 倍の大きさにもかかわらず、Vicuna-13B はアルパカの半分の約 300 ドルしかかかりません。 これは、Vicuna のトレーニング元である ShareGPT データがオープンにアクセスできるためです。一方、スタンフォード大学は OpenAI API を介して独自のデータを生成しました。 したがって、Vicuna はトレーニング コストのみを負担します。 スタンフォード モデルと同様に、Vicuna-13B は非営利目的でのみ利用できます。
Vicuna の背後にあるチームによると、チャットボットは、ShareGPT データで微調整された後、ベンチマーク質問テスト中に Alpaca よりもはるかに優れた構造と詳細な回答を示しました. チームは、Vicuna-13B AI チャットボットの回答の質は、ChatGPT が提供するものと同等であると述べています。
GPT-4 はさまざまなチャットボットの出力を比較できますが、その方法は Vicuna-13B AI チャットボット チームによって「非科学的」と見なされており、さらなる研究が必要です – 画像: LmSys
Vicuna-13B AI チャットボットのパフォーマンスをさらに評価するために、チームは OpenAI の最新モデルである GPT-4 を使用しています。 GPT-4 により、チームはさまざまなチャットボットを詳細な方法で一貫してランク付けおよびスコアリングできるため、Vicuna の機能をより包括的に評価できます。
Vicuna-13B AIチャットボットとは？
Vicuna は、パブリック API を介して ShareGPT.com から取得した約 70,000 のユーザー共有会話を使用して微調整されたオープンソースのチャットボットです。 Vicuna-13B AI チャットボットは、パフォーマンスを最適化するために微調整された LLaMA に基づいています。 データの品質を確保するために、調査チームは HTML 形式をマークダウンに戻し、不適切または低品質のサンプルを削除しました。 さらに、長い会話を、モデルの最大コンテキスト長に適合する小さな部分に分割しました。
研究チームは、ビクーニャのパフォーマンスを向上させるために、スタンフォード大学のアルパカ トレーニング レシピにいくつかの改良を加えました。 これらの機能強化には、次のものが含まれます。
- メモリの最適化: チームは、コンテキストの最大長を Alpaca の 512 から 2048 に拡張しました。これにより、長い会話をよりよく理解できるようになりました。 ただし、これにより、GPU メモリ要件が大幅に増加しました。 これを軽減するために、チームは勾配チェックポイントとフラッシュ アテンションを使用してメモリ プレッシャーを管理しました。
- マルチラウンドの会話: チームは、マルチラウンドの会話を考慮してトレーニングの損失を調整し、チャットボットの出力のみに基づいて微調整の損失を計算しました。
- スポットインスタンスによるコスト削減: 40 倍のデータセットと 4 倍のシーケンス長を使用したトレーニングは、かなりのコストの課題をもたらしました。 コストを削減するために、チームは SkyPilot マネージド スポットを使用しました。これは、プリエンプションと自動ゾーン スイッチの自動回復を備えた安価なスポット インスタンスを利用しました。
Vicuna に加えられたさまざまな最適化により、チャットボットは複雑な会話をよりよく理解し、応答できるようになります。 さらに、コスト削減戦略により、チャットボット システムを構築する開発者や研究者にとって、Vicuna はより手頃な価格のオプションになります。
Vicuna-13B AI チャットボットをトレーニングするために、研究チームは、ユーザーが ChatGPT の会話を共有できるプラットフォームである ShareGPT.com から約 70,000 の会話を収集しました。 Alpaca が提供するトレーニング スクリプトは、長いシーケンスと複数ラウンドの会話をより適切に処理できるように変更されました。 チームは、8 つの A100 GPU で PyTorch FSDP を使用して、わずか 1 日で Vicuna をトレーニングしました。
デモの実装では、分散ワーカーを使用して複数のモデルを提供できる軽量の分散サービス システムを採用しました。 このシステムは、クラウドベースとオンプレミスの両方のクラスターから柔軟な GPU ワーカー プラグインをサポートします。 サービス コストを削減するために、チームはフォールト トレラントなコントローラーと SkyPilot のマネージド スポット機能を使用し、複数のクラウドからの安価なスポット インスタンスを活用しました。
Vicuna-13B AI チャットボットの使い方
次の手順に従って、Vicuna-13B AI チャットボットを試すことができます。
- lmsys.org に移動
- ドロップダウン メニューから「vicuna-13b」を選択します
- その下に、「テキストを入力して ENTER を押してください」というボックスが表示されます。
- 何でも聞いて、アップロードをクリックしてください。
それでおしまい！ Vicuna の現在のバージョンはデモ モデルであり、元のリリースには異なる機能がある可能性があることに注意してください。 そのため、ユーザーは、リリースされたバージョンのパフォーマンスと機能がデモ モデルのものと異なる可能性があることに留意する必要があります。
それにもかかわらず、デモ モデルは、Vicuna-13B AI チャットボットの潜在的な機能に関する貴重な洞察を提供し、オープンソース ツールの可能性の有望な例として役立ちます。
Vicuna-13B AI チャットボットはどれくらい優れていますか?
同社は、ベンチマークの質問に対するアルパカとビクーニャの回答を紹介しました。 70,000 のユーザー共有 ChatGPT 会話で Vicuna を微調整した後、Vicuna は Alpaca よりも詳細で構造化された回答を生成できることがわかりました。 Vicuna-13B AI チャットボットの回答の質は、ChatGPT が提供する回答に匹敵します。
以下に、ドキュメントで共有されている両方のモデルのプロンプトと回答の例を示します。
Vicuna-13B AI チャットボット: 「アロハ、旅人たちよ！ 豊かな文化と息をのむような景色を楽しめる熱帯の楽園をお探しなら、ハワイ以外に探す必要はありません。 最近のアロハ州への旅行は、刺激的な文化体験と必見のアトラクションに満ちた、忘れられない冒険でした。
何よりもまず、ハワイの人々の温かく歓迎的な精神に圧倒されました。 私が到着した瞬間から、私は家にいるように感じ、地元の人々に両手を広げて迎えられました。 ホテルのスタッフ、ツアーガイド、路上で出会ったフレンドリーな見知らぬ人など、私が出会った人は皆、故郷への愛を分かち合いたいと熱望していました。
私が経験した最も記憶に残る文化体験の 1 つは、伝統的なハワイのルアウに参加したことです。 このお祝いのイベントでは、フラの催眠的なビートを聞きながら、ポイ、ラウラウ、カルア ピッグなどの郷土料理のおいしいご馳走をいただきました。 美しい民族衣装に身を包んだダンサーたちは、動きを通して島とその歴史について語りました。 ハワイの豊かな遺産とつながることができた、本当に魔法のような夜でした。
私を畏敬の念を抱かせたもう一つの必見のアトラクションは、ハレアカラ国立公園の息をのむような美しさでした。 この公園には、島で最大の休火山があり、素晴らしい日の出や日没のハイキングを楽しめます。 地平線から太陽が昇ると、鮮やかな色と風景の美しさに感動しました。 それは本当に私を謙虚にさせた経験であり、私が決して忘れない経験でした.
もちろん、ハワイへの旅行は、ビーチで過ごすことなくしては語れません。 透き通った海、金色の砂、穏やかな波のあるワイレア ビーチは、リラックスして日光浴をするのに最適な場所です。 あなたが熱心なサーファーであろうと、ビーチ マニアであろうと、単にくつろぎたいだけであろうと、ハワイのビーチはきっとあなたの心を奪うでしょう。
結論として、ハワイは私の期待をすべて上回る真の楽園でした。 飛行機を降りた瞬間から、私は豊かで活気に満ちた活気に満ちた文化にどっぷりと浸かることができました。 必見のアトラクションと忘れられない体験がたくさんあるハワイは、ちょっとした冒険、文化、リラクゼーションを求める旅行者にとって完璧な目的地です。 読書のためのマハロ、ハワイですぐにお会いできることを楽しみにしています！
AI チャットボットを検討するのが好きな場合は、ChatGPT プロンプトの比較をチェックすることを忘れないでください!
結論
Vicuna-13B AI チャットボットは非常に有望なオープンソース ツールであり、適切に構造化された詳細な応答を生成する優れた機能を示し、多くの場合、既存のモデルのいくつかよりも優れています。 複数の言語モデルがさまざまなチャットボット用にトレーニングされているため、会話型 AI の未来はますます興味深いものになっています。
チャットボットがカスタマー サービスを改善し、パーソナライズされたエクスペリエンスを提供し、さまざまなタスクを容易にする可能性は非常に大きく、Vicuna は、チャットボット テクノロジの境界を押し広げるオープンソース コラボレーションの力の証として機能します。 この分野の研究が進化し続けるにつれて、チャットボットの機能がさらにエキサイティングな進歩を遂げることが期待できます。
Source: Vicuna-13B AI チャットボットとは?
