無線通信およびプロセッサの大手プロバイダーであるクアルコムは、モバイル ワールド コングレス バルセロナで人工知能 (AI) の分野で大きな進歩を遂げました。 同社の主な目標は、電話、コンピュータ、その他のデバイスなどのエッジ デバイス上で AI を大規模に実行することです。
クアルコムは、世界初の大規模言語 (LLM) および大規模なマルチモーダル モデルを Android スマートフォン上で実行することに成功し、ユーザーとデバイスの間でチャットのような多段階の会話を可能にします。 さらに同社は、次世代コンピューター、自動車、電話、産業用IoTデバイス、Wi-Fiアクセスポイント、セルラーインフラストラクチャーなど、幅広いエッジデバイス上でAIを加速する計画を発表した。
使いやすいクアルコム AI ハブ
AI アプリケーションの開発を促進するために、クアルコムは AI ハブを作成しました。これは、Snapdragon およびその他のクアルコム プラットフォームでの高性能向けに最適化された AI モデルの膨大なライブラリを開発者に提供します。 このプラットフォームは、画像やテキストのレンダリングなどの多くの機能を提供し、Snapdragon または他の Qualcomm プラットフォームを搭載したデバイス上で最大 4 倍高速な推論を提供します。
AI Hub はユーザーフレンドリーなエクスペリエンスを提供し、開発者は 75 を超える AI モデルから選択し、TensorFlow、PyTorch、または Onyx 作業環境を選択できます。 モデルは Hugging Face や GitHub でも入手できるため、開発者は AI をアプリケーションに簡単に統合できます。
LoRAとは何ですか？
クアルコムは、Android スマートフォン上で最初の下位実装 (LoRA) を実行することで、別の技術的成果も達成しました。 Microsoft によって開発された LoRA は、遅延、コスト、ハードウェア要件の点でモデル トレーニングの複雑さを軽減することを目的としています。 LoRA は、DALL-E などの生成 AI ツールとは異なる、画像生成への新しいアプローチを提供します。 LoRA は、モデルの複雑さを軽減することでメモリ要件を削減し、効率を向上させ、モデル全体をダウンロードしたり微調整したりすることなく、軽量バージョンをカスタマイズできるようにします。
LoRA は、従来の AI レンダリング モデルとは異なるアプローチを採用しています。 これらのモデルはピクセルのパターンを学習して画像を作成します。 LoRA はベクトルのリストを使用して画像を作成します。 ベクトルは、画像の基本的な特徴 (形状、色、テクスチャなど) を表します。
LoRA のベクトルベースのアプローチにより、モデルの複雑さとサイズが大幅に軽減されます。 これにより、モデルのトレーニングが高速化され、必要なハードウェアとエネルギー消費が少なくなります。
Snapdragon X Elite: AI アプリケーション向けに設計
AI を実行するように設計された Snapdragon X Elite は、4nm SoC アーキテクチャ、デュアルコアをサポートする 12 コア Qualcomm Oryon CPU、および統合された Qualcomm Adreno GPU を備えています。 1 回の充電で数日間使用できるため、定期的に充電する必要がありません。 その最も重要な機能の 1 つは、130 億のパラメーターを備えた生成 AI LLM モデルも実行できることです。
SoC の機能を実証するために、クアルコムは、Snapdragon X Elite と、最も効率的な GPU、CPU、および NPU 構成を備えた競合する x86 プロセッサとの間でパフォーマンス ベンチマークを実行しました。 ベンチマークでは、GAI 画像生成用の Stable Diffusion プラグインを備えた強力なオープンソース ラスター グラフィック エディターである GIMP を使用しました。 その結果、「45 TOPS」NPU を搭載した Snapdragon X Elite は、x86 競合製品よりも 3 倍高速に画像をレンダリングできることがわかりました。 45 TOPS の処理能力がいかに強力であるかをよりよく理解するために、以下の例を見てみましょう。
- 人間の脳は 1 秒間に約 100 兆回の演算を実行できます。
- デスクトップ コンピューターは 1 秒あたり約 10 兆回の操作を実行できます。
- スマートフォンは 1 秒間に約 1 兆回の操作を実行できます。
ご覧のとおり、45 TOPS の処理能力はスマートフォンの 45 倍、デスクトップ コンピューターの 4.5 倍です。 これは、Snapdragon X Elite プラットフォームが AI アプリケーションにとって非常に強力なプラットフォームであることを示しています。
名前を聞き始めたNPU
NPU は Neural Processing Unit の略で、人工知能および機械学習アプリケーションに特化したプロセッサです。 NPU は、特に人工ニューラル ネットワーク (ANN) で使用される数学的演算の計算において優れたパフォーマンスを提供します。 これらの数学演算には、行列の乗算、畳み込み、およびアクティベーション関数が含まれます。
NPU は、低精度データをより効率的に処理できるように設計されており、AI ワークロードに最適です。 また、AI コンピューティング用の CPU や GPU よりもはるかに電力効率が優れています。
クアルコムの AI イノベーション
この件に関して同社が強気なのは、人工知能がさまざまなプラットフォームで効率的に使用されるようにすることを目的としている。 同社の Snapdragon 8 Gen 3 電話プロセッサと Snapdragon X Elite PC プラットフォームは、生成 AI、コンピュータ ビジョン、自然言語処理などの分野で重要な機能を実行できます。
クアルコムは、Qualcomm AI Hub を通じて開発者に高度な AI 機能も提供しています。 このハブは、Snapdragon やその他の Qualcomm プラットフォームでの高性能向けに最適化された 75 を超える AI モデルを含むリソースを開発者に提供します。
スマートフォンでの人工知能の使用は制限されていますが、同社が約束を守り、これらのテクノロジーを希望通りに開発すれば、コンピューターで人工知能を使用しているのと同じように、携帯電話でも人工知能を使用できるようになります。 また、AI はゲーム体験にまったく新しい次元をもたらし、仮想ゲーム アシスタントが新しいゲーム コンテンツを生成し、プレーヤーの知識やより挑戦的な体験に対する要望に基づいてゲーム ルールとゲームプレイを動的に調整できるようにします。
クアルコムによるオンデバイス AI のスケーラブルな商用化は、AI の民主化に大きく貢献しています。 これらの先見の明のある取り組みにより、クアルコムは AI の主要なプレーヤーとなり、同社は大規模な AI 導入をさらに加速することができます。
人工知能の開発は続いています。 このままでは、最初に私たちのコンピュータに導入された人工知能が、効率的に私たちの携帯電話に到達することになるでしょう。 これは、AI が理解するためだけに作られたプロセッサーによって、この分野が今後どれだけ成長するかを示していると思います。 その倫理と道徳については現在議論が行われていますが、数日のうちに、このテクノロジーの使用は何らかの形ですべてのユーザーに受け入れられるでしょう。 クアルコムの進歩により、複雑なタスクを簡単に実行できる AI 搭載デバイスが登場し、私たちの生活がより便利で効率的になると期待されています。
注目の画像クレジット: クアルコム
Source: クアルコムの人工知能の夢は比類のないものです
