クアルコムとメタがオープンソースの Llama v2 LLM をモバイル デバイスに導入することで提携

クアルコムとメタの新たなパートナーシップのおかげで、オープンソースの Llama v2 LLM がスマートフォンに登場します。

クアルコムとメタは本日、誰もがお気に入りのソーシャル メディア企業の新しいラージ言語モデル (LLM) Llama v2 をモバイル デバイス上で実行できるようにするパートナーシップを発表しました。多くの LLM は、非常に高価な NVIDIA GPU を搭載したサーバー ファームを必要としますが、Llama 2 は、早ければ来年にも携帯電話や PC 用の Qualcomm チップで動作する予定です。 Meta 社は、Llama 2 は、市場をリードするチャットボット ChatGPT とほぼ同じ機能を実行しながら、携帯電話上で実行できる小さなアプリケーションにパッケージ化できると主張しています。


ソース:メタ

Llama v2 は Meta によるオープンソースの取り組みであることに注意することが重要です。会社出版されたその「重み」は、AI モデルがどのように機能するかを制御するのに役立つデータセットです。これは、Google Bard や OpenAI の GPT-4 などの他の著名な LLM と比較すると、大きく異なる戦略です。

クアルコムのチップには、AI モデルに必要な計算の実行に適していると同社が考えているテンソル プロセッサ ユニット (TPU) が搭載されています。 Meta のより合理化された Llama v2 サービスと、このサービスにさらに関与したいという Qualcomm の願望の間で、非常に暑いAI 分野では、来年 Llama v2 がモバイル デバイスにリリースされれば、NVIDIA が実際に何らかの競争に直面する可能性があります。これは、企業レベルまたは消費者レベルで LLM を実装するためのより手頃な方法を待って傍観していた多くの企業にも扉を開く可能性があります。

『ゴーストバスターズ: ライズ オブ ザ ゴースト ロード』は今秋メタクエストに登場します。#ゴーストバスターズVR #メタクエスト3 pic.twitter.com/kahFahcqE2

— シャックニュース (@shacknews)2023 年 6 月 1 日

Meta と Qualcomm は協力することに慣れているわけではありません。Quest VR HMDこれらはすべて、Snapdragon チップのバリエーション上で実行されます。

Asif Khan は EIC の CEO であり、Shacknews の大株主です。彼は 2001 年に Tendobox.com のフリーランサーとしてビデオ ゲーム ジャーナリズムのキャリアを開始しました。アシフは公認会計士であり、以前は投資顧問の代表を務めていました。彼は自身の個人投資で大きな成功を収めた後、本業の金融サービスを退職し、現在は新たな個人投資に集中しています。彼のこれまでで一番好きな PC ゲームは Duke Nukem 3D で、任天堂のほとんどのものの悪びれないファンです。アシフが初めてこの小屋を頻繁に訪れたのは、スケアリーのシュガシャックでクエイクに関するあらゆるものを探していたときでした。投資やゲームに熱中していないときは、彼は素晴らしい電子音楽を楽しんでいます。アシフはまた、クリーブランドのスポーツに対する異常な愛情を持っています。