NVIDIA NeMo Guardrails は、AI の「幻覚」を防ぐための新しいオープンソース ソフトウェア ソリューションです

より多くの世界最大手の企業が人工技術に資金とリソースを投資し続けるにつれて、人工技術は信じられないほど二極化してきています。 AI に関する多くの懸念の 1 つは、AI による誤った情報の拡散の可能性と、セキュリティに対する全体的な脅威です。 NVIDIA は長らく AI 支持の立場を保っており、今回、AI サービスに関する最大の残存問題の一部を対象とした新しいオープンソース ソフトウェアである NeMo Guardrails を導入しました。

NVIDIA は、次のニュース投稿で NeMo Guardrails を発表しました。そのウェブサイト今日。 NVIDIA は、ガードレールを安全性、セキュリティ、トピックという 3 つの主要な機能に分類しました。安全ガードレールは、AI がユーザーに不正確な情報を提供することを防ぎます。最も注目すべきは、悪名高い Microsoft の Bing AI です。2 月のデモで質問に対して間違った回答を提供した、AIテクノロジーをめぐる不確実性がさらに高まっています。

セキュリティ ガードレールは、「安全であることがわかっている外部のサードパーティ アプリケーションにのみアプリが接続できるように制限する」と NVIDIA は述べています。最後に、Topical Guardrails は、AI がそのサービスに関係のない質問に回答するのを阻止します。例として挙げられているのは、顧客サービスで働く AI が天気に関する質問に答えないというものです。

NVIDIA CEO のジェンセン フアン氏は、ChatGPT ブームが世界最大手の企業の下で AI の火に火をつけるずっと前から、長い間人工知能を支持してきました。 2月に彼は、その技術は次のように述べた。「変曲点」にある。NVIDIA は、NVIDIA Broadcast や DLSS などの自社製品やサービスの一部でも AI を使用しています。

NVIDIA の NeMo Guardrails が登場する予定なので、このテクノロジーが AI サービスにどのように適用されるかを見るのは興味深いでしょう。また、AI に関連する他のソフトウェアや製品にも興味があります。エヌビディア将来導入される可能性があります。さらに詳しくAIShacknews には、テクノロジー業界やゲーム業界での実装について知る必要があるすべての情報が含まれています。