Microsoft、AI製品を使用したハッキン​​ググループを禁止する措置を講じる

Microsoft が今週のレポートで指摘したように、ここ 1 年ほどで人工知能技術の人気が急上昇するにつれ、それを悪意を持って利用しようとする悪意のある者も増えています。同社は、国家支援のハッキンググループがOpenAIなどの製品をハッキング目的で使用していることを発見した後、自社のAIツールを使用することの禁止を発表した。

報道によると、マイクロソフトは今週初めに報告書とそれに伴う禁止令を発表した。ロイター。報告書によると、マイクロソフトは、ロシア、イラン、中国、北朝鮮に代わって活動する国家支援のハッカー集団がOpenAIやその他のAI製品を活用し、大規模な言語モデルを使用してターゲットを悪意を持って騙すことでハッキングスキルを磨いていたことを発見したという。このレポートの時点で、マイクロソフトは、ロシアの軍事諜報機関やイラン革命防衛隊などの軍および政府関連グループによるAIの使用を囲い込むことを望んで、自社製品のそのような使用の禁止を発表した。

自社の AI 製品を悪意のある目的から守るための Microsoft の動きは、規制されていない AI によってもたらされる危険性のさらなるしわにすぎません。この危険性については、主要な技術専門家が定期的に意見を述べています。注目すべきことに、イーロン・マスクは、規制されていないAIの危険性、さらにはスティーブ・ウォズニアックや他の業界リーダーに加わりました。AIシステムトレーニングの一時停止を求める安全策が開発されるまで。ジョー・バイデン大統領は2023年10月に、次のことを要求する大統領令を出した。AIの安全基準の確立。

AI テクノロジーは依然として多くの意味で未開の西部であり、マイクロソフトには、特に政府レベルで自社製品を悪用する行為を阻止するためのリソースがあるのだろうかと疑問に思う人もいるでしょう。それにもかかわらず、この禁止がプロジェクトに影響を与えるかどうかを見るのは興味深いでしょう。今後も最新情報をフォローしていきますので、ご期待ください。