ミッドジャーニー、ディープフェイク懸念でAI画像生成の無料トライアルを一時停止

ここ数週間、スタイリッシュなダウンジャケットを着たフランシスコ法王や警察に逮捕されるドナルド・トランプ氏などの画像がソーシャルメディア上で急速に広まった。これらの画像が際限なく共有されたため、一部の視聴者は画像が完全に捏造されたものであることに気づかず、実際の写真であると信じたため、全体的に混乱が生じました。これにより、AIを通じて誤った情報が拡散する可能性についての懸念がさらに高まり、ミッドジャーニーはサービスの無料トライアルを一時停止することになった。

Midjourney は人気のある AI 画像生成サービスであり、物議を醸した問題のバイラル画像の作成に使用されたサービスです。創設者兼最高経営責任者（CEO）のデビッド・ホルツ氏は、同社がサービスの無料トライアルを一時停止する決定を下したことをDiscordメッセージで認めた。ワシントン・ポスト。 「私たちはただ、ドラマを最小限に抑えたいだけなのです」とホルツ氏は語った。

トランプの逮捕を待ちながらトランプが逮捕される写真を作る。pic.twitter.com/4D2QQfUpLZ

— エリオット・ヒギンズ (@EliotHiggins)2023 年 3 月 20 日

Midjourney では、追加機能にアクセスしたり、より高速な画像処理を楽しむために、ユーザーに月額または年額のサブスクリプション料金を支払うよう求めていますが、このサービスを試してみたい、または気軽に使いたい人向けに、以前は無料トライアルが利用可能でした。同社は、無料アクセスを一時的に遮断することで、同プラットフォームを利用して拡散されるウイルス画像の数が減ると期待している。

ここ数か月で AI テクノロジーが向上したため、Midjourney の AI 画像生成は、本物そっくりの画像を作成する点ではるかに優れています。 2016年の選挙前にドナルド・トランプ氏がストーミー・ダニエルズ氏に口止め料を支払ったとして近く逮捕されるのではないかという噂が飛び交う中、人々は警察に逮捕される元大統領の画像を作成し共有し始めた。別の画像には、大きな白いダウンジャケットを着て、巨大な十字架のペンダントを付けた教皇フランシスコが描かれていた。

AI が生成した画像が今後も大量の誤った情報の発信源となるのであれば、ミッドジャーニーはそれらの問題の発信源になりたくないと考えています。 Midjourneyが無料トライアルを再開するのか、それとも当面サービスのペイウォールを維持するのかは興味深いところだ。