The Times, 24 February 2023
英国企業のAI技術が乗っ取られ、コンピューターで作られた二人の司会者が登場する親中国的なニュースチャンネルが作られました。
Wolf Newsはソーシャルメディアで知名度を上げていたが、今月、ロンドンに拠点を置くAI専門家が開発したツールを使った政治的なスパム作戦に関連していることが発覚した。その動画は、非常にリアルなジェイソンとアンナという二人の「ニュースキャスター」をフィーチャーしていたが、その後、コンピュータで作られたものであることが明らかになった。
ある映像では、米国政府の銃乱射事件への取り組みの失敗が非難され、別の映像では、世界経済の回復を助けるために米中協力の重要性が強調されました。どちらも、オオカミのシルエットのロゴと「ホットスポットに焦点を当て、リアルタイムで放送する」というキャッチフレーズで、一見すると架空の会社であるWolf Newsがブランディングされています。
この発見の背景には、ソーシャルメディアの専門家であるグラフィカが、この動画はFacebook、Twitter、YouTubeで活動するSpamouflageと呼ばれる親中派の影響力工作によるものであると主張しています。
Graphika社は、9ページにわたる報告書「Deepfake It Till You Make It」の中で警鐘を鳴らしています。「これは、AIが生成した架空の人物の映像を宣伝する、国家と連携した作戦を観察した初めてのケースでした」と述べています。
ウルフ・ニュースの動画は広く共有されることはなかったが、この技術がより広く利用され、説得力を増すにつれて、こうしたツールの悪用が拡大することが懸念される。
その後、ブルキナファソのオンライン会話を標的とした動画の第2弾が発見された。ウルフ・ニュースの発見は、急速に進化するAI技術によって、一般の人々を騙すことがますます容易になるのではないかという懸念を抱かせるものであった。
仮想特殊効果を専門とするFramestoreのエグゼクティブ・クリエイティブ・ディレクター、ウィリアム・バートレットは、エリザベス2世、ボリス・ジョンソン、ドナルド・トランプのディープフェイク版を作成した。彼は、AIで生成された映像の悪用について「非常に心配になってきた」と述べた。
「この技術は、間違った手に渡れば、制度や政府に対する国民の信頼を腐敗させ、社会の機能を損なう可能性がある」と彼は言った。「このようなことが起こるまでに、これほど時間がかかったことに驚いています。作るのがどんどん簡単になってきている。」
バートレットは、このような動画が、本物と見分けがつかない有名人のディープフェイク版を登場させるようになると、人気を集めるだろうと予測している。AI技術の急速な発展により、顔だけでなく、ジェスチャー、ボディランゲージ、声も、1枚の画像をもとに簡単にクローン化し、操作できるようになるでしょう。
「ディープフェイクは100％、完全にリアルになる」と彼は付け加えました。「そして、私たちは本能的に、画像よりも動画を信じるようになります。なぜなら、動画がいかに簡単に作れるか、まだ知られていないからです。だから、偽物の信頼性は非常に高いのです。」
Spamouflageが使用するツールは、UCL、スタンフォード大学、ケンブリッジ大学の研究者と起業家のチームによって2017年に設立されたAI専門企業、Synthesiaと連携しています。
世界トップクラスのAI動画ソフトウェアプロバイダーと謳うSynthesiaのサービスは、月額23ポンドから利用でき、3万人以上のユーザーを集めて多数の動画を作成しています。
著名な顧客としては、NHS、Ocado、広告大手のWPPなどがあり、スタッフトレーニングの改善に利用されています。慈善団体Malaria No Moreは、David Beckhamのディープフェイクを作成するために協働しました。このサッカースターは、9つの異なる言語の俳優の言葉を話すことで、この病気に対する認識を高めました。
Synthesiaは、「政治的、性的、個人的、犯罪的、差別的なコンテンツ」を作成するためにツールを使用することを禁止するガイドラインに違反したとして、Wolf Newsチャンネルを作成したユーザーを出入り禁止にしました。
Synthesiaの共同設立者であるVictor Riparbelli氏は、謝罪し、この活動を非難しました。「我々は、安全なプラットフォームから私たちの何万もの顧客の利益を確保するために、コンテンツのモデレーションに非常に早くから投資した」と彼は言った.
「私たちが社会に貢献するために構築した製品を悪用する人を見るのはつらいことです。しかし、少数派がAIが提供する良いもの、そしてAIが私たち全員に開く無限のポジティブな機会を台無しにすることはありません」と述べています。
同氏は、同サービスを利用しようとする「悪質業者の99.9%」が摘発されたと述べている。しかし、ヘイトスピーチや中傷の「赤いカテゴリー」に該当しない問題のあるコンテンツを検出するのが難しいため、Wolf Newsの動画はコンテンツ修正システムをすり抜けた。
「グレーゾーンは検出が難しいのです。"ユーザーが暗号通貨に関するコンテンツを作成している場合、彼らはブロックチェーン技術について人々を教育しているのか、それとも一攫千金のスキームの背後にあるのか？」
Riparbelli氏は、既存の法律をデジタル時代に合わせて更新することを求め、すべてのAIプロバイダーが悪用を防止するためにさらに努力するよう促しました。「適切な規制は、誤用を抑制し、企業が強力な技術を保護する動機付けとなる」と彼は言った。「しかし、それはまた、強力なAIツールが一般の人々が使用し、対話するためにアクセス可能であることを保証するものです。」
❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀
リージェンツ・パークのクロッカスが今年も綺麗に咲いているでござるよ。
にほんブログ村
No comments:
Post a Comment