「ディープフェイクは民主主義への脅威」とマッカラムMI5長官

The Times, 19 October 2023

MI5のトップ、ケン・マッカラムは、AIが "危険な知識 "を広める可能性があると警告した。

DANNY LAWSON/PA

 ディープフェイク・テクノロジーは、次の総選挙で混乱と偽情報を撒き散らすために敵対国家によって利用される可能性があると、MI5のトップが警告した。

ケン・マッカラムは、このテクノロジーはかつてないほど洗練されており、「私たちの社会にあらゆる種類の混乱と不和と混沌」を植え付ける可能性があると述べた。

人工知能はテロリストのプロパガンダを増幅させるためにも使われており、爆弾製造の指示のような「危険な知識」を広める手助けをする可能性がある、と彼は警告した。

キア・スターマー卿は最近、ディープフェイク技術の犠牲になった。

THE MEGA AGENCY

マッカラムは、米国、オーストラリア、カナダ、ニュージーランドからなる英国の最も親密な諜報パートナーであるファイブ・アイズ同盟とカリフォルニアで開催された安全保障サミットに出席した。マッカラムは、敵対国、特に中国の経済スパイによる脅威について、前例のない警告を公に発した。

今月、労働党党首のキア・スターマー卿が、党職員を罵倒する様子を捉えたとされる音声が流され、ディープフェイク技術の犠牲になった最初の大物政治家となった。これはすぐに否定された。

次の選挙でディープフェイクが問題になる可能性はあるかと聞かれたマッカラム氏は、MI5がディープフェイクを危険視しているのは、技術が「格段に洗練されている」からだと答えた。彼は言った： 「それは明らかに、さまざまな種類のアクターが、あらゆる方法で世論に影響を与えるためにこれらのテクノロジーを利用しようとする可能性を開いている。ディープフェイクに対する最善の対応のひとつは、ディープフェイクを発見し、それがそうであることを公表することであることは明らかだ。」

リシ・スーナクが来月主催するAIサミットを歓迎し、世界がリスクを管理しながらAIのメリットについて話し始める「いい時期」だと述べた。

FBIのクリストファー・レイ長官は、アメリカやイギリス、その他の西側諸国企業が開発した革新的なAIが中国に盗まれる危険性があると述べた。

マッカラムは、敵対的なエージェントだけでなく、テロリストからのリスクもあると警告した： 「AIは社会に大きなチャンスをもたらし、それは我々のような組織にも大きなチャンスをもたらす。. . そして、必然的にそれに伴う様々なリスクが発生する。その中には、テロリズムを可能にしたり、私たち全員が後悔するような方法で危険な知識を広めたりするようなリスクも含まれる。」

ジャスワント・シン・チャイル（21）は今月、クロスボウを持ってウィンザー城に侵入し、女王を殺すと宣言した罪で投獄された。彼はオンラインのチャットボットと5,000通以上のメッセージをやりとりし、そのチャットボットが彼にテロを実行するよう促していたことが明らかになった。

マッカラムは、このようなシステムが製造者の意図しない用途に使われる「明らかなリスク」があると述べた。

同氏は、MI5が過激派から「危険な知識の入手を制限」するために働いていると述べた。彼は、人工知能には膨大な量のデータを選別するなどの利点があると強調した。MI5は毎週何千時間もの音声データを合法的に収集しており、AIはそれを翻訳し、素早く検索できるようにするのに役立っている。

にほんブログ村

人気ブログランキング

ディープフェイク・ニュースリーダーは、親中派のニュースを配信しています

The Times, 24 February 2023

"ジェイソン "はウルフニュースという親中派のチャンネルの顔として作られたものである

 英国企業のAI技術が乗っ取られ、コンピューターで作られた二人の司会者が登場する親中国的なニュースチャンネルが作られました。

Wolf Newsはソーシャルメディアで知名度を上げていたが、今月、ロンドンに拠点を置くAI専門家が開発したツールを使った政治的なスパム作戦に関連していることが発覚した。その動画は、非常にリアルなジェイソンとアンナという二人の「ニュースキャスター」をフィーチャーしていたが、その後、コンピュータで作られたものであることが明らかになった。

ある映像では、米国政府の銃乱射事件への取り組みの失敗が非難され、別の映像では、世界経済の回復を助けるために米中協力の重要性が強調されました。どちらも、オオカミのシルエットのロゴと「ホットスポットに焦点を当て、リアルタイムで放送する」というキャッチフレーズで、一見すると架空の会社であるWolf Newsがブランディングされています。

この発見の背景には、ソーシャルメディアの専門家であるグラフィカが、この動画はFacebook、Twitter、YouTubeで活動するSpamouflageと呼ばれる親中派の影響力工作によるものであると主張しています。

Graphika社は、9ページにわたる報告書「Deepfake It Till You Make It」の中で警鐘を鳴らしています。「これは、AIが生成した架空の人物の映像を宣伝する、国家と連携した作戦を観察した初めてのケースでした」と述べています。

ウルフ・ニュースの動画は広く共有されることはなかったが、この技術がより広く利用され、説得力を増すにつれて、こうしたツールの悪用が拡大することが懸念される。

その後、ブルキナファソのオンライン会話を標的とした動画の第2弾が発見された。ウルフ・ニュースの発見は、急速に進化するAI技術によって、一般の人々を騙すことがますます容易になるのではないかという懸念を抱かせるものであった。

急速に発展する技術により、故クイーンなど著名人のディープフェイクが作られるようになった

仮想特殊効果を専門とするFramestoreのエグゼクティブ・クリエイティブ・ディレクター、ウィリアム・バートレットは、エリザベス2世、ボリス・ジョンソン、ドナルド・トランプのディープフェイク版を作成した。彼は、AIで生成された映像の悪用について「非常に心配になってきた」と述べた。

「この技術は、間違った手に渡れば、制度や政府に対する国民の信頼を腐敗させ、社会の機能を損なう可能性がある」と彼は言った。「このようなことが起こるまでに、これほど時間がかかったことに驚いています。作るのがどんどん簡単になってきている。」

ディープフェイク版のボリス・ジョンソン

バートレットは、このような動画が、本物と見分けがつかない有名人のディープフェイク版を登場させるようになると、人気を集めるだろうと予測している。AI技術の急速な発展により、顔だけでなく、ジェスチャー、ボディランゲージ、声も、1枚の画像をもとに簡単にクローン化し、操作できるようになるでしょう。

「ディープフェイクは100％、完全にリアルになる」と彼は付け加えました。「そして、私たちは本能的に、画像よりも動画を信じるようになります。なぜなら、動画がいかに簡単に作れるか、まだ知られていないからです。だから、偽物の信頼性は非常に高いのです。」

Spamouflageが使用するツールは、UCL、スタンフォード大学、ケンブリッジ大学の研究者と起業家のチームによって2017年に設立されたAI専門企業、Synthesiaと連携しています。

世界トップクラスのAI動画ソフトウェアプロバイダーと謳うSynthesiaのサービスは、月額23ポンドから利用でき、3万人以上のユーザーを集めて多数の動画を作成しています。

著名な顧客としては、NHS、Ocado、広告大手のWPPなどがあり、スタッフトレーニングの改善に利用されています。慈善団体Malaria No Moreは、David Beckhamのディープフェイクを作成するために協働しました。このサッカースターは、9つの異なる言語の俳優の言葉を話すことで、この病気に対する認識を高めました。

Synthesiaは、「政治的、性的、個人的、犯罪的、差別的なコンテンツ」を作成するためにツールを使用することを禁止するガイドラインに違反したとして、Wolf Newsチャンネルを作成したユーザーを出入り禁止にしました。

Synthesiaの共同設立者であるVictor Riparbelli氏は、謝罪し、この活動を非難しました。「我々は、安全なプラットフォームから私たちの何万もの顧客の利益を確保するために、コンテンツのモデレーションに非常に早くから投資した」と彼は言った.

「私たちが社会に貢献するために構築した製品を悪用する人を見るのはつらいことです。しかし、少数派がAIが提供する良いもの、そしてAIが私たち全員に開く無限のポジティブな機会を台無しにすることはありません」と述べています。

同氏は、同サービスを利用しようとする「悪質業者の99.9%」が摘発されたと述べている。しかし、ヘイトスピーチや中傷の「赤いカテゴリー」に該当しない問題のあるコンテンツを検出するのが難しいため、Wolf Newsの動画はコンテンツ修正システムをすり抜けた。

「グレーゾーンは検出が難しいのです。"ユーザーが暗号通貨に関するコンテンツを作成している場合、彼らはブロックチェーン技術について人々を教育しているのか、それとも一攫千金のスキームの背後にあるのか？」

Riparbelli氏は、既存の法律をデジタル時代に合わせて更新することを求め、すべてのAIプロバイダーが悪用を防止するためにさらに努力するよう促しました。「適切な規制は、誤用を抑制し、企業が強力な技術を保護する動機付けとなる」と彼は言った。「しかし、それはまた、強力なAIツールが一般の人々が使用し、対話するためにアクセス可能であることを保証するものです。」

❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀

リージェンツ・パークのクロッカスが今年も綺麗に咲いているでござるよ。

にほんブログ村

人気ブログランキング