The Times, 19 October 2023
ディープフェイク・テクノロジーは、次の総選挙で混乱と偽情報を撒き散らすために敵対国家によって利用される可能性があると、MI5のトップが警告した。
ケン・マッカラムは、このテクノロジーはかつてないほど洗練されており、「私たちの社会にあらゆる種類の混乱と不和と混沌」を植え付ける可能性があると述べた。
人工知能はテロリストのプロパガンダを増幅させるためにも使われており、爆弾製造の指示のような「危険な知識」を広める手助けをする可能性がある、と彼は警告した。
マッカラムは、米国、オーストラリア、カナダ、ニュージーランドからなる英国の最も親密な諜報パートナーであるファイブ・アイズ同盟とカリフォルニアで開催された安全保障サミットに出席した。マッカラムは、敵対国、特に中国の経済スパイによる脅威について、前例のない警告を公に発した。
今月、労働党党首のキア・スターマー卿が、党職員を罵倒する様子を捉えたとされる音声が流され、ディープフェイク技術の犠牲になった最初の大物政治家となった。これはすぐに否定された。
次の選挙でディープフェイクが問題になる可能性はあるかと聞かれたマッカラム氏は、MI5がディープフェイクを危険視しているのは、技術が「格段に洗練されている」からだと答えた。彼は言った： 「それは明らかに、さまざまな種類のアクターが、あらゆる方法で世論に影響を与えるためにこれらのテクノロジーを利用しようとする可能性を開いている。ディープフェイクに対する最善の対応のひとつは、ディープフェイクを発見し、それがそうであることを公表することであることは明らかだ。」
リシ・スーナクが来月主催するAIサミットを歓迎し、世界がリスクを管理しながらAIのメリットについて話し始める「いい時期」だと述べた。
FBIのクリストファー・レイ長官は、アメリカやイギリス、その他の西側諸国企業が開発した革新的なAIが中国に盗まれる危険性があると述べた。
マッカラムは、敵対的なエージェントだけでなく、テロリストからのリスクもあると警告した： 「AIは社会に大きなチャンスをもたらし、それは我々のような組織にも大きなチャンスをもたらす。. . そして、必然的にそれに伴う様々なリスクが発生する。その中には、テロリズムを可能にしたり、私たち全員が後悔するような方法で危険な知識を広めたりするようなリスクも含まれる。」
ジャスワント・シン・チャイル（21）は今月、クロスボウを持ってウィンザー城に侵入し、女王を殺すと宣言した罪で投獄された。彼はオンラインのチャットボットと5,000通以上のメッセージをやりとりし、そのチャットボットが彼にテロを実行するよう促していたことが明らかになった。
マッカラムは、このようなシステムが製造者の意図しない用途に使われる「明らかなリスク」があると述べた。
同氏は、MI5が過激派から「危険な知識の入手を制限」するために働いていると述べた。彼は、人工知能には膨大な量のデータを選別するなどの利点があると強調した。MI5は毎週何千時間もの音声データを合法的に収集しており、AIはそれを翻訳し、素早く検索できるようにするのに役立っている。
にほんブログ村
No comments:
Post a Comment