アーティストがサイレント・アルバムを発表、AIによる作品利用に抗議

BBC News, 25 February 2025

(左から右へ) アニー・レノックス、ケイト・ブッシュ、デイモン・アルバーンは皆、サイレント・アルバムの抗議を支持している

アニー・レノックス、デイモン・アルバーン、ケイト・ブッシュなど1,000人以上のミュージシャンが、英国政府が計画している著作権法の変更に抗議して、火曜日にサイレント・アルバムをリリースした。 これにより、AI企業がライセンスなしで著作権で保護された作品を使用してモデルをトレーニングすることが容易になると述べています。

 新しい提案では、AI開発者は、権利所有者が「オプトアウト」を選択しない限り、インターネット上のクリエイターのコンテンツを使用してモデルの開発に役立てることができます。

アーティストたちは、「Is This What We Want?」と題されたこのアルバムが、イギリスの音楽業界の生活や音楽業界に与える潜在的な影響に注目を集めることを望んでいます。

すべての利益は慈善団体Help Musiciansに寄付されます。

「未来の音楽では、私たちの声は聞かれないままになるのだろうか?」ケイト・ブッシュは声明で述べた。

法改正に関するパブリックコンサルテーションは、火曜日の後半に終了します。

ビリー・オーシャン、レディオヘッドのエド・オブライエン、バスティーユのダン・スミス、ザ・クラッシュ、ミステリー・ジェッツ、ジャミロクワイなどもバックを務めているこのアルバムは、誰もいないスタジオやパフォーマンススペースのサウンドレコーディングをフィーチャーしており、アーティストが提案されている法改正の潜在的な影響を示しています。

このアルバムのトラックリストには、「英国政府はAI企業に利益をもたらすために音楽の盗難を合法化してはならない」というメッセージがシンプルに綴られています。

Various Artistsによるアルバムの裏表紙のトラックリストには、メッセージが込められています

政府は現在、AI企業がテキストやデータマイニングに使用している場合、著作権を尊重せずにオンラインで入手可能な資料を使用できるようにする提案について協議しています。

ジェネレーティブAIプログラムは、テキスト、画像、音楽などの膨大な量のデータをオンラインでマイニングまたは学習して、人間が作成したような新しいコンテンツを生成します。

この提案は、アーティストやクリエイターに、いわゆる「権利留保」、つまりオプトアウトする能力を与えるものです。

しかし、この計画に批判的な人々は、個々の作家やアーティストが、自分のコンテンツをそのように使用したくないと何千もの異なるAIサービスプロバイダーに通知したり、インターネット全体で自分の作品に何が起こったかを監視したりすることは不可能だと考えています。

科学・イノベーション・技術省(DSIT)のスポークスマンは火曜日の声明で、英国の「著作権とAIに関する現在の体制が、クリエイティブ産業、メディア、AIセクターがその潜在能力を最大限に発揮するのを妨げており、それを続けることはできない」と述べた。

「だからこそ、私たちはAI開発者と権利者の両方の利益を保護し、両者が繁栄できるソリューションを提供する新しいアプローチについて協議してきました。

「私たちは、これらのセクターと全体を通じて幅広く関与しており、今後もそうしていきます。」

彼らは「決定は下されていない」と付け加え、「各目標を達成するための実際的な計画があると絶対的に確信できるまで、いかなる動きも起こさない」と付け加えた。

「ミュージシャンにとって悲惨なこと」

イモージェン・ヒープ、ユスフことキャット・スティーヴンス、リズ・アーメッドもサイレント・アルバムのリリースをサポートし、トリ・エイモスとハンス・ジマーもバックアップしている。

このアルバムに参加したもう一人のアーティストである作曲家のマックス・リヒターは、この計画がミュージシャンだけでなく、作家からビジュアルアーティストまで、あらゆる「薄利なクリエイター」にどのような影響を与えるかを指摘した。

2023年、英国の音楽は、対外的には過去最高の76億ポンドを経済に貢献しました。

サイレント・レコードの主催者であるエド・ニュートン＝レックスは、この提案は英国のミュージシャンにとって "悲惨 "であるだけでなく、"まったく不必要 "だと述べた。 

政府がどのように正当化しようとも、ミュージシャン自身はこの思慮の浅い計画を徹底的に非難することで一致している。

シンガーソングライターのナオミ・キンペヌは、「私たちは政府に見捨てられ、ビッグ・テックの利益のために私たちの作品を盗まれるわけにはいかない」と付け加えた。

彼女は、この計画は "イギリスの多くの新進アーティストの展望を打ち砕く "と述べた。

火曜日の全国紙が「メイク・イット・フェア・キャンペーン」の折り返し広告を掲載した。

1月、サー・ポール・マッカートニーはBBCに対し、著作権法の改正案が "ぼったくり "テクノロジーを可能にし、ミュージシャンやアーティストが生計を立てることを不可能にするかもしれないと語った。

月曜日に発表された『タイムズ』紙への書簡の中で、サー・ポール、ロード・ロイド・ウェバー、サー・スティーブン・フライを含む署名者は、法改正は大手テック企業によるクリエイティブ・セクターへの強奪を許すことになると述べている。

彼らは、ブッシュ、エド・シーラン、デュア・リパ、スティングらと共に、著作権法を変える計画に反対している。

火曜日、英国のクリエイティブ産業は、自分たちのコンテンツがAI企業に無料で提供される危険にさらされていることを強調するキャンペーンを開始した。

『Make it Fair』キャンペーンは、全国紙に広告を掲載し、政府の計画に反対するよう国会議員に手紙を書くよう呼びかけている。

にほんブログ村

人気ブログランキング

中国企業、英国の大学とのつながりを利用し、軍事利用の可能性のあるAIへのアクセスを求める

The Guardian, 16 June 2024

独占: 中国との学術提携がもたらす安全保障上のリスクへの懸念が高まる中、インペリアル・カレッジの科学者の電子メールが暴露される

インペリアル・カレッジのデータサイエンス研究所が開発したソフトウェアの用途として、「スマート研究所、スマート軍事基地、スマート海洋」が挙げられている。Photograph: Alicia Canter/The Guardian

 中国の国有企業が、「スマート軍事基地」で使用される可能性のあるAI技術にアクセスするために、イギリスの一流大学との提携を利用しようとしていたことが、『ガーディアン』紙の取材でわかった。

電子メールによると、中国の江蘇自動化研究所（Jari）は、インペリアル・カレッジ・ロンドンの科学者が開発したソフトウェアを軍事利用することを議論していた。

中国のドローン軍艦の主要設計者である同社は、2019年に同大学と300万ポンドの契約を結ぶ前に、インペリアル・カレッジの2人の職員とこの目的を共有していた。

MI5は4月、副学長たちに対し、敵対的な国家は「権威主義的、軍事的、商業的優先事項」を実現できる機密性の高い研究をターゲットにしていると伝えた。

保守党のイアン・ダンカン・スミス前党首はこう言った： 「我々の大学は、屠殺される子羊のようなものだ。彼らは独立した科学的調査を信じようとしているが、中国ではそうはいかない。彼らがやっていることは、非常に大きなリスクを冒しているのです。」

フューチャー・デジタル・オーシャン・イノベーション・センターは、イイク・グオ教授の指揮の下、インペリアルのデータサイエンス研究所を拠点とする予定だった。グオ教授は2022年末にインペリアル大学を去り、香港科学技術大学の学長に就任した。

同センターの目標は、海洋予測、コンピューター・ビジョン、インテリジェント・マニュファクチャリングを「民生用に」発展させることだった。しかし、提携が正式に決定する前に送られたメールによると、Jariは軍事利用も検討していたようだ。

電子メールは、慈善団体「UK-China Transparency」による情報公開請求によって入手された。

2018年11月付の、Jariの研究責任者からインペリアル・カレッジの教授（名前は伏せられている）ともう一人のインペリアル職員に宛てた北京語の電子メールには、Jariのセンターの主な目的として、インペリアルのデータサイエンス研究所が開発したソフトウェアを独自の「JariPilot」技術に統合して「より強力な製品を形成」できるかどうかをテストすることが記されている。

「スマート研究所、スマート軍事基地、スマート海洋」という用途が提案されている。

「調査を行ったUK-China Transparencyのディレクターであるサム・ダニングは、「我々の調査は、インペリアル・カレッジ・ロンドンの専門知識とリソースを、中国の国軍の海洋戦闘ドローン研究プログラムに結びつけようとした証拠を示している。

「このようなパートナーシップは大学セクター全体で行われています。このような提携は大学セクター全体で行われています。これらの提携は、習近平政権下で中国がますます権威主義的、軍事主義的になっていること、そしてこの国家との取引には適切なデューデリジェンスが必要であることを、英国の科学大学が理解しているかどうかという問題を提起しています。」

2019年9月には共同センターの立ち上げイベントが開催されたようで、2021年のインペリアルの年次報告書には、Jariからの資金提供が、誘致した権威ある産業助成金の項目で挙げられている。

しかし、最終的にパートナーシップは2021年に解消された。インペリアルによると、研究は進まず、受け取っていた50万ポンドの資金は、政府関係者との話し合いの後、2021年10月に返還された。

インペリアルの広報担当者は、「インペリアルの方針のもと、パートナーシップと共同研究はデューデリジェンスと定期的な見直しの対象となります」と述べた。「パートナーシップを解消する決定は、英国の輸出管理法を考慮し、国家安全保障上の懸念を考慮して政府と協議した後に下された。」

英国王立サービス研究所（RUSI）の中国専門家であるチャールズ・パートン氏は、この提携は「明らかに極めて不適切」であり、調印すべきではなかったと述べた。

「Jariが軍事兵器を製造しており、それが将来、わが国の海軍に対して使用される可能性があることを知るのに、どれほどの努力が必要だろうか？」パートンは言った。「この人たちは、もっと前から適切なデューデリジェンスを行うべきだった。契約書にサインした後日、（政府の）許可を得るというのでは不十分だ。」

契約当時、インペリアルのデータサイエンス研究所は、国際的に認知されたAI研究者であるグオ教授が率いていた。昨年のチャンネル4のドキュメンタリーで、グオは上海大学の中国人共同研究者と共に、ミサイルの設計やAIを使った海上戦闘用ドローンの艦隊制御に関する論文を8本も執筆していたことが明らかになった。グオはもはやインペリアルに所属していない。

インペリアルは2017年から2022年にかけて、中国の軍事関連機関や企業から1800万ポンド以上の資金提供を受けていたが、それ以来、科学協力に対する政府の方針が厳しくなるにつれ、いくつかの共同事業の閉鎖を余儀なくされている。

中国政府を批判したことで中国から制裁を受けたことのあるダンカン・スミスは、「あらゆる国の政府が、中国の脅威を理解するのに長い時間をかけてきた。漸進的で緩やかな締め付けは行われていますが、まだ十分ではありません。大学はセキュリティ・サービスと歩調を合わせる必要がある。」

インペリアル・カレッジ・ロンドンの広報担当者は言う： 「インペリアル・カレッジ・ロンドンは、国家安全保障の責任を非常に重く受け止めています。インペリアル・カレッジ・ロンドンの広報担当者は、「インペリアル・カレッジ・ロンドンは、国家安全保障の責任を真摯に受け止めており、進化する政府のガイダンスや法律に沿って、政府の適切な部署と緊密に協力し、英国の国家安全保障に対する私たちのコミットメントに沿って、私たちのポリシーを定期的に見直しています。」

「インペリアルの研究はオープンであり、一流の国際ジャーナルに日常的に掲載されています。」

グオ氏は、2022年末でインペリアルを退社することを明かし、Jari社との提携についてコメントを避けた。これまでの共同研究については、論文は「基礎研究」に分類され、特定の現実的な問題を解決するためではなく、幅広い分野の科学的知識を深めるために書かれたものだと述べた。

にほんブログ村

人気ブログランキング

ケンブリッジ大学「機密研究のためにファーウェイから2600万ポンドを受け取った」

The Times, 29 October 2023

AIとモバイルネットワーク技術に現金が使われていたことが報告書で判明

英中透明性は、英国政府がファーウェイを5Gネットワークから追放する意向を発表した後、ケンブリッジ大学が少なくとも480万ポンドを受け取ったと発表した。

GETTY

 ケンブリッジ大学は、人工知能やモバイルネットワーク技術などの機密分野の研究のために、ファーウェイとその子会社から2600万ポンド以上を受け取っていたことが報告書で明らかになった。

慈善団体UK-China Transparencyの調査によると、国家安全保障への懸念から政府が2020年にイギリスの5Gモバイルネットワークからファーウェイを禁止する意向を発表した後、同大学は少なくとも480万ポンドを中国の通信大手から受け取っていたことが判明した。

この調査結果は、世界のリーダーやテクノロジー企業が、来週開催される政府の「安全サミット」でAIの影響拡大について議論する準備を進めている最中に発表された。

リシ・スーナクは、ウェストミンスターでのスパイ疑惑をめぐる緊張にもかかわらず、中国を招待したことで批判にさらされ、リズ・トラス元首相は招待を取り消すよう促している。

情報公開請求への回答を元にまとめられた報告書によると、同大学は2016年から研究助成金1840万ポンド、研究資金69万8764ポンド、寄付金760万ポンドを受け入れた。2016年から昨年にかけてファーウェイから受け取ったとしている770万ポンドを上回っている。

報告書によると、ファーウェイは2019年にインターネット・ネットワーク技術の学生資格とポスドク研究のために228万ポンド、2019年に音声認識とAIの「対話システム」のために80万ポンド、同年には画像や動画からコンピューターを使って情報を導き出すコンピューター・ビジョン技術の学生資格のために15万ポンドを寄付している。

2017年に成立した中国の国家情報法では、企業は「国家情報業務を支援、協力、協同」することが義務付けられている。2019年、シンクタンクのヘンリー・ジャクソン協会の報告書は、ファーウェイはほぼ間違いなく中国の国家情報機関のために行動していると結論づけた。

外交問題特別委員会のアリシア・カーンズ委員長はこう述べた： 「中国共産党が英国のアカデミアに潜入し、重要な研究や技術を流出させようとする組織的な試みを示す証拠が増えている。」

「9月、ケンブリッジ大学は、北京の大手軍事航空宇宙企業との提携を解消した。今、ケンブリッジ大学は、2020年に政府が国内の5Gインフラから排除したほど大きな脅威と指定されている中国の国営企業から、なぜまだ数百万ドルもの資金を受け入れているのかについて、自問自答する必要がある。」

「学術界は、我々の国家安全保障に貢献する義務があるのであって、我々に侵入し、我々を弱体化させようとする敵対国家に裏口を提供するものではない。」

保守党の前党首であるイアン・ダンカン・スミス卿は、次のように述べた： 「ケンブリッジ大学のような大学が、単に中国政府を助けているという事実に目覚めるのは、もう過去のことだ。中国政府は脅威だ。ファーウェイは脅威であるため、すでに禁止されている......一体何故、彼らはまだケンブリッジのような場所で商売をしているのだろう。」

ファーウェイの広報担当者は、「消費者の利益のために通信技術を開発するために、世界中の大学とオープンで透明性のあるパートナー関係を結んでいる」と述べた。また、「不適切であるという申し立ては根拠がないだけでなく、学術研究においてパートナーシップが果たす積極的な役割について誤解していることを示している」と付け加えた。

「広く報道され、認知されているように、ファーウェイの英国での事業を制限するという決定は、国家安全保障上の懸念ではなく、地政学的な貿易摩擦の結果として下された。」「ファーウェイは従業員が100％所有する民間企業である。政府や第三者が同社の株式を保有したり、経営に介入したり、意思決定したりすることはない。」

大学側は、この報告書は「古く、誤りが多く、ケンブリッジ大学と中国との関係の精査が遅れている」と批判した。

広報担当者は言う： 「大学は2022年3月、ファーウェイからの新たな研究と資金提供をすべて停止した。このプロセスは、保守党政府がファーウェイに英国の5Gネットワーク構築への参加をまだ奨励していた2018年に始まった。」

「私たちのすべての共同研究は、政府の輸出規制に照らして評価されており、私たちは政府の新しい研究協力アドバイスチームと定期的に協力しています。」

✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎

今日はハロウィーンでござる。

この家の飾りもすごいでござる。

これも個人宅でござる。😅

猫耳のカボチャでござるよ。

にほんブログ村

人気ブログランキング

AIサミットに招かれた中国の大臣、サイボーグネズミの開発に貢献

The Telegraph, 30 October 2023

吳朝暉はまた、「ウイグル人虐殺の至るところにその指紋がある」とも評されている。

吳朝暉 | CREDIT: VCG

 英国の人工知能サミットに招待された中国の技術相は、迷路を解く超能力を持つサイボーグネズミの作成に貢献した。

当時、浙江大学の学長だった吳朝暉氏は、ネズミの脳に電極を埋め込むことで、ネズミの問題解決能力を高めることができることを発見したチームの一員だった。

テレグラフ紙によれば、現在科学技術省の次官を務める吳氏は、今週末に開催されるリシ・スーナク氏の主要会議に出席する予定だという。

首相は、中国を招待するのは「正しい」と述べている。技術大国との関わりを持たずに、AIの「真剣な戦略」はありえないからだ。

しかし、スーナク氏が前任のリズ・トラス氏よりも北京との関係に対して明らかにソフトなアプローチをとっていることで、緊張が続いている。

保守党の強硬な中国批判勢力は、同氏にもっと厳しい姿勢を取るよう何度も迫り、イアン・ダンカン・スミス元党首も、英国の現在の姿勢には「宥和的な臭いがする」と警告している。

吳氏がサミットに出席するとの観測は、技術相が新疆ウイグル自治区でのウイグル人虐待に "指紋 "をつけていると主張する中国タカ派の怒りを買った。

テレグラフ紙は、当局がイスラム少数民族に対する弾圧キャンペーンを強化する1年前に、吳氏が西部地域の大部分を支配する国営準軍事組織と協定を結んだことを明らかにした。

列国議会同盟の鄭清光が独自にまとめた調査によると、彼は2016年に浙江大学のトップだった時に、新疆生産建設兵団（XPCC）と「人材交流」を含む「包括的な戦略的枠組み」に合意した。

大学側の声明によると、その目的は「教育、医療、人材、科学研究などで浙江大学の優位性をフルに発揮し、新疆生産建設兵団の産業構造の転換とアップグレードを促進し、社会的大義に関する公務の能力とレベルを高め、浙江大学の発展を促進する」ことだった。

この準軍事組織はその後、少数民族に低賃金または無賃金で労働を強要していると非難され、アメリカ政府から「深刻な人権侵害」の制裁を受けている。

2016年に発表された "ラット・サイボーグ "実験では、ネズミを迷宮の中を誘導するコンピューターに接続することで、ネズミの迷路解決能力が向上することがわかった。

ネズミの脳には電極が取り付けられ、専用のアルゴリズムによって刺激されると、ミニ・ブルートゥース・バックパックを介して左右に曲がるよう促した。

研究結果によると、サイボーグネズミは、技術に縛られたネズミよりも、迷路を解くのが得意であった。

この結果は非常に有望であったため、著者らはサイボーグを将来の捜索救助活動に利用する可能性を示唆した。

浙江大学出身の7人の科学者の一人である。

彼は実験を実行したというよりも、「実験を思いつき、設計した」と言われている。

TiktokやSnapchatを含むハイテク大手が、スエラ・ブラバーマン内務大臣主催のサミットで、AIが生成した児童性的虐待画像を根絶する誓約書に署名した。

しかし、メタはこの動きに同意するために出席しなかった。

企業、慈善団体、学者、英国とオーストラリア政府の代表が参加したこのイベントは、虐待を受ける子どもたちを描いたAI生成コンテンツの「衝撃的な」広がりに対処することを目的としていた。

インターネット・ウォッチ財団は、リアルな画像は子どもに対する性的暴力を常態化させる恐れがあると警告した。画像はコンピューターで生成されたものではあるが、しばしば実際の素材に基づいており、生存者を「再被害化」させる可能性がある。

AIが生成した画像の急増は、法執行機関が児童性的虐待の被害者を追跡・特定し、犯罪者を検出して裁判にかけるのを遅らせる可能性もある。

ブラヴァーマン夫人は言う： 「AIによって生成された児童性的虐待画像は、ネット上の災いです。だからこそ、テック企業は法執行機関と協力し、その拡散を取り締まらなければならないのです。画像はコンピューターで生成されたものですが、実在の人物が写っていることが多いのです。」

「私たちは、この問題に正面から取り組むため、このような幅広い団体を招集した。これを野放しにしておくわけにはいかない。」

署名者には、ドイツ政府、オーストラリア政府、米国司法省、イタリアの法執行機関、NSPCC、ルーシー・フェイスフル財団、NSPCC、Stability AI、国家犯罪対策庁が含まれる。

ロイター通信が最初に報じた吳氏のAIサミットへの招待は、彼が新疆ウイグル自治区での弾圧に「直接関与」していると主張する中国批判者からの反発を呼び起こし、研究者たちは、2017年以来100万人以上のウイグル人、カザフ人、その他の少数民族のイスラム教徒が拘束されていると推定している。

列国議会同盟のルーク・デ・パルフォード事務局長はこう語る： 「ウイグル人に対する弾圧は、すでに歴史上最も技術的に進んだジェノサイドと呼ばれている。」

「習近平自身も、AIを "危険な嵐 "を抑制する国家安全保障のツールとして使うべきだと語っている。」

「ウイグルの大量虐殺に指紋を残した人物が、どうやら北京がロンドンに送り込んだ人物らしい。」

「英国が新疆ウイグル自治区に対してとってきた強い立場を知っているだけに、彼を送り込むこと以上に北京を侮蔑するようなジェスチャーは考えにくい。」

「この人物がXPCC（ウイグル人大虐殺に関与したとして米国から制裁を受けた組織）の嘆かわしい行動に直接関与しているという事実は、同盟国の目を逃してはいないだろう。」

✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧✦✧

明日はハロウィーンでござる。こちらのお宅はかなり盛り上がっているでござるよ。

にほんブログ村

人気ブログランキング

「ディープフェイクは民主主義への脅威」とマッカラムMI5長官

The Times, 19 October 2023

MI5のトップ、ケン・マッカラムは、AIが "危険な知識 "を広める可能性があると警告した。

DANNY LAWSON/PA

 ディープフェイク・テクノロジーは、次の総選挙で混乱と偽情報を撒き散らすために敵対国家によって利用される可能性があると、MI5のトップが警告した。

ケン・マッカラムは、このテクノロジーはかつてないほど洗練されており、「私たちの社会にあらゆる種類の混乱と不和と混沌」を植え付ける可能性があると述べた。

人工知能はテロリストのプロパガンダを増幅させるためにも使われており、爆弾製造の指示のような「危険な知識」を広める手助けをする可能性がある、と彼は警告した。

キア・スターマー卿は最近、ディープフェイク技術の犠牲になった。

THE MEGA AGENCY

マッカラムは、米国、オーストラリア、カナダ、ニュージーランドからなる英国の最も親密な諜報パートナーであるファイブ・アイズ同盟とカリフォルニアで開催された安全保障サミットに出席した。マッカラムは、敵対国、特に中国の経済スパイによる脅威について、前例のない警告を公に発した。

今月、労働党党首のキア・スターマー卿が、党職員を罵倒する様子を捉えたとされる音声が流され、ディープフェイク技術の犠牲になった最初の大物政治家となった。これはすぐに否定された。

次の選挙でディープフェイクが問題になる可能性はあるかと聞かれたマッカラム氏は、MI5がディープフェイクを危険視しているのは、技術が「格段に洗練されている」からだと答えた。彼は言った： 「それは明らかに、さまざまな種類のアクターが、あらゆる方法で世論に影響を与えるためにこれらのテクノロジーを利用しようとする可能性を開いている。ディープフェイクに対する最善の対応のひとつは、ディープフェイクを発見し、それがそうであることを公表することであることは明らかだ。」

リシ・スーナクが来月主催するAIサミットを歓迎し、世界がリスクを管理しながらAIのメリットについて話し始める「いい時期」だと述べた。

FBIのクリストファー・レイ長官は、アメリカやイギリス、その他の西側諸国企業が開発した革新的なAIが中国に盗まれる危険性があると述べた。

マッカラムは、敵対的なエージェントだけでなく、テロリストからのリスクもあると警告した： 「AIは社会に大きなチャンスをもたらし、それは我々のような組織にも大きなチャンスをもたらす。. . そして、必然的にそれに伴う様々なリスクが発生する。その中には、テロリズムを可能にしたり、私たち全員が後悔するような方法で危険な知識を広めたりするようなリスクも含まれる。」

ジャスワント・シン・チャイル（21）は今月、クロスボウを持ってウィンザー城に侵入し、女王を殺すと宣言した罪で投獄された。彼はオンラインのチャットボットと5,000通以上のメッセージをやりとりし、そのチャットボットが彼にテロを実行するよう促していたことが明らかになった。

マッカラムは、このようなシステムが製造者の意図しない用途に使われる「明らかなリスク」があると述べた。

同氏は、MI5が過激派から「危険な知識の入手を制限」するために働いていると述べた。彼は、人工知能には膨大な量のデータを選別するなどの利点があると強調した。MI5は毎週何千時間もの音声データを合法的に収集しており、AIはそれを翻訳し、素早く検索できるようにするのに役立っている。

にほんブログ村

人気ブログランキング

MI5、敵対国家によるハイテク機密「窃盗」企て急増を警告

The Telegraph, 17 October 2023

ケン・マッカラム氏、各国がAIやその他の知的財産の開発競争を繰り広げる中、「賭け金は今や信じられないほど高い」と語る

ファイブ・アイズ情報同盟に加盟する英国安全保障局の本部 | CREDIT: Alisdair MacDonald

 英国は、敵対的な国家による「ハイテク機密を盗もうとする」攻撃的な試みが急増していると、MI5のトップが警告した。

前例のないセキュリティー・サミットの冒頭で、MI5のケン・マッカラム局長は、各国が人工知能やその他のハイテク産業の開発にしのぎを削る中、「賭け金は今や信じられないほど高い」と警告した。

このテクノロジー・サミットは、ファイブ・アイズ情報同盟のメンバーが公の場に姿を現し、西側諸国に対する安全保障上の脅威について懸念を表明する初めての機会である。

英国、米国、カナダ、オーストラリア、ニュージーランドの諜報機関で構成されるファイブ・アイズ同盟は、第二次世界大戦後、ソ連の脅威に対抗するために結成された。

しかし、この同盟はほとんど影に隠れており、これまでその共同指導者たちが公の場に姿を見せたことは一度もなかった。

ファイブ・アイズの指導者たちは、人工知能（AI）を含む重要な分野における知的財産の窃盗をめぐり、敵対国家、特に中国がもたらす脅威に対抗する方法について話し合うため、FBI長官のクリストファー・レイの招待でシリコンバレーの中心部に集まった。

マッカラム氏は次のように述べた： 「英国では、競争上の優位性を奪おうとする他国による攻撃的な試みが急増している。これは5カ国すべてで同じです。」

マッカラムは、人工知能、量子コンピューティング、合成生物学などの分野をリードする国家は、すべての国の未来を形作る力を持つだろうと言う。| CREDIT: Yui Mok/PA

「人工知能、量子コンピューティング、合成生物学などの分野をリードする国家は、我々の未来すべてを形作る力を持つだろう。」

「手遅れになる前に、私たち全員が認識し、対応する必要がある。」

ファイブ・アイズ・アライアンスは、ビジネスリーダーたちをセキュリティ・サミットに招待し、新たなテクノロジーや、革新的なアイデアを敵対国に盗まれないようにする方法について議論した。

レイ氏は次のように述べた： 「新興テクノロジーは、経済と国家安全保障、そして経済大国としてのアメリカの役割にとって不可欠なものですが、同時に新たな脅威をもたらすものでもあります。FBIは、ファイブ・アイズや産業界のパートナーと協力し、新技術を盗もうとする者や悪意のある目的のために悪用しようとする者の両方から、新技術を守り続けることを約束します。」

オーストラリア安全保障情報機構のマイク・バージェス事務局長は、次のようにコメントした： 「このサミットは、前例のない脅威に対する前例のない対応である。ファイブ・アイズのセキュリティ・サービスがシリコンバレーに集まるという事実は、脅威の本質と、それに対抗する我々の集団的決意を物語っている。」

「このサミットは、脅威に対する認識を高め、テクノロジー部門がリスクを理解し、特定し、管理するのに役立つだろう。」

この連合は1946年に結成され、インテリジェンスを共有し、セキュリティの取り組みを調整している。冷戦終結後、脅威は変化し、ジハード・テロリズムや、ロシアのプーチン大統領による最近の脅威、さらには中国のスパイ活動の拡大に対抗するために焦点が当てられている。

にほんブログ村

人気ブログランキング

なぜAIが西側諸国の対中冷戦における次の前線なのか？

The Telegraph, 11 August 2023

バイデン氏、裏口から中国ハイテクに資金提供する利益追求企業を取り締まる

 アメリカの投資家は、中国の最先端技術に資金を流すことができなくなる。

ジョー・バイデン米大統領は、世界第2位の経済大国である中国の先端コンピューター・チップ、量子コンピューター、人工知能（AI）に対する米国の金融支援を阻止し、規制する大統領令に署名した。

大統領は、「開かれた投資は我々の経済政策の基礎である」としながらも、米国の投資が「米国と同盟国の能力に対抗する」ために使われる技術に資金を提供することを懸念していると述べた。

言い換えれば、バイデンは、利益に飢えたベンチャー・キャピタルやプライベート・エクイティ企業が、裏口から中国の兵器に資金を提供してしまうことを懸念しているのだ。

この禁止令は、最先端技術、特にAIが、西側諸国の対中冷戦における新たな最前線となったことを示している。

西側諸国政府は、人工知能が邪悪な目的に利用されるのを阻止するためにガードレールを設置している。| CREDIT: Saul Loeb/AFP

サリー大学のコンピューターサイエンス専門家、アラン・ウッドワードによれば、AIの進歩はChatGPTの人気によって主流派の注目を集めたが、他の先進的なテクノロジーはより不吉な目的に使われる可能性が非常に高いという。

名目上は民間用に設計されたAIシステムが、武器の照準システムや自律型ドローン、あるいは高度なサイバー兵器に使われる可能性がある。

また、コンピューターソフトウェアの「脆弱性を自動的に見つける」ように設計されたり、「偽情報を広めるような攻撃」に使われたりする可能性もあるという。

西側諸国政府は、この技術が許可や監視なしにこれらの目的に使用されるのを阻止するためのガードレールを設置している。しかし、北京は同じ懸念を持っていない。

「中国には同じような規制はありません。なぜ自律型兵器に組み込まれないのでしょうか」とウッドワードは言う。

AIの軍事的可能性に対する懸念の多くは、中国が攻撃的な姿勢を強めている台湾と結びついている。木曜日、北京は海軍の艦船と戦闘機の大群を台湾に向けて派遣した。

ビーコン・ポリシー・アドバイザーズのオーウェン・テッドフォードは言う： 「米国議会は、太平洋における軍事的パワーバランスを脅かしたり変えたりする可能性のある先端技術に資金を提供すべきではないという信念がある。」

こうした懸念が、ワシントンに行動を促したのだ。バイデンは今、アメリカの同盟国もそれに続くことを望んでいる。

「政権としては、同盟国やパートナーと共に行動することで、より効果的に、より持続的に行動できると考えています」と、ホワイトハウスの報道官は水曜日に述べた。

リシ・スーナクは今後、中国のAIや量子技術への英国からの投資を同様に禁止するよう圧力を受けるだろう。

テッドフォードは言う： 「ホワイトハウスは同盟国に働きかけて、資本が西側からもたらされないようにしようとしている。」

アメリカはすでにイギリスを含む同盟国に圧力をかけ、ファーウェイを機密通信インフラから追放することに成功している。

Hogan Lovellsの政府問題担当ディレクターで、以前は内閣府に勤務していたRobert Gardenerは、禁止令に従えば、むしろスーナクの国内AIへの野心を後押しすることができると言う。

「政府は英国を世界的な技術ハブにすることを強く望んでおり、明日の5つの技術のひとつがAIである。」

「大臣たちは、英国への投資、特にAIへの投資が、海外へ、それも海外だけでなく、依然として英国の安定に脅威を与えている中国へ向かうよりも、むしろ行われることを望んでいる。」

首相報道官は次のように述べた： 「英国は、いくつかの投資に付随する潜在的な国家安全保障上のリスクを引き続き評価しながら、これらの新たな措置を慎重に検討していく。」

一方、北京は米国の禁止措置を「反グローバル化」の兆候と決めつけ、中国はそれに対して「措置を取る権利を留保する」と述べた。

しかし、この措置は中国国内で怒りを買っているものの、専門家によれば、実際にはかなり限定的なものだという。

ウェドブッシュ証券のテクノロジー・アナリスト、ダン・アイブズ氏は、アメリカの新しいルールは「恐れられていたよりも狭い」ものだと言う。

テッドフォードによれば、バイデンは安全保障上の懸念と経済を活性化させるAIの可能性のバランスを取ろうとしているという。

「この提案が発表されるまでにこれほど時間がかかった理由のひとつは、ホワイトハウス内に、広すぎてAIの商業的な利用に影響を与えすぎるようなルールを作ることへの懸念があったからです」と彼は言う。

そのため、この法案では、主に軍事目的で使用されるAIシステムに的を絞ることになる。

近年の緊張の高まりを受け、一部の投資家はすでに中国を敬遠している。しかし、少なくとも何億ドルもの資金が危険にさらされることになる、とテッドフォードは言う。

米国の投資家たちは近年、人工知能、顔認識、量子コンピューティングなどの分野で、中国のベンチャー企業に静かに資金を供給してきた。

特に物議を醸している投資もある。

米国の年金基金と大学が、中国のAI企業センスタイムとメグヴィーに資金を投入した。この2社は、数十億ドルの価値がある中国のAIの「小さなドラゴン」として知られている。

両社とも、中国の警察やセキュリティ・サービスで使用されている高度な顔認識・画像認識ソフトウェアを開発している。これらの企業は数年にわたりアメリカからブラックリストに掲載され、「中国の軍産複合体の一部」だと非難されてきた。

両社は、中国がイスラム系少数民族に対する人権侵害で非難されている新疆ウイグル自治区での集団監視を可能にしたという主張に直面している。両社とも否定している。

人工知能の世界的リーダーはすでに、新疆ウイグル自治区のウイグル族など少数民族の監視など、さまざまなシステムでこの技術を使用している。| CREDIT: Matt Dunham/AP

中国は、少数民族であるウイグルの人々を人種的にプロファイリングし、群衆の中で特定し、当局に警告を発することができる人工知能ツールを開発していると非難されている。

一方、大人気の動画アプリ「TikTok」に対する欧米の支援も、データ・セキュリティの懸念から各国政府がアプリを禁止していることから、批判を浴びている。

TikTokを運営するBytedanceの最大の投資家の中には、General Atlantic、Baillie Gifford、シリコンバレーの投資会社Sequoiaの北京支店など、アメリカとイギリスのファンドが名を連ねている。Bytedance社は、TikTokが中国共産党と協力したり、ユーザーデータを不正に収集したりすることはないと主張している。

ラジオ・フリー・モバイルのアナリスト、リチャード・ウィンザー氏は、ほとんどの外国人投資家は、北京のテクノロジー部門に対する独自の取り締まりによって、すでに「怖気づいた」のだと述べた。

しかし、たとえバイデンの禁止令が象徴的なもので、リスクが低いとしても、政治的な計算は比較的単純なものだとウッドワードは言う。

「自分に跳ね返ってくる可能性のあるものに資金を提供するのは無謀に思える。」

にほんブログ村

人気ブログランキング

中国をAIサミットに招待せよ、保守党の上級議員たちがリシ・スーナクに伝える

The Independent, 8 June 2023

新技術に関する規制について、世界的な「賛同」を呼びかける。

© PA Wire リシ・スーナク、ワシントンDC訪問

 保守党の上級議員は、リシ・スーナク氏に対し、今秋開催されるフラッグシップの人工知能（AI）サミットに中国を招待するよう促した。

この強力な新技術を規制しようとする世界初のイベントを、英国が主催することになった。今週初め、首相の技術顧問は、AIがわずか2年後には「多くの人間を殺す」ほど強力になる可能性があると警告した。

ワシントンを訪れたスーナク氏は、イギリスはこの問題で主導的な役割を果たす「良い位置にいる」と述べた。

リスクの世界的な性質にもかかわらず、NO. 10は「同じ考えを持つ国」を招待するとしか言っておらず、中国が除外されることを示唆している。

コモンズの防衛委員会のトビアス・エルウッド委員長は、中国は「絶対に」招待されるべきだと述べた。「原子力の進歩と同様に、平和的な目的のためにAIがどのように研究され、活用され、監視されるかについて、厳格な国際ルールを策定する必要がある。」

「最初から全面的な賛同を得なければ、人間を超えるAIの危険性は発展するためのスペースが与えられ、どんな脅威も地理的な国境によって封じ込められることはないだろう。」

コモンズ外交委員会の議長であるアリシア・カーンズは、次のように述べた：「我々は彼ら（中国）のAI能力とアプローチをよりよく理解し、世界的な基準に合意することを求める必要がある。」

一方、元国家安全保障顧問は、英国が他国に後れを取るのを防ぐため、AI駆動の兵器システムに投資すべきであると述べています。

セドウィル卿は、AIは「防衛能力の未来」であり、英国は「自重する」ために投資する必要があると述べています。

今週初め、マット・クリフォードは、技術による短期的なリスクも「かなり怖い」と警告し、AIによって人類が絶滅するリスクは「ゼロではない」と述べた。

No. 10はコメントを拒否した。

❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀

アザミに似ている、オウゴンヤグルマソウの蜜を集めるマルハナバチさんでござるよ。

にほんブログ村

人気ブログランキング

ソーシャルメディアへの投稿を「国家監視」したAI企業

The Telegraph, 3 June 2023

Logicallyは、数百万ポンドの政府契約を獲得し、虚偽と判断された項目を監視し、フラグを立てる。

© Provided by The Telegraph AI firm

 ヨークシャーの工業団地は、国家による監視活動が行われる場所とは考えにくい。しかし、この何もないように見える倉庫には、政府が人々のソーシャルメディアへの投稿を監視するために使用している人工知能（AI）企業があります。

Logicallyは、政府が「誤報」と呼ぶ、意図的にネット上に流された偽情報や、不注意で拡散した偽情報を分析するために、120万ポンド以上の税金を支払われています。

これは、数十万以上のメディアソースと「主要なソーシャルメディア上の全ての公開記事」から素材を「取り込み」、AIを使用して潜在的に問題のあるものを特定することによって行われます。

ケンブリッジ大学工学部を卒業した27歳のリリック・ジェインが6年前に立ち上げた会社で、彼は母国インドの選挙で初めてこの技術をテストに使った。

Logicallyの主張する「世界最大級のファクトチェック専門チーム」と共に、イギリス、ヨーロッパ、インドに分散して配置されているのです。

このモデルにより、同社は次々と契約を獲得しています。

文化・メディア・スポーツ省（DCMS）と120万ポンドの契約を結んでいるほか、保健社会福祉省とも140万ポンドの契約を結び、ワクチンサービス内の有名人に対する脅威を監視しています。

その他、米国連邦政府機関、インド選挙管理委員会、TikTokなど、優良なクライアントが名を連ねています。

フェイスブックとの「パートナーシップ」

また、Facebookとも「パートナーシップ」を結んでおり、Logicallyのファクトチェッカーが他の人々が見るコンテンツに大きな影響力を与えるようです。

2021年7月に発表された共同プレスリリースによると、Logicallyが事実と異なると判断した場合、Facebookは特定の投稿のリーチを制限するとのことです。

「Logicallyがあるコンテンツを虚偽と評価した場合、Facebookはそのコンテンツを目にする人が少なくなるように配信量を大幅に減らし、そのコンテンツが虚偽と評価されたことを知らせる警告ラベルを貼り、それを共有しようとした人に通知します」とプレスリリースには書かれています。

Logicallyは、英国政府のために収集した証拠をFacebookに渡すことはないと言っているが、Logicallyとソーシャルメディア企業の提携は、言論の自由運動家の間で懸念を呼んでいる。

このAI企業は、パンデミックの発生から何ヶ月も経った2021年1月にDCMSと初めて契約し、「分析支援」を行うことを任務とした。

その後、その責任は拡大し、「潜在的に有害な誤報や偽情報を包括的に把握するための政府横断的な取り組み」を支援するようになったようです。

The Telegraphが入手した文書によると、DCMS内の秘密組織であるCounter-disinformation Unitのために、「Covid-19 Mis/Disinformation Platform Terms of Service Reports」を定期的に作成していたことが判明した。

このタイトルから、TwitterやFacebookなどのプラットフォームの利用規約に違反する投稿を対象とすることが目的であることがわかります。

しかし、データ法に基づき開示された報告書の詳細から、Vaccines Confidence Projectの統計学者であるAlex De Figueirido博士を含む著名な人物による正当な投稿のログも含まれていることが判明した。

元大臣のNadhim Zahawi氏はThe Telegraphに対し、このツイートを掲載したのは間違いだったと考えていると述べています。しかし、Logicallyは、合法的に見える投稿が「武器になる」可能性がある場合は、レポートに含めることもあると述べている。

「文脈は重要です」と広報担当者は言う。

「特に誤報や偽情報ではないコンテンツでも、武器になるような証拠や可能性があれば、報告書に含めることはあり得ます。

さらに広報担当者は、データ法に基づき取得された詳細は、「コンテンツがフラグを立てられた理由を削除することが多く、したがって非常に誤解を招く可能性がある」と付け加えた。

しかし、Logically社が作成した公文書は、同社の考え方に少なくとも一定の光を当てているように見える。

21ページに及ぶ「英国におけるコビッド19の偽情報」報告書は、「反ロックダウン」「反コビッド19ワクチン感情」に繰り返し言及している。

また、「#sackvallance」と「#sackwhitty」というハッシュタグは、「専門家のアドバイスを強く軽んじている」証拠であり、特に政府の元最高科学顧問であるSir Patrick Vallanceやイングランド最高医学責任者のSir Chris Whittyの推奨を軽んじているというよりは、そのことを強調しています。

「実害を防ぐ」ことを目指す

Logicallyの広報担当者は、言論の自由を「強く」信じており、「（言論を）制限するという指摘は不正確で間違っている」と述べています。

また、「言論の自由を制限するような提言はしていません」とも述べています。

「クライアントにサービスを提供する際、私たちは、オンライン上の害悪、誤報、偽情報の拡散に取り組み、現実世界の害悪を防止するために、オンラインの公共情報環境における物語や傾向を含むコンテンツを監視します。」

にほんブログ村

人気ブログランキング

シリコンバレーのトップ投資家が中国のテクノロジーに資金を提供する方法

The Times, 6 May 2023

かつて米国金融界が誇ったセコイアは今、北京の恐るべきAI軍資金に出資している

 2016年、米国防総省はコンピューターサイエンスの専門家や技術者を、米軍の名門校であるウェストポイントに静かに集め、会議を重ねた。テーマは人工知能で、専門家たちが伝えたメッセージは厳しいものだったと、会議に出席していたサイバーセキュリティ企業Primer.AIの元チーフ、ショーン・ゴーリーは言う。

AIは「内燃機関以来の戦争への大きな変化であり、全てに影響を及ぼす」と国防総省の職員は言われた。専門家たちは、AIを「第3のオフセット」と考えるのが最も適切だと付け加えた。国家安全保障の世界では、オフセットとは、戦闘が始まる前に敵対国を敗北させるほどの技術的優位性を意味する。最初の2つのオフセットは、核兵器と、それを運搬する精密誘導弾である。AIはその3つ目である。

このウェストポイントの警告から7年、産業や社会を根底から覆す脅威を持つAIツールの登場は、このメッセージに新たな緊急性を与えています。「AIの第一人者」とされる英国のコンピューター科学者ジェフ・ヒントンは先週、グーグルを退社し、自分が発明を手伝った技術の危険性について、より自由に発言できるようになりました。彼の転向は、原子爆弾の開発を主導した後、軍縮のために著名な発言者となったロバート・オッペンハイマーの転向と同じである。

このような警戒感の高まりは、シリコンバレーで最も有名なベンチャーキャピタル企業の1つが、突然、中国での活動をめぐって議員から圧力を受けるようになった理由を明らかにするのに役立つ。

GoogleやAirbnbなどを支援するSequoia Capitalは、中国のテックシーンにおいて最も積極的なアメリカ人投資家である。昨年、セコイア・チャイナ部門は85億ドルの資金を調達し、共産主義が支配する中国のハイテク新興企業に資金を投入しています。

「過去 6 か月間、ワシントンでは、『ちょっと待ってください。私たちは中国と AI の軍拡競争をしているのに、それに資金を提供しているのでしょうか? 』」そんなことをすべきではありません」とサイバーセキュリティの上級情報筋は語った。 「『セコイアをどうやって罰するの？』という会話が間違いなくあります」

Sequoiaは、この記事へのコメントを拒否した。セコイアは、元米国政府高官が運営する国家安全保障アドバイザリー会社Beacon Global Strategiesを雇い、国家安全保障上のリスクについて案件を選別し、また、ジョー・バイデン政権からのますます強硬なアプローチに対応できるように支援したと伝えられている。

専門家は国防総省の関係者に、AIは "内燃機関以来の戦争への大きな変化 "になると話している。

ALEX WONG/GETTY IMAGES

大統領は今後数週間のうちに、半導体やAIを含む中国の主要技術を銀行融資する米国企業の能力を制限する大統領令に署名すると予想される。これは、10月に導入された画期的な政策に続くもので、アメリカは四半世紀にわたる中国との自由貿易を覆し、高度なAIモデルの訓練と実行に必要なチップの輸出を制限することになりました。その目的は、「中国がAI技術を軍事的に採用するのを鈍らせる」ことだと、ワシントンの戦略国際問題研究所のAI専門家、グレゴリー・アレンは書いています。

セコイア・チャイナは、このエスカレートする対立の中心にある。運営するのは、イェール大学出身の起業家から投資家に転身し、中国のテック業界で最も著名な人物の1人であるNeil Shenだ。セコイアはカリフォルニアに本社を置き、パートナーに英国で最も成功したハイテク投資家であるマイケル・モリッツ卿を擁する。

セコイア・チャイナの投資先には、TikTokを運営する北京の大手企業、ByteDanceが含まれています。このビデオアプリは、微妙な世論操作に利用される可能性があるなど、国家安全保障上の懸念から、米国で禁止される可能性があるそうです。TikTokは全世界で10億人以上のユーザーを抱えており、Shenは取締役に就任しています。

ByteDanceは、2018年に中国科学技術省が設立した団体「北京人工知能アカデミー」の創設メンバーでした。マイクロソフトの社長であるブラッド・スミスは先月、同アカデミーはOpen AIとGoogleを除く全てのAI競合他社をはるかに凌駕していると述べた。「その差は、ほとんどの場合、年単位ではなく、月単位で測られます」と彼は言いました。「我々は、特定の国家がAIを使ってサイバー攻撃-今日よりもさらに強力なサイバー攻撃やサイバー影響力作戦-を仕掛けてくることを絶対に想定すべきであり、期待さえしている。」

セコイア・チャイナは、それ自体、防衛企業への積極的な投資家ではありません。しかし、中国における消費者向け企業と防衛関連企業の境界線は、欧米に比べてはるかに曖昧です。セキュリティ関係者は言う： 「中国は、軍事技術を消費者向け企業の中に隠すのが非常にうまい。アメリカでは、これらの企業の役員に（中国政府の）中国共産党や中華人民共和国政府のメンバー...がいることはない。中国では、AI企業の場合、そうなっています。」

強力な規制当局である中国サイバースペース管理局（CAC）は、国有ファンドを通じてTikTokの姉妹会社であるDouyinの株式を1％保有し、その取締役に名を連ねています。スタンフォード大学のフーバー研究所の調査によると、CACは、中国の習近平国家主席が「中国のデジタルエコシステムに参加する主体、彼らが保有する情報、そしてこの情報が中国国内および海外でどのように流通するかをコントロールする」という戦略を実現するための主要ツールであるとされている。

ByteDance社は、アメリカのデータセンターに情報を保管するなどして、アメリカの消費者データが中国でアクセスできないことを示すために多大な努力を払っていますが、バイデン政権は依然として納得していません。

セコイアのもう一つの投資先は、世界最大のドローンメーカーであるDJIで、アメリカでは、その車両が生成するデータを無償で使用する代わりに、地元の法執行機関にその車両の無償使用を提供しています。世界のドローン市場の半分を支配するDJIは、中国国家からの資金援助も受けていた。

アメリカの国家情報長官であるアヴリル・ヘインズは、12月に開催された防衛フォーラムで、「特に中国が、外国のデータを収集するための枠組みを開発する程度は並外れたもので、...それを転じて、情報キャンペーンやその他のことのために対象者を絞り込み、さらに将来的に彼らが関心を持つさまざまな手段に使用できるようにする能力も備えています」と述べています。

セコイアは、北京ゲノミクス研究所（BGI）の初期の支援者でもあり、体外受精で得られた胚をAIで検査し、健康な子供が生まれる確率が最も高い胚を確認します。この技術は、目の色や肌の色、知能までも選別することができる。この技術が超人の育成に使われるのではないかという懸念がある中、欧米の学者たちは、この技術が使われているアメリカやそれ以外の国でどのように規制されるべきかについて、「緊急で社会全体の議論」をするよう呼びかけています。

昨年チップ禁止令を発表した数日後の演説で、アメリカのアントニー・ブリンケン国務長官は次のように述べた： 「私たちは今、変曲点にいる。冷戦後の世界は終わりを告げ、次に来るものを形作るために激しい競争が行われている。そして、その競争の中心にあるのがテクノロジーです。」

専門家の間で懸念されているのは、この技術が規制や国際基準をはるかに凌駕しているため、誤報からサイバー攻撃、自律型兵器の制御まで、あらゆる悪事に利用されかねないということです。

カリフォルニア大学バークレー校の教授で、AIの発展におけるもう一人の著名人であるスチュアート・ラッセルは、AI制御のドローン群について例を挙げています： 「これらの小型で安価な兵器が、100万個の兵器の群れで使われたらどうなるでしょうか。今度は、水爆のような破壊力を持ちながら、とんでもなく安価で、おそらく世界中の武装したスーパーマーケットで売られることになる」と話しています。

そして、「誰かが怒って、この武器を使って、何十万、何百万もの武器で攻撃を仕掛け、都市全体を消し去ってしまうだろう」とも述べています。

✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎✶✳︎

ロンドンの清々しい新緑の森も、日増しに緑が濃くなっているでござるよ。

にほんブログ村

人気ブログランキング

ディープフェイク・ニュースリーダーは、親中派のニュースを配信しています

The Times, 24 February 2023

"ジェイソン "はウルフニュースという親中派のチャンネルの顔として作られたものである

 英国企業のAI技術が乗っ取られ、コンピューターで作られた二人の司会者が登場する親中国的なニュースチャンネルが作られました。

Wolf Newsはソーシャルメディアで知名度を上げていたが、今月、ロンドンに拠点を置くAI専門家が開発したツールを使った政治的なスパム作戦に関連していることが発覚した。その動画は、非常にリアルなジェイソンとアンナという二人の「ニュースキャスター」をフィーチャーしていたが、その後、コンピュータで作られたものであることが明らかになった。

ある映像では、米国政府の銃乱射事件への取り組みの失敗が非難され、別の映像では、世界経済の回復を助けるために米中協力の重要性が強調されました。どちらも、オオカミのシルエットのロゴと「ホットスポットに焦点を当て、リアルタイムで放送する」というキャッチフレーズで、一見すると架空の会社であるWolf Newsがブランディングされています。

この発見の背景には、ソーシャルメディアの専門家であるグラフィカが、この動画はFacebook、Twitter、YouTubeで活動するSpamouflageと呼ばれる親中派の影響力工作によるものであると主張しています。

Graphika社は、9ページにわたる報告書「Deepfake It Till You Make It」の中で警鐘を鳴らしています。「これは、AIが生成した架空の人物の映像を宣伝する、国家と連携した作戦を観察した初めてのケースでした」と述べています。

ウルフ・ニュースの動画は広く共有されることはなかったが、この技術がより広く利用され、説得力を増すにつれて、こうしたツールの悪用が拡大することが懸念される。

その後、ブルキナファソのオンライン会話を標的とした動画の第2弾が発見された。ウルフ・ニュースの発見は、急速に進化するAI技術によって、一般の人々を騙すことがますます容易になるのではないかという懸念を抱かせるものであった。

急速に発展する技術により、故クイーンなど著名人のディープフェイクが作られるようになった

仮想特殊効果を専門とするFramestoreのエグゼクティブ・クリエイティブ・ディレクター、ウィリアム・バートレットは、エリザベス2世、ボリス・ジョンソン、ドナルド・トランプのディープフェイク版を作成した。彼は、AIで生成された映像の悪用について「非常に心配になってきた」と述べた。

「この技術は、間違った手に渡れば、制度や政府に対する国民の信頼を腐敗させ、社会の機能を損なう可能性がある」と彼は言った。「このようなことが起こるまでに、これほど時間がかかったことに驚いています。作るのがどんどん簡単になってきている。」

ディープフェイク版のボリス・ジョンソン

バートレットは、このような動画が、本物と見分けがつかない有名人のディープフェイク版を登場させるようになると、人気を集めるだろうと予測している。AI技術の急速な発展により、顔だけでなく、ジェスチャー、ボディランゲージ、声も、1枚の画像をもとに簡単にクローン化し、操作できるようになるでしょう。

「ディープフェイクは100％、完全にリアルになる」と彼は付け加えました。「そして、私たちは本能的に、画像よりも動画を信じるようになります。なぜなら、動画がいかに簡単に作れるか、まだ知られていないからです。だから、偽物の信頼性は非常に高いのです。」

Spamouflageが使用するツールは、UCL、スタンフォード大学、ケンブリッジ大学の研究者と起業家のチームによって2017年に設立されたAI専門企業、Synthesiaと連携しています。

世界トップクラスのAI動画ソフトウェアプロバイダーと謳うSynthesiaのサービスは、月額23ポンドから利用でき、3万人以上のユーザーを集めて多数の動画を作成しています。

著名な顧客としては、NHS、Ocado、広告大手のWPPなどがあり、スタッフトレーニングの改善に利用されています。慈善団体Malaria No Moreは、David Beckhamのディープフェイクを作成するために協働しました。このサッカースターは、9つの異なる言語の俳優の言葉を話すことで、この病気に対する認識を高めました。

Synthesiaは、「政治的、性的、個人的、犯罪的、差別的なコンテンツ」を作成するためにツールを使用することを禁止するガイドラインに違反したとして、Wolf Newsチャンネルを作成したユーザーを出入り禁止にしました。

Synthesiaの共同設立者であるVictor Riparbelli氏は、謝罪し、この活動を非難しました。「我々は、安全なプラットフォームから私たちの何万もの顧客の利益を確保するために、コンテンツのモデレーションに非常に早くから投資した」と彼は言った.

「私たちが社会に貢献するために構築した製品を悪用する人を見るのはつらいことです。しかし、少数派がAIが提供する良いもの、そしてAIが私たち全員に開く無限のポジティブな機会を台無しにすることはありません」と述べています。

同氏は、同サービスを利用しようとする「悪質業者の99.9%」が摘発されたと述べている。しかし、ヘイトスピーチや中傷の「赤いカテゴリー」に該当しない問題のあるコンテンツを検出するのが難しいため、Wolf Newsの動画はコンテンツ修正システムをすり抜けた。

「グレーゾーンは検出が難しいのです。"ユーザーが暗号通貨に関するコンテンツを作成している場合、彼らはブロックチェーン技術について人々を教育しているのか、それとも一攫千金のスキームの背後にあるのか？」

Riparbelli氏は、既存の法律をデジタル時代に合わせて更新することを求め、すべてのAIプロバイダーが悪用を防止するためにさらに努力するよう促しました。「適切な規制は、誤用を抑制し、企業が強力な技術を保護する動機付けとなる」と彼は言った。「しかし、それはまた、強力なAIツールが一般の人々が使用し、対話するためにアクセス可能であることを保証するものです。」

❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀

リージェンツ・パークのクロッカスが今年も綺麗に咲いているでござるよ。

にほんブログ村

人気ブログランキング