顔認識システムの誤作動により、無実の買い物客がスーパーから追い出される

❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀

The Telegraph, 10 August 2026

盗難防止技術によって誤って検知された買い物客は、この出来事を「未来を垣間見るような恐ろしい体験」だと語った

 ある買い物客が、店員から顔認識ソフトウェアによって特定された犯罪者と誤認されたため、セインズベリーから追い出された。

ダルウィッチ・ハムレット・コメディ・クラブのプロモーターを務めるマット・アーノルド氏は、ロンドン南東部のイースト・ダルウィッチにある同店で会計を待っていたところ、警備員たちに取り囲まれ、店から出るよう命じられた。

46歳の同氏はその後、この出来事を「未来を垣間見たような恐ろしい体験」と表現している。

アーノルド氏は『テレグラフ』紙に対し、次のように語った。「本当に心配です。不安やその他の問題を抱えている可能性のある人に詰め寄られた場合、人前で泥棒だと非難されることは、その人にとって非常に大きなダメージになりかねません。」

「それが私を怖がらせているのです。私が非難されているのなら、他に誰が同じように非難されているのでしょうか？」

マット・アーノルドは会計を待っていたところ、警備員たちに取り囲まれ、イースト・ダルウィッチのセインズベリー店から立ち去るよう告げられた。| Credit: Matt Arnold

監視技術の使用に反対するキャンペーン団体「ビッグ・ブラザー・ウォッチ」は、この事件が、虚偽の公的な告発によって無実の人々がいかに屈辱を受けるかを示していると指摘し、セインズベリーに対し、リアルタイム顔認識システムの導入中止を求めた。

アーノルド氏によると、出演者用のアルコール飲料、ソフトドリンク、スナックでいっぱいのカートを押しながらセルフチェックアウトの列に並んでいたところ、店員に声をかけられたという。

彼は『テレグラフ』紙に対し、店員にアルコール飲料の会計を済ませてくれるのを待っていたと語った。

アーノルド氏は次のように述べた。「私は店員に手を振って、会計をお願いした。これは万引き犯が取るような行動とは程遠い。店員が近づいてきて、『今週初めの一件があったため、お売りすることはできません』と言った。」

アーノルド氏によると、店のスタッフは、彼がどのような行動をとったためにシステムが作動したのか説明することを拒否し、彼を店外へ連れ出すと共に、QRコードをスキャンして「ディストピア的な響き」のあるセキュリティシステム「フェイスウォッチ」に連絡するよう指示したという。

「開演まであと10分しかなかったため、その商品はまだ必要だった」と彼は述べ、さらに「同僚に来てもらって支払ってもらえないかと尋ねた。店員たちは困惑した様子で顔を見合わせ、『まあ、いいでしょう』と言った」と付け加えた。

アーノルド氏によると、セインズベリー側は翌日、人為的なミスにより誤って店から追い出されたと説明した。その理由として、「店内に万引き犯がいたが、店員が間違った人物を標的にしてしまった」ことが挙げられた。

アーノルド氏によると、セインズベリー側は、彼に退店を命じた2人の従業員のいずれも、ボディカメラを起動していなかったと伝えてきたという。同氏は同店から150ポンド分の善意のギフト券を受け取り、それをアルブライトンのコミュニティ冷蔵庫フードバンクに寄付した。

その後、同コメディクラブのインスタグラムアカウントへの投稿で、彼は次のように記した。「AIによる顔認識は、道徳的に極めて問題があるだけでなく、精度もあまり高くないようだ。」

アーノルド氏はまた、自分の顔の写真に赤い輪が囲まれているのが一瞬表示されたのを見たと主張した。

「ビッグ・ブラザー・ウォッチ」の代表であるシルキー・カルロ氏は、リアルタイムの顔認識技術を「オーウェル的な悪夢」だと述べた。

同氏は英紙『テレグラフ』に対し、「セインズベリーが、許可なく全ての買い物客を顔認識でスキャンし、顧客を犯罪者のように扱うのはばかげている」と語った。

「全国規模の小売業者が、この不気味な監視技術を用いて無差別に数十万件もの身元確認を行うと、このような重大なミスは避けられない。」

「この男性は、同僚たちの面前で、犯してもいない犯罪について公然と非難され、屈辱を味わわされました。このような大規模な顔認識は、買い物客のプライバシーを著しく侵害するだけでなく、こうした誤った告発は、人々の仕事や人間関係に影響を及ぼしかねません。」

「さらに悪いことに、フェイスウォッチは複数の店舗間でデータを共有しているため、人々は公正な手続きを経ることなく、通知さえ受けずに、スーパーマーケットや商店街から電子的にブラックリストに登録されてしまう可能性がある。」

「スーパーマーケットは盗難防止対策を講じる必要があるが、リアルタイム顔認証はオーウェル的な悪夢であり、常習犯の窃盗を阻止する効果は全くない一方で、何百万人もの一般顧客のプライバシー権を侵害している。セインズベリーは、このような恐ろしい事件がさらに起こる前に、早急にリアルタイム顔認証を中止すべきだ。」

セインズベリーとフェイスウォッチには、コメントを求めた。

にほんブログ村

人気ブログランキング

英内務省、顔認識「スパイ」企業に密かに働きかけ

The Guardian, 2 September 2023

関係者は、特に小売業の現場で物議を醸している技術を全国に展開しようという治安維持相の熱意を反映した。

メトロポリタン警察は、先日のリメンバランス・サンデーの式典で、ホワイトホール周辺に自動顔認識カメラを設置した。| Photograph: Mark Kerrison/Alamy

 『オブザーバー』紙が閲覧した政府内部の電子メールによると、内務省の高官は、物議を醸す顔認識技術を全国に展開しようと躍起になっている民間企業に対して「好意的」に行動するよう、英国の独立プライバシー規制当局に密かに働きかけたという。

内務省が情報コミッショナー事務所（ICO）に対し、クリス・フィルプ治安維持相が、顔認識カメラが店舗に設置されたことで大反対を巻き起こしているフェイスウォッチに対する規制当局の調査が、この企業に対して好意的でない場合、「あなたのコミッショナーに手紙を書く」と警告したことが明らかになった。

内務省のデータ・アイデンティティ局の職員は、ICOに警告した。"もしフェイスウォッチに有利なことを間近にしようとしているのであれば、私はそれを阻止することができるはずです。

この明らかな脅しは、3月8日に行われたフィルプ、内務省高官、フェイスウォッチとの非公開会議の2日後に行われた。

フェイスウォッチはカメラを使って顔を監視リストと照合するもので、この技術に対する懸念が広がっているにもかかわらず、すでに何百ものハイストリートショップやスーパーマーケットで導入されている。

顔認識の使用は、プライバシーや人権への影響をめぐって激しい批判を引き起こし、欧州連合（EU）は法律案を通じて公共スペースでのこの技術の禁止を求めている。

また、大幅に編集された通信文書から、この脅迫が行われる以前から、ICO内部で2月に行われたフェイスウォッチ調査（コードネームは「オペレーション・ケゴン3」）のブリーフィングで、内務省が小売犯罪に対抗するための顔認証がフィルプによって積極的に推進されていることを規制当局に明らかにしていたことが明らかになった。

フェイスウォッチに関するICOの調査が正式に終了する数週間前に、「内務省は、犯罪検知／防止を目的とした商業的環境におけるLFR（ライブ顔認識）は、大臣の議題の上位に位置する分野であると指摘している」と、その進捗状況の要旨が述べられている。

内務省のバイオメトリック監視に対する熱意は非常に大きく、ICOはこれを「継続的リスク」に分類している。

ICOはオブザーバー紙に対し、内務省はフェイスウォッチの調査に「何の影響も与えなかった」と語り、内務省は昨年10月にリシ・スーナクによって治安維持大臣に任命されたフィルプが規制当局に影響を与えようとはしなかったと語った。

ICOは、内務省の警告から数週間後の3月31日にフェイスウォッチに対する調査を終了し、「同社が犯罪の検知と予防のために人々の情報を使用する正当な目的を持っていることに納得している」ため、同社に対してこれ以上の規制措置は必要ないとブログで説明した。

フェイスウォッチは、"オーウェリアン的 "であるとの懸念にもかかわらず、すでに何百もの路上の店舗やスーパーマーケットにカメラを設置している。| Composite: Athena Pictures/Guardian Design

しかし、プライバシー保護運動家たちは、内務省が独立規制機関に圧力をかけたことは明らかであり、早急な調査が必要だと述べた。

『ビッグブラザー・ウォッチ』のアドボカシー・マネージャーであるマーク・ジョンソン氏は、「この情報開示はまったく不利なもので、クリス・フィルプが、データ規制当局が打ち合わせをしていた民間の顔認識会社の調査に介入したことを示しているようだ」と述べた。

フィルプとその関係者が、規制当局のこの企業に対する顕著な寛大さに影響を与えたかどうかについて、深刻な疑問を投げかけている。

他のヨーロッパ諸国では、同じ法律の下で運営されているデータ規制当局が、買い物客を監視するために使用されたライブ顔認識に対して数百万ポンドの罰金を科している。

この技術を批判する人々は、この技術は人権を侵害し、不正確で偏ったものであり、特に肌の黒い人々に対するものだと主張している。

しかしフィルプは、政府が慢性的に低い犯罪解決件数を改善しようと躍起になっている今、フェイスウォッチは深刻化する小売犯罪問題に取り組む上で極めて重要な役割を果たすと確信している。3月までの1年間で、窃盗犯罪のわずか4.4％が起訴されている。

内務省からICOへの3月10日付の電子メールも、フィルプが規制当局にすり寄ろうとするのは間違っていると知っていたことを示している： 「大臣（クリス・フィルプ）は、自分が介入するのは適切でないと強調したが、彼と政府が小売犯罪をいかに真剣に考えているかを示すために、あなたのコミッショナーに手紙を書くと言った。もし、あなたがフェイスウォッチに有利になるようなことを間近にしようとしているのであれば、私はそれを阻止することができるはずです（フィルプの手紙）。」

情報公開請求によって入手された他の新文書には、5月4日にフィルプからフェイスウォッチの創業者サイモン・ゴードンへ送られた手紙が含まれており、同社に対する大臣の支援レベルが明らかにされている。

「私は大臣として、顔認識技術の普及を促進するために可能な限りのことをしたい」とフィルプは書いている。

同治安維持相は、顔認識技術の利用を促進することに関しては、「政府の目的はフェイスウォッチと一致している」と付け加えている。フェイスウォッチは、「オーウェルのようだ」という懸念にもかかわらず、すでに何百もの路上の商店やスーパーマーケットにカメラを設置している。

ジョンソンは、「フィルプからフェイスウォッチへの手紙は、非常に不快な読み物であり、大臣を王室の大臣というよりも、この顔認識会社のロビイストとして描いている」と付け加えた。

彼は、この通信は「大臣と規制当局の独立性」に対する信頼を損ないかねないと警告した。

ICOのスポークスマンは言った： 「ICOの独立性は法律で定められており、私たちが規制する法律を調査し執行する能力の重要な部分です。」

「私たちの仕事は注目度が高く、私たちが下した決断に関心が集まることもしばしばですが、私たちの捜査に干渉したり、影響を与えようとする試みは認めません。」

内務省の広報担当者は言った： 「文書が示すように、大臣はICOの調査に影響を与えようとしたのではなく、小売犯罪や職員に対する虐待の深刻さについての政府の見解を伝えたかったのだと明言している。」

「政府は、万引きや犯罪を積極的に管理することで、企業が顧客や従業員、在庫を保護するのに役立つ顔認識のような技術の適切な使用を支持することを公言している。」

にほんブログ村

人気ブログランキング

「オーウェル式」顔認識カメラを使用するスーパーマーケットに法的措置の恐れ

The Telegraph, 26 July 2022

ビッグブラザー・ウォッチは、サザン・コープが使用している装置が違法で「危険なほど侵入的」である可能性があると主張し、調査を要求している。

「オーウェル式」顔認識カメラを使用するスーパーマーケットに法的措置の恐れ

 顔認識カメラを使って買い物客をスキャンし、泥棒を識別しているスーパーマーケットは、その使用に対する最初の法的苦情を受け、監視団による調査に直面しています。

情報コミッショナーは、サザン・コープがスーパーマーケットでライブの顔認識カメラを使用していることについて、その配備が違法である可能性があると主張するビッグブラザー・ウォッチから調査を依頼された。

同団体は、生体認証カメラが万引きの容疑者を探し、既知の犯罪者のデータベースと照合するため、その画像を撮影された買い物客の「データ権を侵害している」と主張している。

監視カメラが既知の容疑者を特定するとすぐに店員に警告が出されるため、店員はその容疑者を店から追い出すか、行動を監視することができるのです。

Southern Co-opは、ポーツマス、ボーンマス、ブリストル、ブライトン＆ホーブ、チチェスター、サウサンプトン、ロンドンの35店舗に、テクノロジー企業のFacewatchが提供する監視カメラを設置しました。

Nisa, Spar, Sports Direct, Budgens, Costcutter, Eat17, Flannel, Frasers Groupなどの企業がフェイスウォッチの技術を使っていると主張している。

ビッグブラザー・ウォッチによると、Southern Co-opは、中国の国有企業Hikvisionの監視カメラと顔認識ソフトウェアを使用したとのことだ。

© Provided by The Telegraph

Supermarket checkout

“危険なほど押しつけがましい、私物化されたスパイ行為”

ビッグブラザー・ウォッチ』のディレクター、シルキー・カルロ氏は、次のように述べた。「情報コミッショナーへの我々の法的告発は、この危険なほど侵入的で私物化されたスパイの影響を受けている何千人もの人々のプライバシー権を守るための重要なステップである。」

「南部コープのライブ顔認識監視の使用は、極端に言えばオーウェル的であり、違法である可能性が非常に高く、情報コミッショナーによって直ちに止められなければならない」と述べた。

フェイスウォッチは宣伝資料の中で、運用開始から1年で小売店の犯罪を35％削減できること、その技術はGDPRデータ法に準拠していること、犯罪と関係のない買い物客の画像は即座に破棄されることを述べている。

しかし、ビッグブラザー・ウォッチは、訴状で分析したフェイスウォッチの文書によると、どのウォッチリストにも載っていない買い物客の写真は、フェイスウォッチが「システムを改善する」ために何日も保管される可能性があると述べている。

同団体は、イギリスのフェイスウォッチ社が提供するカメラで使用される顔認識ソフトウェアは、そのシステムへのアクセス権を購入した他の企業と「関心のある対象」の生体写真を共有するために使用することができる、と付け加えた。

買い物客の写真は、ロンドンの店舗で撮影された場所から半径8マイル、地方では半径46マイルまで共有することができます。

FacewatchのクライアントであるSouthern Co-operativeの監視リストに載ることは、誰かの日常生活に深刻な悪影響を及ぼす可能性がある。

Southern Co-opは、カメラは正当なものであると信じています

Southern Co-opのスポークスマンは言った。「Southern Co-opのプラットフォームからの顔画像は、他の組織と共有されることはありません。」

「この技術の限定的で的を絞った使用は、犯罪が多発している場合にのみ行われ、暴行や暴力から店員を守るために使用されています。」

「私たちのプロセスは、顔認識テクノロジーと人間による検証を組み合わせています。入店時に顔画像が一致した場合、店舗または勤務管理者に警告を発し、店舗にいる同僚が確認します。」

「私たちは、顔認証の使用に関する責任を極めて真剣に受け止め、お客様の権利と、容認できない暴力や虐待から同僚やお客様を守る必要性とのバランスを取るために努力していますので、ICOからの建設的なフィードバックを歓迎します。」

「私たちの社員とお客様の安全が第一であり、この技術は、限られた危険性の高い場所で使用されることで、大きな違いを生み出しています。この技術が暴力的な攻撃を防ぎ続ける限り、その使用は正当化されると信じています」と述べています。

フェイスウォッチは、その技術が犯罪を著しく減少させ、他の犯罪防止方法が失敗した後に小売業者に使用されたと述べている。「我々は買い物客の顔を共有していない - のみ目撃し、証拠となる常習犯の画像、また我々は中国のアルゴリズムを使用していない」と、広報担当者は言った。

Hikvisionの広報担当者は、次のように述べています。「Hikvisionは、プライバシーの権利を支持し、人々とその財産を保護することに尽力しています。」

「英国政府は最近、Hikvisionを英国から追放するよう求める声を拒否しました。私たちは、全ての人の安全を高めるという使命に断固とした姿勢で臨んでいます。」

❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀✿❀

ノラニンジン、と言うより'Queen Anne's Lace'の方が綺麗な呼び名でしょう。野生の人参だけに、食べられるそうです。

『アン女王のレースは、ジェームズ1世（1611年に英国教会のために聖書の翻訳を依頼したことで有名）の妻であるデンマーク女王アンヌにちなんで名づけられた。女王の友人たちが、花のように美しいレースを作るよう挑戦したところ、指を刺してしまい、レースの中央に一滴の血を残してしまったと言われている。』

花が終わると、この様に丸くなる… 😯

にほんブログ村

人気ブログランキング