Flock Safety、警察向けAI捜索ツールをWIREDがコードから再構築

2026 年 9 月 3 日 午前 6:00

WIRED は、警察官のブラウザに送信されるコードを基に、Flock の最新検索ツールを再構築しました。この AI は複数のカメラを監視し、テキストで記述された人物の特徴に一致する対象者を常時検出できます。

写真・イラスト：Jobanny Cabrera；Getty Images

Flock Safety の最新検索ツールは、警察がカメラ映像から人物を探す手段を複数提供します。単に車のナンバープレートを検出するだけでなく、より広範な捜査が可能です。これらの機能は現在、数十件の警察によるストーキング事件の中心にあるソフトウェアスイートに含まれています（例：ワシントン・ポスト「2026 年 8 月 2 日付記事」）。WIRED はこのソフトウェアを収集・分析し、警察官がシステムと対話する際の画面を模倣したモックアップを作成しました。

そのツールの一つに、AI を活用した監視リストがあります。警察官は市内の特定区域を指定し、区域内のカメラでテキスト記述に一致する人物を常時自動的に検索させることができます。

過去1年間、Flockは技術に対する批判に直面してきました。全米の警察署が契約をキャンセルし、かつてFockの導入を承認した市議会も、静かにカメラの撤去を決議しています。あるテキサス郡の副保安官が中絶した女性を探すために83,000台以上のカメラを検索した事件を受け、2人の議員がCEOのギャレット・ランリー宛てに書簡を送りました。またイリノイ州では、同社が連邦移民当局に対して州法違反となる形で州内のカメラデータへのアクセスを許容していたことが発覚しました。

Flockは8月、これらの問題に対応する一連の変更を発表しました。データの保存期間をデフォルトで短縮し、すべての検索にケースコードの付与を義務付け、誤用を検知するための自動監査機能を追加するという内容です。同社はこれらを年内に必須措置として実施すると主張しています。WIREDがその基盤となるコードを検討した結果、検索を規制する多くの仕組みはFockのサーバー上で動作していることが明らかになりました。特に注目すべき点は、今回の分析で判明したように、Flockの安全装置が一部の悪用行為を抑止し記録することはできても、それを完全に阻止できるわけではないということです。

自動スクリーニングや警察技術の研究専門家たちは、Flock が AI に「他のどの技術も信頼性を持って行えない仕事」を任せていると指摘しています。Flock のシステムは、利用する警察署の目から隠れた状態で、「警官が誰を検索対象として指定できるか」を決定します。しかし、専門家は「そのような規模で画面操作を行うシステムが正確であるはずがない」と述べています。さらに、同社以外の人間には、そのシステムがどれほど頻繁に誤り、どの方向へ誤るのかを測定する手段がありません。

この状況は利用者を窮地に追い込みます。Flock 自体も「結果は不正確または不完全な可能性があるため、単独で信頼してはならない」と警官に警告しながら、「不正確さによるリスク」は検索を実行した警官が負うべきものだと位置づけているのです。

専門家のなかには、Flock の一部の判断を他よりも正当化しにくいと考える人もいます。Flock のシステムは、警官の記述された特徴を複数の「センシティブなコンテンツ」カテゴリに照合します。人種や宗教などがその対象ですが、「政治的・社会的・文化的表現」だけは検索を停止させる要因にはなりません。

センター・フォー・デモクラシー・アンド・テクノロジー（CDT）のセキュリティ監視プロジェクトで政策顧問を務めるトム・バウマンは、Flock が「ストップ」ではなく「スピード bumps」として扱っている唯一のカテゴリこそが、裁判所が最も厳格に守ってきた領域だと指摘します。第一修正条項の下では政治的・文化的表現は「最も保護されるべき分野の一つ」であり、「警察の視点からはむしろ関心が薄いはずだ」と述べています。

-

-

-

-

-

WIRED は、Flock 社に対して各発見の詳細な説明と 16 の質問を送付しました。これに対し同社は書面での回答を寄せ、「当社の検索ツールは、技術の使用方法に関する明確なセーフガードを維持しつつ、警察が関連情報を発見するのを支援するために構築されている」と述べています。クエリはコンテンツポリシーに基づいて評価されるとのことです。

しかし、その声明には AI モデルの構築方法や、どのような指示に従って動作しているか、また異なる判断をどう区別しているかなどについては言及されていません。

データは双方向に流れます。ソフトウェアが検索を検知すると、警官が使用した言語、モデルが付与したカテゴリと信頼度スコア、そしてその後の対応（警告の継続、却下、または異議申し立て）といった情報が Flock 社へ送信されます。Flock 社の声明では、これらの記録をどの程度保持しているのか、社内誰が閲覧できるのか、またそれらがモデレーションシステムの評価や改善に利用されているかどうかについては触れられていません。

一票の重み

Flock のインターフェースには複数のツールが搭載されており、それぞれが異なる仕組みで動作します。テキスト検索で画像を探す場合、その結果は入力された言葉に最も合致する映像を統計的にランキング形式で提示します。カメラが捉えたあらゆる映像は、その内容を数値化したセットとして保存されています。同様に、検索ボックスに入力された記述も同じ方式で数値に変換され、モデルが両者を比較して、最も類似度の高い映像を上位に表示します。

なお、ランキングに影響を与える可能性のある追加のフィルターや閾値、Flock のモデルに与えられる指示などは、すべて企業のサーバー上に非表示のまま管理されています。

「スマートソート」と呼ばれる機能では、検索結果として返ってくる各画像に対して、捜査官が承認または却下を行うことができます。数回の投票でランキングが再編成され、承認された画像と類似する映像が上位に移動します。「結果が多すぎる場合は？」というツールチップの案内に従い、「いくつかの結果に投票して、素早く絞り込みましょう」と促されます。

車両を探す捜査官は、色、車体タイプ、メーカー、モデル、ルーフラックやバンパーシールなどの機能といったメニューから選択できます。一方、人物検索ではフィルタリング機能はなく、記述された内容のみが対象となります。システムが提示する例としては、「スクラブ（作業着）を着た人」などが挙げられます。

Flock はこの自然言語による検索を「フリーフォーム」と呼称しており、長年販売してきたと主張しています。404 Media は 7 月に、捜査官たちが衣服やタトゥーの記述を用いてフリーフォームで人物を検索しているとの報道を行いました。

Flock によると、標準的な車両検索と「FreeForm」は別々の機能です。標準検索は定義された車両属性に基づいて実行される一方、FreeForm は自然言語による記述で動作します。動画カメラにおいては、「服装、色、物体、または事件に関連するその他の詳細」を検索可能ですが、ナンバープレート専用カメラでは車両に限定され、人物の属性を検索することはできません。

WIRED が独自のソフトウェアを用いて収集したコードには、警官が実行可能な検索の種類や、表示される制御項目・警告、そしてある結果を次の検索の根拠とする仕組みなどが記載されています。一方、実際の検索結果、カメラ映像、各部署の設定情報、および警察の問い合わせに応答する AI モデル自体は、企業のサーバー上にあり、このコードからは直接アクセスできません。

-

-

-

-

-

WIRED が入手したコードには Flock のユーザーインターフェースが含まれており、システムが実行するネットワーク呼び出しと、それに対する期待される応答も確認できます。これによると、現時点では各部署は、実際の捜査に関連する理由や事件番号を付与せずに検索ツールを設定できるほか、不審な使用を検知する自動システムを無効にすることも可能です。Flock 側は、これらの制御機能については年内に必須化すると述べています。

Flock によると、検索活動は監査ログに記録され、すべての検索ツールで必要な制限が適用されます。しかし、理由や事件番号を付与せずに提出された検索をサーバー側で阻止できるかどうかについては、同社は言及していません。

解雇、停職、辞任

警察官が Flock のソフトウェアを、捜査とは無関係な目的で利用して人物を追跡した事例は既に存在します。ワシントン・ポスト紙によると、米国内では少なくとも 50 人の警官がナンバープレートリーダーの不正使用について起訴されたり、その疑いをかけられたりしています。そのうち 46 のケースに Flock が関与しており、対象とされた人物の半数以上は、妻や恋人、元パートナー、あるいは元パートナーの新しい彼氏、または警官が会いたかった女性でした。

警察データベースがどのように悪用されるかという詳細は、警官の不祥事に関する報告で繰り返し取り上げられています。ミルウォーキーの警官は、交際していた女性を 124 回、彼女の元パートナーを 55 回検索し、それぞれを「捜査」として記録しました。ジョージア州のある警察署長は、元恋人とその娘を 600 回検索したことで起訴され、5 ヶ月後に自殺しています。起訴には至らなかったカンザス州の署長も、元パートナーを 164 回、その彼氏を 64 回検索し、バッジを剥奪されました。またノースカロライナ州の警官は、彼女の元妻（現在の恋人の元妻）を 31 回検索し、そのうち 29 件を交通違反として報告しています。

捜査ツールの濫用は決して新しい問題ではありません。2016 年の AP 通信による調査では、警官が元恋人や魅力的だと感じた人物のデータベースを検索している事例が明らかになり、州機関の職員を含む警察関係者や国内最大の部署の数十で、2013 年から 2015 年にかけて 325 回以上が解雇、停職、または辞任を余儀なくされました。また WIRED は 2023 年に、移民税関捜査局（ICE）の職員や契約社員が 2016 年以来少なくとも 414 回にわたり、機密性の高い政府データベースの不正使用で調査を受けたと報じました。さらに今年も税関国境警備隊（CBP）の職員に対して数百件の新たな告発があり、その中には追跡したい女性を特定するためにデータベースを検索したり、家族を監視したり、同僚の携帯電話を追跡したりした警官も含まれています。

Most Popular

-

-

-

-

-

Flock のソフトウェアには、人間を対象とした 2 つの通知システムが用意されています。その一つは、警察の検索クエリに基づくウォッチリストです。これは捜査官自身が記述した内容に基づいて動作します。都市地図上に形状を描くと、その範囲内にあるすべてのカメラに対してアラートが実行され、モデルが一致と判断した人物が検出されると通知が発せられます。アラートの頻度は調整可能です。

もう一つの機能「人物検出アラート」には、説明欄が設けられていません。これは、警官が単一のカメラの映像範囲内（例えば出入口や歩道の特定の区間など）に枠を描き込むことで動作します。その枠内に人物が写った瞬間、システムが通知を発信します。対象となるのは1 人だけで十分です。

なお、このソフトウェアは、カメラが捉えているものが「人物」である確率が 75% に満たないアラート設定は受け付けません。

3 つの判定結果

Flock は 4 月、同社のモデレーションシステムについて 説明 を行いました。そこでは、表現の自由（第一修正条項）の保護が「仕組みに組み込まれている」ことを目指していると述べています。

WIRED が再現したコードによると、Flock のサーバー上で動作する AI モデルは、警官が入力した人物の説明を 8 つのカテゴリーに分けて評価します。その後、保存された映像データに対して検索を実行する前に判定を下し、「許可」「ブロック」「警告」のいずれかを返す仕組みです。

このモデルは、信頼度スコアに基づいて最終的な判定を行います。AI モデルが Flock のサーバー上で動作するため、警察署側がこのスコアを確認することはできません。彼らが見るのは、システムから送られてくる定型文による警告か、検索ブロックの通知だけです。

検索でブロックされるカテゴリーには、人種や民族、宗教、国籍、「主観的または偏見を含む用語」、そして「攻撃的なコンテンツ」が含まれます。コード内では、「攻撃的なコンテンツ」として性的な内容、婉曲表現、侮辱的な言葉やフレーズ、差別用語などが定義されています。

車両モードにおいては、人物に関連する用語、性別、服装、行動などを用いた検索はすべてブロックされます。

宗教と国籍は、ブロック対象となる文言と、警官が継続して捜索できる警告の文言の両方が記載されている唯一のカテゴリーです。一方、政治的・社会的・文化的な表現については、警告のみが表示されます。

最も人気のある記事

-

-

-

-

Flock社はWIREDに対し、宗教や国籍といった禁止属性を用いた捜索は警官が行えないとし、禁止された用語での検索試行は「ブロックされる」と説明しました。しかし、なぜこれらのカテゴリーでは警告が表示されるのかという具体的な状況については、同社からは回答がありませんでした。

Tシャツやバンパーシール（https://www.wired.com/story/license-plate-readers-political-signs-bumper-stickers/）に「憲法で保護された表現」が含まれているため警告が出た場合、警官にはその検索が記録され、管理者に通知が行う旨が伝えられます。その後、警官は確認用のチェックボックスにチェックを入れ、コメントを残すことで、「それでも検索を続行する」ボタンをクリックできるようになります。

Flock社は、この警告機能により正当な捜査活動の余地も残されていると説明しています。例えば、バイカーギャングのジャケットを着た容疑者について、被害者が「特定の旗や他の紋章を含むギャングロゴ」と記述した場合などが該当します。警官が警告を無視して検索を続行した場合、その行動は所属部署の管理者に報告され、審査の対象となります。

民主主義と技術センターの表現活動プロジェクトを率いるケイト・ルアン氏は、自動モデレーションシステムの仕組みについて長年研究してきました。政治的、社会的、文化的な表現は「非常に曖昧なカテゴリー」であり、警官がその種の言葉を含む検索を行う理由の一つに、抗議集会に参加した人物を確認したいという意図がある場合があると彼女は指摘します。

実際にそのような事例も発生しています。ルアン氏は、このカテゴリーが Flock 社にとって懸念材料となっているためシステムは警告を表示するものの、「クリックして先へ進むことで結果を取得することは可能だ」と付け加えています。

「大規模なコンテンツモデレーションにおいて、必ずしも正確であるとは限りません」と彼女は言います。動画の分析はさらに難しく、エラーが起きる頻度も高いと指摘します。

ブロックされたカテゴリーでも回避策がある場合があるとルアン氏は説明します。システムは宗教に基づく検索をブロックしますが、服装についてはブロックしていません。つまり実際には、特定の信仰を持つ一部の成員が着用する特徴的な衣装を検索することで、ブロックを回避できる可能性があります。「こうしたタイプのクエリに対して画像が返されるケースが多く、もし本人たちがその事実を知ったら驚くでしょう」と彼女は述べています。

昨年あるカリフォルニア州の警官が「アメリカ国旗」と入力した検索では、対象を人物に設定するとブロックされましたが、車両を対象に変更すると 11,000 カメラからの結果が表示されました。

カリフォルニア大学サンディエゴ校のコンピュータサイエンス・エンジニアリング准教授で、信頼性と安全性システムを研究するディープク・クマール氏は、警告がすでに捜索を実行しようとする警官たちを止めることはできないと指摘しています。クマール氏は、オンラインハラスメントに対処するために作られたインターフェースや、悪意のあるウェブサイトからユーザーを遠ざけようとするブラウザの警告事例を挙げています。前者では、動機あるユーザーが警告を受けた後にむしろ害を拡大させたケースがあり、後者では警告の提示方法によって効果に大きな差が出ることがわかっています。

「こうしたログ記録は、どの警官やエンドユーザーが警告を頻繁に無視しているかを確認する上で管理上有用ですが、その価値は実際に誰かがそれを管理しているかに完全に依存します」とクマール氏は述べています。「これは抑止力というよりは、むしろ記録としての機能です。」

クエリを実行する前に検索語句を検閲すれば、誤用の試みの多くを捕捉できるのは確かですが、モデルが返す出力に対する同等の精査なしに、こうした安全策だけでは不十分であることはよく知られています。「ベストプラクティスでは入力と出力の両方を検討します」とクマール氏は説明し、「そのため多くの AI セーフティ対策では、有害な出力を生成しないように入力と出力の双方をチェックしているのです。」

ACLU の言論・プライバシー・テクノロジープロジェクトのシニア政策アナリストであるジェイ・スタンリー氏は、このモデレーションシステムが問題のごく一部しか解決していないと同意しています。彼によれば、フィルタリング機能は「巨大な監視装置の背中に付いた小さな汚れに過ぎず」、そのデータベースは AI によって「想像力次第で何でもできる漁り」の対象になり得ると指摘します。統計モデルがどのようにしてそのような判断を下すのかについて、Flock の外部者が明言することはできません。

スタンリー氏は、Flock の他の最近の改革と同様に、このモデレーションは「悪い警官」への対応に焦点を当てており、大規模監視が抱える構造的な危険には手をつけていないと述べています。

地域ごとのルール

これまでに説明した検索機能は、Flock のカメラが捉えたすべての人物や車両を対象に行われます。保存期間の限り遡って検索可能です。文章による説明に加え、ナンバープレートまたは切り抜かれた写真を入力すると、警官が地図上で指定した場所にある車両を特定し、走行パターンから関連性を推測します。また、ナンバープレートを入力すれば、その車両と並走していた他の車両も表示されます。

検索の範囲は、検索モードや機関の権限、他組織との契約内容によって異なります。検索は自機関が保有するカメラだけでなく、他機関が共有するカメラを対象に行うことも可能です。さらに、一部のナンバープレート検索では、州全域や全国規模のネットワークにまたがって実行されることもあります。

Flock は、自社の技術のガバナンスにおける責任の多くは各自治体にあると主張しています。各機関がアクセスや利用に関する独自のルールを設定するからです。マイアミビーチ元警察署長で国際警察首長協会（IACP）の元会長であるドン・デ・ルッカ氏は、この考えはおおむね正しいと述べています。ベンダーは安全対策を推奨することはできても、技術が導入される前に各部署がルールを定める必要があるからです。「何らかの法的根拠に基づいている必要があります」と彼は言います。

南カリフォルニアのある警察署で特別捜査を統括する警察幹部（発言権限がないため匿名希望）は、濫用の可能性は Flock 社や監視技術に限った話ではないと指摘しています。新しい技術は常に、正当な利用の機会と誤用の機会の両方をもたらすものであり、それが日常茶飯事だと彼は述べています。真に問われるべきは、「強固なガードレール、積極的な監督、監査機能、そして誤用に対する明確なペナルティを伴って技術が導入されるかどうか」です。

今春、Flock への監視が強まる中、同社は「監査支援（Audit Assistance）」機能を発表しました。これはレビューが必要となる可能性のあるパターンを浮き彫りにするものです。Flock によると、顧客の 3 分の 1 以上が今年 8 月にこの機能を有効化しています。WIRED が検証したコードでは、現在はデフォルトでオフになっています。この機能は、同一の車両番号を繰り返し検索する行為や、他機関のカメラに限定された検索、そして複数の事件番号の下で同じ車両番号を検索するケースなどを検知してアラートを出すことができます。

Flock は、不審な活動に対するアカウントのロックアウト機能も同時に導入する予定だ。先月初旬、サウスカロライナ州のある郡保安官事務所が「監査支援（Audit Assistance）」機能を有効化したところ、内部監察担当者が翌日、約 2,700 件に及ぶ不正と疑われる検索記録を特定した。

デール・キャメロン氏はテキサス出身の調査報道記者で、プライバシーや国家安全保障分野を担当している。プロフェッショナルジャーナリスト協会から複数の受賞歴を持ち、調査報道部門ではエドワード・R・マロー賞も共同受賞している。以前は Gizmodo でシニア記者を務め、Daily 紙でもスタッフライターとして活動した。

ドルーヴ・メロトラ氏は WIRED の調査データ記者だ。テクノロジーを活用してデータを発見・構築・分析し、説明責任を問う報道に貢献している。その取材範囲には監視社会、警察活動、データブローカー、プラットフォーム、そしてそれらを利用する政府機関や企業が含まれる。WIRED 入社前はブルームバーグニュースやセンターで働いていた。

追いつくだけでなく、先を行け

私たちの「デイリー」ニュースレターに登録すれば、毎日厳選した注目記事をお届けします。

詳細はこちら