警察向け AI 販売ビジネスの実態

テキサス州フォートワース市中心部にある、巨大なガラスとレンガの建物の前に立っていた。そこでは「デジタル時代における警察活動の未来」として宣伝された展示会に数千人が集まっていた。記者として入場は禁止されていたが、近くの複数の場所から参加者たちと会い、そこで何が売り込まれているのかを聞いた。そして私は、AI がアメリカの警察活動そのものの核心を脅かしかねないことを知った。

今年開催された国際警察署長協会（IACP）技術会議における AI の約束は、業務のルーティン部分を自動化することに焦点が当てられていた。これは同時に、法的プロセスにおける重要なステップでもあった。近年、企業向けに繰り返し行われてきた販売戦略と似ている。「機械に事務作業を任せて、より意味のある仕事に集中しよう」というものだ。しかし、法執行機関において、一見無害な「事務作業」— 警察報告書を慎重に記入したり、容疑者の事件履歴を確認したりする時間さえも — が人々の人生に与える影響は甚大である。

今年5月の展示会では、顔認識カメラや自動ナンバープレート読み取り装置、ボディカム、緊急以外の911通話に対応するチャットボット、銃撃検知プラットフォーム、ドローン、報告書作成ツールなど、多様なAI製品が並んでいた。地域社会における警察の実際の人的存在との乖離が問題視される中、業界は自動化への依存をさらに強めている。

警察組織内の意思決定プロセスそのものも、次第にアルゴリズムへ委譲されつつある。多くのテック系スタートアップ企業が、AIを「自動航空管制システム」のように売り込んでいるのだ。これは膨大なデータを処理し、部署がリソースを適切に配分できるよう支援する、集中型のデジタル・ブレインとして機能するものだ。ただし、これらのデータは往々にして、同じ企業が生産した他の監視機器や自動化ツールによって収集されたものである。

「多くの製品は、約束通りの成果を出さない販売用のギミックに過ぎない」と、ジョージア州ブルックヘイブンの警察署長であるアブレム・アイアナ氏は語る。包括的な連邦規制や業界基準が存在しない上、技術自体が新しいこともあり、アイアナ氏のような法執行関係者は、企業の主張を信じるしかなかった。製品が安全であり、広告通りに機能するという保証以外に選択肢がないのが実情だ。

警察組織は長年、データ分析や現場での意思決定支援のためにテクノロジーを活用してきました。しかし、理論上はそうであっても、実際には逆効果となった事例も少なくありません。

例えば「CompStat（Computer Comparison Statistics の略）」や「PredPol（Predictive Policing の略）」といった初期の取り組みは、人間の判断が持つ欠陥を、偏りがないとされる統計データによって補おうとした実験でした。しかし結果として、それらは解決すべきはずだった問題をかえって悪化させてしまいました。

これらの早期の実験が、提唱者たちが期待したような「バイアスのない警察活動」の時代をもたらすことは叶いませんでしたが、少なくともその時点では、最も重要な意思決定は人間が行う体制でした。

この新しい AI 製品群の売り込みは、過去の過ちを招いたのは客観的でリアルタイムなデータが不足していたからだ、という主張に基づいています。理論上、AI は収集される公共安全データの量を増やし、その分析レベルを高めることで、その格差を埋める手助けができるはずです。

しかし、多くの公共安全推進団体や法律の専門家は、ブラックボックス化されたアルゴリズムが法執行機関に流入することは、すでに警察への信頼が危険なほど揺らいでいるこの時期において、透明性と説明責任を損なうと警告しています。

サイバー犯罪を専門とする元 FBI 特殊捜査官のジェイソン・トゥルッピ氏は、警察はデータの海に溺れていると話しました。メタ社の Ray-Ban スマートグラスを着用した彼は、企業の流行語を散りばめた短い文で、次々と興奮気味に話します。2020 年後半、彼は ForceMetrics というソフトウェア会社を共同設立しました。同社は LinkedIn ページで「AI を活用した意思決定支援プラットフォーム」を提供しており、「公共安全機関が運用効率を高め、リアルタイムで地域社会により良く奉仕できるようにする」と謳っています。

トゥルッピ氏によれば、緊急通報記録から保釈記録ファイル、ボディカメラ映像データベースに至るまで、警察署が過去 20 年間にわたって使用してきたすべての記録管理システムは、過剰な情報負荷をもたらす重荷となっています。「警察署が使っているすべての記録システムは、本質的に時代遅れです」と彼は言いました。

「私たちは『p 語』を一切使いません。なぜなら、それは失敗したからです。」

ForceMetrics は警察組織向けに Velocity というプラットフォームを提供しています。同社のウェブサイトによると、このシステムは「AI を活用して膨大な公共安全データを処理し、明確で実行可能なインサイトへと変換する」ものです。

警察テック業界の専門用語では、Velocity は「リアルタイム犯罪センター（RTCC）」と呼ばれるものの一つです。RTCC は 20 年以上前にニューヨーク市警が初めて導入した仕組みで、911 通報、CCTV カメラ、ナンバープレートスキャナーなど複数の情報源から流入する警察データを統合し、現場に到着した隊員に対して「何が待ち受けているか」を要約して提示することを目的としています。

この理論の核心は、隊員が提供されるリアルタイムデータの量が多ければ多いほど、彼らが直感や武力（Truppi 氏が言うところの「gut and guns」）に頼って現場に突入するリスクを減らせるという点にあります。これは、事態が悪化して死者が出るような最悪のシナリオに対する、あえて皮肉めいた婉曲表現なのです。

かつて、リアルタイム犯罪分析センター（RTCC）は、流入するデジタルデータを収集・整理し、パトロール中の警官へ提供することを担当する人間のアナリストによって管理されていました。しかし、トゥッピ氏が指摘するように、長年にわたる警察部門における新たなデータ収集技術の普及により、膨大な情報洪水の中でどの部署も対応しきれない状況が生まれています。

2019 年の公衆安全委員会の聴聞会での証言によると、ニューヨーク市警（NYPD）は週に約 2 年分のボディカメラ映像を収集していました。これは、最も勤勉な人間従業員であっても意味のある分析を行うにはあまりにも多すぎる量です。

Velocity に代表される最新の RTCC は、警官の状況認識能力を向上させることを目的として、膨大なデータから素早くパターンを抽出するように設計されています。トゥッピ氏によれば、近年、特にパンデミック期間中にアメリカ人の警察への信頼を壊滅的に損なった「不幸な出来事」の多くは、彼が「データ駆動型のアプローチ」と呼ぶものの欠如に起因するところが大きいとしています。

ニューヨーク大学法・人種・不平等センターのフェローであるニナ・ロシュカジャンは、この主張に懐疑的な姿勢を示しています。「現実は、警察組織が 2020 年に警察予算削減を求める声が高まる以前から、企業がデータ駆動型と謳う予測アルゴリズムをすでに長年活用していたのです」と彼女は語りました。「当時のアルゴリズムシステムは、警察と市民の間の暴力衝突を防ぐことはできませんでした。未来において画期的な変化をもたらすという思い込みにも、私たちは騙されてはいけません。」

トルッピ社の競合相手には、現代の警察技術産業複合体を牽引する二大巨頭がいます。モトローラ・ソリューションズとアクソン・エンタープライズです。両社はリアルタイム犯罪分析システム（RTCC）だけでなく、その運用に不可欠なデータ収集や監視技術の数々も自社で開発しています。

2024 年初め、アクソンは監視技術企業であるフサス社を買収し、リアルタイム犯罪分析システムの展開を開始しました。この新システムは正式に「Axon Fusus」としてブランド化されています（※元々は TASER と呼ばれていました）。当時、アクソン社はすでにスタンガンやボディカメラ、自動ナンバープレート読み取り装置の主要な供給元として知られており、AI を活用した報告書作成支援ツール「Draft One」や、警察向けドローンプログラム「Axon Air」、さらには独自開発の AI チャットボットの提供も手がけていました。

アクソンとモトローラは、犯罪現場でのデータ収集から AI 搭載のリアルタイム・コマンドセンター（RTCC）による戦略的判断まで、現代の警察技術スタック全体を事実上独占しようとする極めて少数の企業の一角です。現在の警察組織では、こうしたベンダーとの間に長期契約が結ばれることが多く、新技術には無料トライアル期間が設けられるほか、「単独調達契約」と呼ばれる仕組みも利用されています。これにより、他社からの入札競争を回避しながら、新たな製品を警察部門へ継続して販売することが可能になっています。

「AI 技術を警察に売り込むことに、今まさにゴールドラッシュが起きていると実感しています。その根拠は、『この技術を使えば業務がより簡単になり、効率化できる』という約束です。」

2024 年後半、Axon は「AI エラプラン」を発表しました。これは、現在の AI ツール（Draft One など）だけでなく、今後発売される可能性のある新ツールにもアクセスできる、定額年次サブスクリプションです。

同社の決算説明会の議事録によると、昨年第 1 四半期から今年同期にかけて、このプランの契約数は 140% も急増しました。Axon のプレジデントであるジョシュア・イズナー氏はその場で、「AI はもはや初期段階の関心対象ではなく、大規模な警察署が将来の技術スタックをどう考えるかという標準的な要素へと移行している」と述べました。「私たちは公共安全分野における AI 企業になることを目指しており、その道は順調に進んでいます」と語っています。同様の議事録には、Axon の AI 関連製品の売上が前年比で 700% 成長したとの記載もあります。

現在、Axon、Motorola、Flock Safety といった大手企業が警察技術産業を支配していますが、テキサスで開催された IACP テックカンファレンスに出展していた新興テックスタートアップの群れが、その地位に新たな競争をもたらしています。"これらの企業すべてが目指しているのは、警察活動における唯一のプラットフォームになることです」と語るのは、ジョージタウン大学ロー・スクールの教授であり、警察とテクノロジーの交差点について複数の著書を持つアンドリュー・ガスリー・ファーガソン氏です。「警察向けに AI 技術を販売するゴールドラッシュが起きており、それが警察官の仕事をもっと簡単で効率的にするという約束を掲げています。」

このゴールドラッシュは、外部からの投資家も引き寄せています。イベント中にフォートワースで話したテック起業家のアンバー・シュローダー氏によると、「展示フロアの来場者の約 4 分の 1 は、最新技術への投資を検討するエクイティファーム（投資会社）からのものでした」とのことです。「これは予想外の出来事でした。」

この販売戦略は確実に効果を発揮しています。

2024年に Axon が実施した調査によると、警察官の勤務時間の約 40% が報告書作成に費やされているといいます。その多くは交通取り締まりや騒音苦情といった日常的な事案です。この状況下では、Draft One やその他の AI 活用レポート作成ツールが大きな注目を集めています。

Colorado の Avon 警察署で巡査部長を務める John Mackey 氏は、同署が Truleo 社製の AI 支援ツール「Field Notes」を採用している立場からこう語ります。「キーボードの前に座り続けるために警官になったわけではありません。それが私の初衷ではありませんでした。」

Draft One には、一定の人的監視を強制するよう設計された機能も備わっています。システムは意図的に特定の項目を空白のままにし、警官が手動で入力する必要があるように作られています。このプラットフォームは、警察報告書の作成に特化してトレーニングされた ChatGPT の改良版を基盤としており、同社によれば hallucination（幻覚・虚偽生成）は一切ないとのことです。「創造性はゼロに設定されています」と Axon の生成 AI 部門のシニアプロダクトマネージャーであるノア・スピッツァー＝ウィリアムズ氏は述べています。

しかし、この主張は非常に慎重に受け取る必要があります。OpenAI（ChatGPT の開発元）や Anthropic、Google といった最先端の研究機関でさえ、最も高度なモデルにおいて hallucination を完全に排除する方法をまだ見つけていないからです。実際、今年初めに起きた有名な事例では、Draft One がユタ州の警官が「カエルに変身した」と記述してしまいました。これは現場でディズニー映画『プリンセスとカエルの王子様』の音声が入り混じっていたことが原因です。

あの出来事を笑って済ませることは簡単だが、AI が作成した警察報告書が現実社会にもたらす結果は、命に関わるほど深刻な事態になり得る。人間が報告書を作成する場合、法廷で取り調べを受けることで、当時の心理状態や、なぜ特定の情報を記載し、他の情報を省略したのかといった重要な詳細を明らかにできる。しかし、ブラックボックス化されたアルゴリズムを同じレベルで検証することは、定義上不可能だ。

Axon と Motorola は、犯罪現場でのデータ収集から、AI 搭載のリアルタイム・コミュニケーションセンター（RTCC）による戦略的意思決定に至るまで、現代の警察技術スタック全体を実質的に独占しようとする競争に参加している極めて少数の企業の一角を占めている。

Draft One の場合、報告書が提出された時点で、AI が生成した部分と警官が記述した部分を区別することは、警官自身の記憶以外では不可能でした。これはバグではなく、意図された機能です。

2024 年に Draft One がリリースされた直後に公開された 録音されたラウンドテーブル討論会 で、Spitzer-Williams は、このプラットフォームは「設計上」、報告書提出後の原本を保存しないことを明言しました。「顧客や弁護士事務所にとって、開示手続きの負担を増やすのは避けたいと考えているからです。実際、データはクラウド上に一切保存されないため、余分なコピーがどこかに残っていることを心配する必要もありません」と述べています。

つまり、Draft One によって生成された報告書が裁判で提出され、誤った詳細が含まれていると判明した場合でも、弁護士や裁判官が、その情報が警官の入力によるものか AI の生成によるものかを確実に見分ける手段は存在しませんでした。

Axon の広報担当者である Victoria Keough によると、Draft One は 12 月に更新され、警察組織が「元の編集されていない AI 生成の記述を保持・アクセスできる」ようになりました。この変更は、「法執行機関や検察官、政策決定者、立法府が、AI を活用した報告書作成に対する明確な期待と要件を定めたことを受けて」実施されたものです。

デューク大学ロースクールのブランドン・ギャレット教授は、AI システムが適正手続きに与える影響を研究する中で、この技術に対して強い懸念を抱いています。「生成モデルが行うのはデータの捏造であり、それを裁判で使おうという発想自体が非常に問題だ」と彼は指摘します。「警察官に対し、『現場で見たことを自由に創作してこい』と言うはずがありません。彼らはあくまで客観的に、できる限り正確に現場の状況を記録し、報告するよう求められています。しかし、生成モデルはそもそも『創造すること』を目的として設計されているのです。」

2008 年の金融危機の後、ロサンゼルス警察署長のチャーリー・ベックは、ウォルマートやアマゾンのパーソナライズされたショッピングアルゴリズムから着想を得て、「警察組織も同様のツールを用いて犯罪を予測すべきだ」と提言しました。これにより、2010 年代以降、全米の都市で「予測型 policing（予知警察）」プログラムが広く導入されるようになりました。しかし、これが警察活動における公平性と正義の新時代をもたらしたわけではありません。むしろ多くの場合、その逆の結果を招きました。モデルは過去の犯罪データからパターンを検出するように訓練されていたため、そのデータに潜んでいたバイアスが、「数学的な客観性」という名の下で永続化されてしまったのです。

例えば PredPol は、元々地震の余震の地理的分布を予測するために使われていたアルゴリズムに基づいています。この手法の核心は、犯罪予測にも同じ一般原則が適用できるという考え方です。ある地域と特定の犯罪パターンの相関が強ければ強いほど、そのパターンが将来も継続する可能性が高い、という論理です。

これにより AI は犯罪多発地点（ホットスポット）を特定できるようになり、人員不足に悩む警察組織は、重点的に注力すべきエリアを絞り込むことが可能になりました。

しかし、PredPol や同様のプログラムは、いくつかの重要な事実を考慮していませんでした。例えば、犯罪は貧しい地域ほど多く報告される傾向があり、多くの主要都市ではこれらの地域に有色人種が主に居住しています。その結果、他の地域と比較して警察の駐在や逮捕率が高くなるという現象が生じます。

このアルゴリズムには、ある地域の犯罪率がより裕福な地域よりも高い事実が、社会・政治・人種的なバイアスと政策の複雑な歴史に由来するものであることを理解する能力がありませんでした。単に入力されたデータを処理しただけで、歴史的に警察による監視が強すぎた地域に対して集中的な焦点を当てる結果となり、これが自己完結的な悪循環を生み出しました。

2016 年、AI 研究者のクリスチャン・ラムとウィリアム・アイザックが、オークランド警察署の過去の薬物犯罪データを用いて予測型捜査アルゴリズムを検証した際、この問題は明確に浮き彫りになりました。ラムは続報で、当時の公衆衛生データが市内全域に違法な薬物使用が広がっていることを示していたにもかかわらず、このアルゴリズムは警察を「ほぼ例外なく低所得者や少数派が住む地域へ派遣するよう」推奨していると指摘しています。

予測型捜査プログラムが導入される場所どこでも、同様の傾向が見られました。ロヨラ法科大学院のアンヘル・ディアス准教授はこう述べています。「予測型捜査システムを使うと、未来が過去そっくりに見えてしまうのです。なぜなら、入力するデータの多くが、偏った捜査慣行によって歪められた現実に基づいているからです。そのデータに含まれるパターンをコンピュータが抽出し、それが将来の捜査方針に影響を与える恐れがあるからです」。

2024 年、米国の民主党上院議員 4 名は、司法省に対し予測型捜査プログラムへの今後の助成金支給を停止するよう要請しました。その根拠として、同プログラムが「黒人およびラテン系住民の居住地域で犯罪発生率を過剰に予測し、白人居住地域では逆に過小評価している」という証拠が挙げられています。

このように、予測 policing は現代の警察・テック産業複合体においてタブー視されるようになり、統計と客観性を混同することへの戒めとして語られるようになりました（PredPol は 2021 年 3 月にブランド名を Geolitica に変更しています）。"『p word』という言葉は決して使いません」とトルッピ氏は私に話しました。"なぜなら、それは失敗したからです。"

専門家の間では、収集する個人データがより細分化され、AI が警察活動の中心となる未来は恐ろしいものだと指摘されています。ロヨラ大学の法学教授であるディアス氏によれば、警察における AI の意思決定権限が強まるにつれ、司法制度そのものの不可解さも増していくといいます。「私を最も不安にさせるのは、私たち全員に関するデータ収集量が急速に拡大しているという事実です」とディアス氏は話しました。「現実として、特定の人物について得られるデータが多ければ多いほど、彼らを標的にするための理由を逆算して見つけることは容易になります。個々の個人に関するデータが蓄積されればされるほど、その人を捜査の対象へと変えてしまうことが簡単になってしまうのです。」

予算削減と人員不足に直面し、あちこちから営業トークを浴びせられる中、警察組織も民間企業と同じように新しい AI ツールの導入を迫られています。これらは、PredPol や CompStat といった過去のプログラムに見られた欠陥がないと約束されています。

ブルックリンのアイアナ警部が指摘した通り、この状況は規制の空白地帯の中で進行しています。法執行機関の指導者たちは、単なるギミックと実際に安全で有用なツールを見分ける判断を、自らの裁量に任されているのです。

「予測 policing システムの使用は、未来を過去のままにしてしまう可能性があります」

警察責任プロジェクト（Policing Project）のチーフ・オブ・スタッフ兼テック政策評議会のケイティ・キンシー氏は、法執行機関内での説明責任の促進に注力する非営利団体の代表としてこう述べています。現在警察組織が直面している課題は、この新しい世代のリアルタイム犯罪分析システム（RTCC）に投入されるデータが信頼できるかどうかを確保することです。つまり、過去のツールでトレーニングデータを汚染していたバイアスが含まれていないかどうかが問われています。

「私たちは、警察活動がデータに基づき、証拠に基づくものであることを強く望んでいます」とキンシー氏は話します。「しかし、データは完璧ではありませんし、すべてのデータが等しく作られているわけではありません。特に AI 時代において、意思決定の通貨としてデータの重要性が高まる中で、警察が直面しているデータソースとその限界を理解することは極めて重要です」

データが Axon のような民間ベンダーに管理されている場合、こうした透明性はさらに困難になります。これらの企業のビジネスモデルは、独自 AI ツールの機密性を維持することに依存しているからです。広範な AI 競争から得られる教訓の一つは、市場シェアを巡る争いが往々にして安全性を犠牲にして行われるということです。

現時点では、包括的なガバナンス体制が整うまでの間、警察組織は自らの判断で増え続ける技術ベンダーの中から選ぶしかありません。今日下される決断は、明日の組織内での意思決定に大きな影響を与えます。

私はコロラド州ボーダー警察署長のスティーブン・レッドファーン氏に、法執行機関における AI の将来について尋ねました。彼はそのように答えています。「しばらくの間、人々がこれに慣れるまでは、状況はジェットコースターのようなものになるでしょう」

*この取材は、Tarbell Center for AI Journalism の助成金によって支援されました。

この記事のトピックや著者をフォローして、パーソナライズされたホームフィードで類似記事を確認したり、メール更新を受け取ったりできます。

• Webb Wright

-

-