AI が分析した研究、米国各地の差別的な地方法を指摘

ミシガン州では、非米国籍者が民間探偵の資格を取得することは法律で禁止されています。テネシー州メンフィス市では、教育委員会が「白人と有色人種の青少年のために別々の学校を提供し維持する」義務をまだ負わされています。フロリダ州バルパライソでは、投票税の徴収が依然として合法です。

これらは、AI を活用して 9,600 以上の地方自治体の法典を検索し、差別的な条項を探した新しい研究からの数少ない事例に過ぎません。この検索により、潜在的な見直しが必要な疑わしい法律が約 1 万件見つかりました。

スタンフォード大学 RegLab の研究フェローであるヤスミン・マベンはこう述べています。「少なくとも 5,000 万人のアメリカ人が、人種、性別、市民権、年齢、障害に基づいて憲法上の保護を侵害する明白な差別的な法律によって統治される都市や郡、町に住んでいます。私たちが開発した AI パイプラインは、これらの法律を見つけ、法典から撤廃するための手助けができます。」

マベンは、この研究チームの AI を活用した分析による驚くべき発見を記述した論文「Hidden in Plain Text: LLM-Assisted Detection of Discriminatory Local Laws」の筆頭著者です。この論文は、International Conference on Artificial Intelligence and Law（ICAIL）の論文集に掲載されました。本研究は一部、Stanford Institute for Human-Centered AI（HAI）によって支援されています。

「保護された属性に基づいて人々を特定する法律は、制定された時代を超えて長く存続し得る」と、スタンフォード大学法学部のダニエル・ホ教授（RegLab所長兼Stanford HAI副所長）は語る。同氏は今回の研究のシニア著者でもある。「連邦法や州法の改正に多くの人的努力が注がれてきた一方で、地方自治体の条例は誰も時間を割いて確認し、是正する動きを起こさなかったため、そのまま残されているのだ。」

例えば2019年、バージニア州では、3つの大学から集まった法学部の学生、知事室の職員、現役弁護士数名、そして在任中の判事が加わった委員会が結成され、1900年から1960年の間に制定された差別的な条例の一覧作成に着手した。

前例のない取り組み

研究チームはまず、国内の9,623もの地方自治体における書面での法律を統合し、それらを評価するためのAIパイプラインを開発する必要があった。これらの自治体が管轄する人口は全米の約75％に上ると推定されている。その後、多段階のAIワークフローを構築し、条例を精査して潜在的な差別的条文を検出し、専門家によるレビューが必要な箇所を浮き彫りにした。

「地方コード全体を対象としたこれと同等の取り組みは、私どもの知る限りかつて行われたことはない。数が多すぎるのだ」とマベンは語る。「AIの支援がなければ、条例帳から該当する法律を見つける作業は、途方もなく時間がかかるものだったろう。」

研究チームは、900 万もの法条を複数のステップでレビューするための LLM フレームワークを設計しました。まず、人種、宗教、性別・ジェンダー・性的指向、婚姻状況、国籍・外国人 status、遺伝情報、年齢、障害など、保護対象となるカテゴリーを参照する条文にフラグを立てます。次に、これらの法律がその特性に基づいて人々を異なる扱いをしているかどうかを判定します。

その後、人間によるレビュー担当者が、容認される差異（例えば障害者への配慮や性別中立な表現への更新など）を除外し、残りの法律を、法務専門家によるレビューの優先度として「低」「中」「高」のいずれかにランク付けしました。

この手法が従来のテキストベースの検索とどう違うかについて、マベネ氏はこう述べています。「単なる差別的な言葉の単語検索以上の作業でした。人間がレビュー担当者に問いかけるような法的質問に答えられるアプローチを設計する必要があったのです。実際に差別を生んでいる法律と、単に保護対象となるグループの名前を言及しているだけの法律を見分けることが求められました。」

目から鱗の結果

この調査パイプラインが突き止めた注目すべき結果の一つは、市民権を持つことが本来不要な職業（例えばボウリング場の経営など）において、非市民の資格取得や就業を禁止する法律が2,000件以上存在することです。また、性やジェンダーに基づく差別も多数発見されました。その中には、売春行為を女性のみを対象に犯罪とする法律も含まれています。

さらに、人種による差別規定も依然として残っています。例えばジョージア州の法では、裁判所事務官に対して「投票権を持つ白人と有色人種の有権者を別々の名簿で管理する」よう指示しており、ノースカロライナ州の法律では「白人と黒人のための墓地を分けること」を義務付けています。

著者らによると、このパイプラインはさらに30,000件以上の差別的な文言を含む法律も特定しました。その一例として、オハイオ州のある町の住宅法では、知的障害を持つ住民を「弱体者、狂人、気違い、愚か者、または馬鹿」と呼ぶ表現が使われています。

これらの発見された条項を検索・閲覧できる companion ウェブサイト も公開されています。

この手法は強力でしたが、完璧ではありません。人間のレビューは依然として必要です。著者たちは、自らの方法が表面上は中立的ながら差別的な影響を与える法律を特定できないこと、また一見中立な法律の差別的な執行に対処できないことを認めています。しかし、法的扱いの違いを見つける精度は 90% を超え、人間のアノテーターも「優先度が高い」と判断した条項の 88% を正しく指摘しました。さらなる開発と改善を通じて、研究者たちは AI がさらに向上し、法令レビューや法 reasoning のタスクにおいてより大きな支援を提供できることを期待しています。

ポリシー・スラッジ（Policy Sludge）

研究者たちは、これは単に人手不足の地方職員が古く差別的な法律を法典から削除するのを怠っているという問題ではないと強調します。多くの法律は現在も執行されています。例えば、最近マサチューセッツ州で出された判決では、国籍を理由にグリーンカード保有者のブラジル人家族に酒類販売ライセンスの付与が拒否されました。これは本手法で見つかった多数の法律と同様のものです。

ホー氏はこうした法律を「policy sludge」と呼び、地方コードはリソース不足のために特に「粘着性（sticky）」が高いと指摘しています。しかし AI の助けがあれば、こうしたスラッジをこれまで以上に容易に特定できるようになります。研究者たちは今、地方当局や国の非営利法律組織が協力して差別的な法律の改正・撤廃に取り組むことを望んでいます。

「差別的な法律を見つけるには、この研究で集めた数百万の法律をすべて読み切るだけでも、最も忍耐強い法学部の学生でも一生かかるでしょう。しかし、AI が役立ちます」とホー氏は語ります。「ここでは、人間が関与する大規模な法令レビューのための構造化されたワークフローを提供します。これにより、必要な改革は不可能な問題ではなく、取り組める課題へと変わります。」