AI 監視カメラを欺く「デジタル迷彩」シャツが公開される

image巨大なビデオスクリーンの前に立つと、そこにはカメラが設置されています。このカメラで動作している画像認識 AI が私の周りに大きな緑色の枠を表示し、「PERSON（人間）」と表示します。

アーティストのサイモン・ウェーカート氏が、私に彼の最新作であるボタンダウンシャツを渡しました。花柄のような、ピンクや緑の不鮮明な斑点が散りばめられたデザインです。このシャツを私の前にかざすと、画面に表示されていた枠も「PERSON」という文字も消えます。シャツを離すと、再び枠が表示されます。またシャツをかざすと、今度は消えます。

これが「デジタル迷彩」です。アルゴリズムを混乱させる効果があります。

ウェーカート氏がこのデジタル迷彩をデザインした背景には、AI を活用した監視カメラの急増があります。これらのカメラは、視野内にいる人々や車両、動物、自転車、その他の物体を検知します。多くの AI 搭載カメラでは、人が倒れている状態や、「浮浪者」のような異常行動、喧嘩をしている様子、あるいは放置された荷物などを検知し、警察への通報につながる仕組みになっています。

こうしたカメラはすでに世界中で比較的一般的になってきていますが、ウェーカート氏がこの迷彩を開発したきっかけは、ベルリンの人気地下鉄駅「コトブスナー・トル」の周辺に警察が同様のカメラを配備したことです。これは市内で警察が運用する初の物体認識型監視カメラです。

「明らかに、人々はこれを好んでいません。なぜなら、これは AI が人々の動きや行動を追跡していることを意味するからです。カメラの後ろに誰かがいて見ているだけならまだしも、今は AI がそのような分析を行っているのです」とウェッカー氏は語りました。「地面に横たわっている人がいるかどうかを検知できるため、ホームレスの人々が検出され、警察が対応を迫られる恐れがあります」。

ウェッカー氏によると、ベルリンのカメラの一つの問題は、どの画像認識アルゴリズムを実行しているのか不明確な点にあります。しかし、多くの画像認識カメラはオープンソースの画像認識アルゴリズムである YOLO（You Only Look Once）ファミリーの変種を動作させています。そこでウェッカー氏は自身のカメラに YOLO をインストールし、さまざまなランダムパターンを試すことでこれを混乱させる実験を始めました。

彼はまずランダムなパターンから始め、それを YOLO アルゴリズムに提示して人間を検知するかどうか、そしてどの程度の確信度で検知するかを確認します。「YOLO が 100% と返してきたら、そのパターンは明らかに機能していないとわかります」と氏は説明しました。「その後、段階的にパターンを変更し、特定の部分を回転させたり、色を変えたり、反転させたりします。そして毎回、『これが人間である確信度はどれくらいですか』と質問する際、何らかの手法（グラディエント・アセント）を用いて『人間』というカテゴリから離れるように最適化します。すると突然、パターンを身につけたあなた自身は人間として検知されなくなります。なぜなら、アルゴリズムがそれを理解できないからです」。

ヴェッカー氏は以前から注目を集めるプロジェクトを数多く手がけてきました。かつて Motherboard で取り上げたのは、GPS 搭載の携帯電話を赤いワゴンに積み込み、ベルリンの街をゆっくりと歩き回らせて Google マップ上に仮想渋滞を作り出したというものです。

デジタル迷彩は、顔認識カメラから人の顔を隠したり、意味不明なナンバープレート模様のシャツで自動ナンバープレート読み取りカメラを混乱させたりする他のアーティストたちのプロジェクトと同じく、監視技術への対抗手段として位置づけられています。ここ数年、AI による監視技術は飛躍的に向上し、これらの手法の多くがもはや機能しなくなりましたが、現時点ではデジタル迷彩は依然として有効です。特に、非常に普及している YOLO アルゴリズムに対してはその効果が確認されています。

ヴェッカー氏は「警察側が具体的にどのアルゴリズムを使用しているかを明言しないため、コトブッサー・トーのカメラで彼のシャツが機能するかどうかを断定するのは難しい」と指摘しています。

「問題は、これらのカメラシステムの背後にある技術が不明な点です。そのため、この特定のカメラシステムに対して 100% 効果があるとは断言できません。ただし、広く知られている YOLO アルゴリズムに対しては確実に有効であることは保証できます」とヴェッカー氏は述べています。

さらに彼は、「ファッションブランドが季節ごとの新コレクションを発表するように、私のデジタル迷彩も同様に対応していく」と語りました。「新しい YOLO が登場するたびに、新たなパターンが登場します。ファッションの夏物・冬物コレクションのように、ここでは『YOLO 版』として毎度新作が発売されるのです。」

同氏は、このプロジェクトは単に監視から身を守るためだけでなく、人々にその実態を教え、それに対抗する多様な抗議方法があることを示すものだと語りました。「特定のツールを使って監視に対抗できるという感覚を持ってほしいのです。法律制定者や警察が行うことにただ受け身で従うしかないわけではありません。」