ビッグデータを用いた「予測型警察活動」の問題点とその対処法(?)

概要


近年アメリカにおいてビッグデータを用いた警察活動が行われている。本稿ではいわゆるビッグデータを用いた「予測型警察活動」について,行われるようになった経緯,ビッグデータの技術的な限界,司法上の問題点,そして今考えうるそれらの対処法を論じていく。これを踏まえて,日本において将来的に導入されると思われるビッグデータを用いた警察活動にどのような効果・問題があるかを若干ながら論じていく。

 


I  本稿の立ち位置

 近年のインターネット等による膨大なデータの流通及び蓄積,ディープラーニングに代表される機械学習の進化,通信の高速化,コンピュータの計算能力の向上等が進んだ結果, 人工知能(以下,AIとする)の研究開発が進み第4次産業革命と呼ばれるような社会変動が 生じている。それに伴って,法学の領域においても「責任」をはじめとした AI に対する立法学的検討など,AIが実生活に及ぼす影響についての議論が行われ始めている。
 本稿では,主にアメリカにおいて2010年前半から行われてきたビッグデータを用いた警 察活動について論じていく。この警察活動はAIのアルゴリズム演算を用いており,いわば 「AIを用いた警察活動」と言えよう。また,アメリカのみならず,日本においても監視による警察活動が将来行われる可能性があることから,本稿の議論の価値はあると期待でき る。


II アメリカの警察活動にビッグデータ捜査が導入された動機

 アメリカの警察活動にビッグデータが導入された大きな理由は次のようになる。すなわ ち,市民が人種的に中立的であり,警察活動に「客観的な」正当性を与えるかのような(過 去の警察活動にたびたび用いられてきた主観的ないわゆる「カン」による捜査に不満が生じた)データを求めたことにある。このことに関して,ファーガソンは2つの文化的変化が関わっているという。
 第1の文化的変化は,予測分析学,社会ネットワーク理論,そしてデータマイニング技術がみなきわめて高い水準に達したことである。警察活動でいえば,例えば容疑者に関する情 報を警察内でデータとして利用可能・共有可能なデータベースとして保管可能になったことである。これにより監視能力が向上し,市内全域に設置された監視カメラが人物を特定するのに雑作はなくなった。顔認識システムによりその身元を特定し,犯罪歴の詳細を洗い出 し,アルゴリズム判定によってその人の危険度まで導き出せるようになった。つまり,監視 カメラとアルゴリズムが連動することによってある人物の過去はもちろん未来も予測でき るようになったのである。
 第2の変化は,警察の「不祥事」である。ニューヨーク州ステタン島,ミズーリ州ファー ガソンなどの都市で起きた,警察の非武装アフリカ系アメリカ人殺害である。これらの事件に市民は激しい怒りを表した。警察の人種差別的な態度に対する不満や苛立ちである。
 この2つの文化的変化により,警察は対応の変化を迫られた。そしてよりスマートな警察活動への期待を市民は持ち,警察は建前としてはこれを受けてビッグデータ警察活動システムを取り入れた。しかし,実際には警察にとってもメリットがないわけではない。まずは,警察が市民の声を聴くことによって深い社会との溝を埋めることができる。もう一つは,データを用いた警察活動であれば攻撃的なものでも正当化されうることも言えるだろう。ビッグデータを用いた捜査にとってこれまでの事件が起こってから捜査が開始される「追跡型警察活動」からビッグデータを用いて個人の行動を予測し,あらかじめ犯罪を防ぐ「予測型警察活動」にシフトチェンジできることも大きな魅力かもしれない。


III 統計的な限界

  日本でも民間分野に関しては既にビッグデータを用いた事業を展開しているものもある。例えば,Amazon.comは各商品の下に「この商品を買った人はこんな商品も買っています」 など,特定の商品を購入した顧客がほかに購入したものについての膨大なデータを用いて相関関係を導き出している。ビッグデータを用いらなければ判然としないユニークな相関関係も出ることがある。
 それでは,このビッグデータ技術を警察活動に用いたらどうなるだろうか。アメリカにおいては,正当な令状があれば警察はビッグデータ企業が消費者目的で収集したほぼどんな情報でも手に入れることができる。このデータ(以下,「消費者データ」とする),そして過去の犯罪リストをデータベース化したもの(以下,「犯罪データ」とする)を基にして予測型警察活動が行われるとしよう。そして,それぞれのデータに基づいた予測型警察活動が行われる際の統計的な限界を論じていく。
 (1) 消費者データを用いて予測型警察活動が行われる場合

現在ではスマートフォンが大幅に普及しており,そこから個人が位置情報,購買履歴が情報化されていく。また,SNSを利用していれば個人情報が多分に流出するかも しれない。そして,例えば警察が消費データを手にしたとき,警察が,ある人物が購 入履歴から小さな小袋やデジタルはかりを検知し,銀行口座から現金での高額購入を検知し,スラム街に移動したことを検知したら彼をたどって薬物の売人を見つけ出せる可能性があることはわかる。これは「予防」という観点からもとても魅力的であるように見える。

 しかしながら,社会的地位と連関している場合はどうだろうか。例えば,ともに逮 捕歴はなく,同年齢,そして共に薬物を所持しているが,両者間で経済的格差がある。 裕福な人は消費者データに記載されるが,他方は記載されない。この場合,逆説的に前者にデータの「穴」が生ずる。警察は後者に監視の目を光らせるからである。この ように,ビッグデータそのものが「貧しい」ときに統計的な限界は生ずる。
 (2) 過去の犯罪データを用いて予測型警察活動が行われる場合

 アメリカでは過去に人種差別的な警察活動が蔓延し,市民が抵抗運動を行った。これを払しょくするために客観的なビッグデータを用いた警察活動が展開され始めているのは前述のとおりである。では,その大前提が崩れる,すなわち犯罪データそのものが人種的偏りを持つものだとすれば,それに基づいた警察活動は信頼に値するで あろうか。顔認識技術の研究では,アフリカ系アメリカ人と白人の間に人種による不均衡がみられる。アフリカ系アメリカ人のほうが白人よりも2倍も個人の特定に失敗した。このように,データシステムに入っている人に人種的不均衡が根強く存在するため,結果的に人種的マイノリティーにこのエラーの負担はかかるのである。
 また,アメリカでは人種的マイノリティーが貧困地域に住む傾向が多いことから, この「偏った」犯罪データによりさらに人種的マイノリティーが警察に監視されて行 動が制限されるという循環的な不正義も生じるという指摘もある。


IV 司法の対応―憲法,刑事手続上の疑問―

 予測型警察活動はビッグデータを用いてあらかじめどこで犯罪が起こるかを「先回り」を行い予測するものである。いわば,犯罪がある場所を突き止め犯罪を予防するものなのである。このような活動にかかわる疑問は憲法の領域にも広がっている。それらは主として「場所は警察官が疑う要因になりうるのか」や「警察が疑いを強めるべき場所は存在するのか」であるが,これについてアメリカの最高裁判所は,「犯罪多発地域」で警察官が見たものは,合理的な疑いあるいは相当な理由があったか否かを判断する要因となりうるという判断を下している。もっとも,米最高裁は「犯罪多発地域」の定義を示していないものの,予測型警察活動はそうした地域を地図化するためには極めて有効であろう。
 それでは,地域情報は人種による選別の懸念につながるような性質を持っているのだろ うか。また,ビッグデータによる捜査に基づいた職務質問と所持品検査は「警察に合理的な疑い」があり,これは合衆国憲法修正第4条に違反していないのか。アメリカでは修正第4条により個人の自由を保障しており,コンピュータアルゴリズムが個人の自由を変化させる可能性があるという結論は,重大な懸念事項となってしかるべきである。


V 予測型警察活動に対する対処法

 前述のように,個人の自由を変化させるような可能性を予測型警察活動は持っている。市民の側としては異なる処遇,正確性,透明性,説明責任の問題は注目しなければ,事後的な紛争の解決すら困難な可能性が高い。そのためにどんな策が講ぜられるだろうか。本稿では(1) 警察が自らビッグデータを用いて監視する「ブルーデータ」,(2)警察の外部から警察を監視 する「ブライトデータ」を紹介していく。
(1) ブルーデータ

 ファーガソンは『監視大国アメリカ』で「ブルーデータ」を警察が社会を取り締まるために開発された監視技術をそのまま裏返して利用するものとして定義している。 すなわち,警察官の位置を把握し教育と説明責任を強化するにあたってビッグデータ技術を用いるということだ。2010年代前半においてミズーリ州ファーガソンではいまだ警察による暴力事件が法執行機関データベースに記録されていなかった。おそらく全米レベルでも警察による暴力事件は記録されていないまたはまばらであると思われる。これは警察が説明責任を果たすにあたってきわめて無頓着な態度と言わざるを得ない。
 ブルーデータはこのような態度を一新するだろう。特にビッグデータを用いた一見 公正,透明な捜査では逆説的に求められる。実際に警察側に「監視」の目を光らせる メリットとしては,警察官の暴力事件が記録されデータベース化されていくので「問 題」を起こしている警察官を特定することが期待できる。
(2) ブライトデータ

 ファーガソンは,そもそも犯罪を予防する主体は警察でなくてもよいと言っている。
つまり,行政機関などの第3者が地域社会のリスク対応にビッグデータを用いて,「公 衆衛生」の問題と同様に行うのである。これをファーガソンは「ブライトデータ」と呼んでいる。
 ブライトデータを用いる前提として,犯罪が生じる要因を社会の環境という構造的 な問題に還元していく。本来の目的が「犯罪の取り締まり」である警察に対して,地 域社会の医療機関,行政機関,社会福祉機関が連動してビッグデータを用いて公衆衛 生ヒートリストなるものを作っていくことで効率が良い場合もあるということだ。行 政機関は警察よりも地域のデータを持っていると考えられるので,経済社会の発展を 妨げている相関関係について新しいひらめきが生まれる場合がある。例えば,公園と 精神的な改善に相関関係があるということがわかるかもしれない。


VI 日本における予測警察型活動の将来的な問題設定

 今年開催されたロシアW杯では,テロ対策として顔認証システムが用いられた。テロリストの脅威は、ロシアの主な頭痛の一つであった。しかし,監視カメラを設 置することによって,ロシア当局は誰かが不審な行動を示している場合、彼らはすぐにそれ を識別することができる。このカメラシステムにはAIネットワークが組み込まれており, アルゴリズム解析によって不審な動きを認知できると考えられる。なお,AI・ビッグデータによる顔認証システムは中国においても用いられている。

 2020年に東京五輪を迎える日本においてもセキュリティーは重要な問題になると予想されるので,一考の余地はある。
 前述したようにAIによる顔認証・行動についての判断のためには,ビッグデータが不可 欠である。逆に,ビッグデータの母数が大きければ大きいほど,AIの判断は統計的に正し い判断をする可能性が高くなる。この場合問題となるのは日本においても憲法で規定され ている個人の尊重(憲13 条)との「せめぎあい」になるだろう。このようなジレンマは世界共通 の問題だと考えられる。
AIによる「予測型警察活動」において,アメリカとの大きな差異は,人種というものが 大きな変数になるかどうかだと考えられる。IIIで述べたように,アメリカでは過去の警察デ ータ(逮捕歴など)が人種差別に根付いていたためにそのデータをAIによるアルゴリズム演 算に用いても,人種的に偏った結果しか生まれずに警察の不正義が再生産されていくのだ。しかしながら,日本では歴史的に人種を超えた人の流動というものがなく,多民族国家では ないためにアメリカのような不正義が生じるとは考えづらい。だとしたら,日本においてAIを用いた警察活動にどのような問題が生じるのだろうか。
 次のような場合をそれぞれ考えてみよう。
 事例(1)

 甲は過去に窃盗の罪で過去に逮捕され,2年の懲役を受けた。甲は釈放され,静かな生活を送り真摯に働いていた。ある日,警察官Pが街を歩いている甲に職務質問を行い,任意同行を求めた。甲がPに任意同行を求めた理由を尋ねるとPは甲が「犯罪予備軍リスト」に入っていたからだと答えた。
 事例(2)

 乙は逮捕歴がある甲と長年の友人であり,親しい仲であった。ある日,警察官Pが街を歩 いている乙に職務質問を行い,任意同行を求めた。乙がPに任意同行を求めた理由を尋ねると,Pは乙が「犯罪予備軍リスト」に入っていたからだと答えた。


 かつて最高裁はメディアの前科の公表がプライバシー権侵害を構成するか否かが争われた 事件で,「被上告人が社会復帰に努め,新たな生活環境を形成していた事実に照らせば,被上告人は,その前科にかかわる事実を公表されないことにつき法的保護に値する利益を有 していたことは明らかであるといわなければならない」とある。つまり,人生をやり直そうという個人の努力を無力化する点で,個人の尊重原理と抵触しうる(事例(1))。もっともこれは民事であるが,刑事手続についてはどのように対処されるべきなのだろうか。
 個人の尊重という憲法の根本規範上の要請を重視すれば,この任意同行は違法だといえるだろう(事例(2)ももちろん違法になるだろう)。いずれにせよ,今後このような事態が生じたときに刑事手続きに関する法整備の見直しは避けられない事態であるのだ。

 ビッグデータ,そしてAIを用いたアルゴリズム演算によって社会が動いていく時代が訪 れつつある。その中で人間の存在がどのようになるのか,ビッグデータを犯罪に結びつける ときにそもそも目的は何なのか。このようなことを念頭に置きながら今後の社会の動きに注目していきたい。


参考文献
・尾崎一郎「AIの奢り」(法律時報2018年1月号)日本評論社(2018)

・A・G・ファーガソン著『監視大国アメリカ』(大槻敦子訳)原書房(2018) (Andrew Ferguson The Rise of Big Data Policing,New York University,2017) ・福田雅樹=林秀弥=成原慧編著『AIがつなげる社会 AIネットワーク時代の法・政策』 弘文堂(2017)
BBC News Mundo “Mundial Rusia 2018: 5 adelantos tecnológicos que hacen que la Copa de este año sea "la más innovadora"”

http://www.bbc.com/mundo/noticias-44496046 (2018年7月13日現在)

最高裁平成6年2月8日判決http://www.courts.go.jp/app/files/hanrei_jp/442/052442_hanrei.pdf (2018年7月13日現在)