読書案内:“Big Data and Compounding Injustice,”


  1. 書誌情報
    Hellman, Deborah, forthcoming, “Big Data and Compounding Injustice,” Journal of Moral Philosophy.

  2. 解説
    データと不正義の文脈において、おそらくは必読文献となるだろう論文である。「おそらくは」と書くのは、この論文が最新のものであることと、この分野自体がかなり近年勃興したものであり体系的にまとめられた文が管見の限り未だないという理由による。

    技術発展やそれにともなう人工知能による差別を背景に、データもまた、正義の観点からの考察がおこなわれる対象となってきた。これまでは事例研究や技術的検討が主であり、数少ない理論的研究も社会学的な検討が中心だったが、近年データと正義は哲学の課題の一つとして認められつつある。数理的な色彩が強い分野ゆえ研究も数理的なものに偏りがちな中で、データと正義の分野のうち哲学的な研究は、そもそも私たちが何を計測しているのか、計測しているものは本当に現実を反映しているといえるのか、などの考察を行っている。

    これまでこの分野の研究は「データが本当の現実を反映していない」という前提のもと議論を進めるものが多かった。この論文はそうではなく、「データが本当に現実を反映していたらどうか」という立場に立ち、それでもなお私たちには当該のデータにもとづいた決定に従わない道徳的理由がある、ということを主張しているところに特徴がある。これはどういうことか。Hellmanが挙げる次の事例を見てみよう。

    生命保険と殴られた女性:Amyは家庭内暴力(DV)の被害者であるとする。その結果、彼女はその後1年の間、家庭内暴力の被害者でない女性よりも死亡率が高くなった。生命保険業者は、保険期間中に被保険者が保険金を請求する可能性に応じて保険料の価格を調整するため、虐待の被害者であるAmyなどには、虐待の被害者ではない他の人々よりも高い料金を設定することとなる。たとえ虐待された女性が虐待者のもとを去っても、そのような女性は殺される可能性が高いという理由で、実際の正確性のみに着目する保険業者は彼女に高い利率を課すだろう。Amyに実際に正確な利率を課す保険業者は、不正義と結託する(compound injustice)だろう。

    果たして私たちは保険業者に手放しに賛成するだろうか。Amyは被害者であるにもかかわらず、死亡率が高くなったということでより高い保険金を支払わなければならない。これはおかしいことだと思われる。Hellmanがこの論文で述べたいのは、この事例と同じように、差別的な行為によって作り出されたデータを利用して意思決定するときには、同じような現実の歪みがある、ということなのだ(繰り返しになるが、データの歪みがある=現実を正確に反映していない、だからよくない、という主張ではないことに注意してほしい)。

    このような場合には、上の事例に基づけば、Amyに実際の確率に対応した保険金を課す理由は確かにあるが、その処遇を変更し、保険金を変更する充分な道徳的理由もあるHellmanはこれをACI原理(The Anti-compounding Injustice Principle)と呼んでいる。

    しかしこのような道徳的原理は、当然これまでの慣習と拮抗しうるものだ。何より、DV被害者にその被害の深刻さからより高い保険金を請求する理由は十分にあることをHellmanも否定しない。Hellmanがこの論文で示しているのはあくまで、「そのような場合には例えば利率を考え直す充分な道徳的理由がある」ということであり、それをどのようにこれまでの慣習や企業利益などの要素と、どこまで折衷させるかといった指針を提供するものではない。しかし昨今の状況を鑑みて、これまで着目されてきた事実とは異なるデータが記録されてきたパターンだけではなく、事実とデータが一致してしまっているパターンもあるとある程度体系的な形で問題提起したことには意義があると思われる。

  3. 著者紹介
    デボラ・ヘルマンは、ヴァージニア大ロースクール教授。専門は法哲学、特に法の平等な保護とその哲学的基礎付け、金銭と法的権利。近年はアルゴリズムと公平性にも興味を持っており、2020年の論文”Algorithmic Fairness”は米国法科大学院協会の法学論文賞(Association of American Law Schools Section on Jurisprudence Article Award)を受賞した。

  4. 執筆者
    前田春香(2022/08/04)

id:002