読書案内:”AI, agency and responsibility: the VW fraud case and beyond”


  1. 書誌情報

    Johnson, D.G., Verdicchio, M. (2019) AI, agency and responsibility: the VW fraud case and beyond. AI & Society 34, 639–647.

  2. 解説

    デボラ・ジョンソンとマリオ・ヴェルディッキオによるAIの行為者性についての論文。自らのアプローチを示したうえで具体例に適用してその有効性を探るものである。内容としては、著者(ら)が以前から提唱してきた「三つ組みの」(triadic)アプローチを行為者性の概念として明示したものになる。議論はかなり整理されており読みやすい。人工物に行為者性を帰す考え方はすでに様々な論者からいくつか提示されている。そのうちの一つとして、本論文はよい参照先となるだろう。

    本論文で明示されるものは「三つ組みの行為者性」(triadic agency)というモデルである。簡単にいうと次のようなものになる。すなわち技術が使用される行為について、1.人間である使用者、2.人間である設計者、3.人工物という三つの行為者を探す必要があり、その三者の寄与、すなわちそれぞれの因果的有効性および意図性を調べるべきである。このうち意図をもつ行為者だけが責任を取ることができる。意図をもつのは人間だけなので、責任を取ることができるのも人間だけである。本論文ではとりわけ、サンプルケースとしてフォルクスワーゲン社の排ガス不正事件が扱われている。特にそこにおいてディフィートデバイス(検査をパスするための装置)が果たした役割が分析されている。

    本論文の特徴として興味深いことは、将来の仮想的ケースとして、この三つ組みから人間を消去したケースが提示されていることである。ここでジョンソンとヴェルディッキオは、ボストロムのいうような超知能を想定している。というのも、こうした超知能が仮に実現した場合、そうした存在者は、自分で目標を定めて自分でその解決策を設計することができるからである。言い換えれば三つ組みの三頂点をすべて自分自身で占めることが可能だからである。そのような場合について責任をいかに考えることができるのだろうか、というのが著者らの提示する問いの一つである。その際の解決策もまた著者らは提示している。詳しくはぜひ本論文を読んでいただきたいのだが、しかしその解決策について執筆者は正直にいうと違和感を覚える。本アプローチがどこまで有効なのかじっくり考えてみたいところである。

  3. 著者紹介

    デボラ・ジョンソンはアメリカ・バージニア大学名誉教授。マリオ・ヴェルディッキオはイタリア・ベルガモ大学のAssistant Professor。二人は近年いくつか共著で論文を発表している。

  4. 参照文献・読書案内

    ・Johnson, D.G. (2006) Computer systems: Moral entities but not moral agents. Ethics and Information Technology 8, 195–204.

    ……人工物、人間的設計者、人間的使用者の三つ組みについて説明している初期の論文。

  5. 執筆者

    大家慎也(2022/10/21)

読書案内は研究会メンバーが重要・興味深い文献を紹介するコーナーです。
ご興味がありましたらぜひオリジナルの文献にあたってみてください。
(読書案内は執筆者の視点で書かれていますことをご了承ください)