これまで運転手が行ってきた判断を自動運転システムが担うようになるには、倫理面でどのような基本ルールに従うべきなのか。こうした問題は今後、自動運転システムをプログラムする上でも、社会受容性を高める上でも避けて通れない。ドイツでは8月、交通・デジタルインフラ省が設置した倫理委員会が世界初のガイドラインとして「自動運転とコネクテッドカーの倫理規則20項目」を発表した。哲学的な土壌があるドイツならではのアプローチで、今後、倫理的側面からの議論の広がりにおいて注目される。

2017/10/15

 

　倫理委員会は法律家や哲学者、神学者、消費者団体代表、自動車メーカーの技術専門家など14人で構成。将来実現すると予想されるレベル4から5の自動運転を想定し、「安全や利便性のために、どれほどマシンラーニングなどのシステムに判断をゆだねるか」「そうした状況をどこまで受け入れるか」など、倫理的観点から議論を重ねた。

自動運転システムが陥る「ジレンマ状況」の難しさ

　議論では特に、自動運転システムが2つの害悪のうち、いずれか1つを選択して遂行しなければならないような「ジレンマ状況」に多くの時間が費やされた。こうした「ジレンマ状況」の例としては、レポート後半の「議論の成果と未解決の問題」の中で次のような状況が挙げられている：車が崖沿いの道路を走っている際、その進行方向の路上に複数の子供たちがいる。まっすぐ進んで子供たちの命を危険にさらすべきか、崖から落ちてドライバーが自ら命を絶つべきか？ 

　指針では、こうしたケースについて抽象化・一般化は困難としながらも、考慮すべき要素や従うべき規範を文章に落とし込み、いわば現時点での倫理的判断の枠組みと限界点を示す内容となっている。

　指針によると、自動運転システムは「最先端技術に基づいて、まずは最初の段階で、致命的な状況が発生しないようにデザインされなければならない」と述べる。しかし、上記のような人命にかかわるような究極のジレンマ状況においては、「明確に標準化することはできないし、倫理的に議論の余地のないようプログラムすることもできない」と述べ、「正しい決断を下せるための道徳的能力を持った責任ある運転手の判断」をシステムと置き換えることもできない、としている。

　どのような場合に犯罪として刑事責任を問われるか、といったような法的判断については、それぞれのケースの法的判断は「特別な状況を考慮に入れ、振り返ってなされ、抽象的/一般的な事前判断に容易に変換することはできず、したがって同様の状況をプログラミングにも変換できない」との見方を示し、独立した公的機関がこうした法的問題を処理すべきことを示唆した。別項目では、事故の説明責任が人からシステムへ移行していくことも責任制度や裁判所の決定に反映されるべき、との視点も加えている。

高齢者か子供か、など個人的特徴を考慮することは倫理に反する

　一方で、事故が避けられない状況においては、「個人的な特徴（年齢、性別、身体的もしくは精神的な構成）」に基づく区別を厳密に禁止した。つまり個人の尊厳と平等の観点から、事故の被害者となるのが、子供か高齢者か、男性か女性か、などといった点を考慮に入れるのは倫理的に認められないとしている。

　ほかにも、「自動運転システムがもたらした損害に対する責任は、他の製造物責任と同様の原則に従う」として製造者やオペレーターがシステムを継続的に最適化するよう規定。また、運転時には自動運転システムを使用しているかどうかは明確にされるべきで、それらのデータは記録され、保存されなければならないことにも言及した。

　道路利用者の監視につながることなどから、鉄道や航空機のように「すべての車を中央制御することは倫理的に疑問が残る」とも記述。車両データが企業などに転送されて使用されるかどうかを決定するのは車両所有者であると述べ、車両ユーザーの権利への配慮もみせた。また、「自動化システムの適切な使用については、人々の一般的なデジタル教育の一部を形成すべき」としており、こうしたシステムは運転教習で教えられ、試験が必要であることにも触れた。

　倫理委員会は昨年9月に設立され、憲法裁判所のウド・ディ・フォビオ元裁判官を委員長に、全体会合と5つのワーキンググループで様々な角度から議論された。5つのワーキングのテーマはそれぞれ「避けられない危害を含む状況」、「データ・アベイラビリティ、データ・セキュリティ、データ・ドリブン・エコノミー」、「人とマシンの意思疎通の状況」「路上交通を超えた倫理的な考察」、「ソフトウェアとインフラへの責任範囲」。この自動運転とコネクテッドカーの倫理規則20項目を含むレポートはアレクサンダー・ドブリント交通・デジタルインフラ相に手渡された。

　20項目の倫理規則の内容は下記の通り。

 

自動運転とコネクテッドカーの倫理規則

 

1.　一部および完全に自動化された輸送システムの第一の目的は、道路利用者すべての安全を向上させることだ。もう一つの目的は、移動の機会を増やし、さらなるベネフィットを可能にすることだ。技術開発は個人的な自主の原則に従う。つまり、個々は自らの責任において行動する自由を持っている。

2.　人の保護は、他のすべての実用的な考慮事項よりも優先される。目的は、人への危害を完全に防ぐことができるまで危害レベルを減らすことだ。自動運転システムへのライセンス供与は、それが人間の運転と比較して少なくとも危害の軽減をもたらすことが約束されない限り、言い換えればリスク・バランスがプラスにならない限り、正当化されるものではない。

3.　公的機関は、ライセンスを受けて公道を走る自動運転システムおよびコネクテッド・システムの安全性を保証する責任がある。したがって、運転システムには正規のライセンスと監視が必要になる。基本理念は事故回避だが、リスク・バランスが根本的にプラスであれば、技術的に避けられない残存リスクは自動運転の導入を妨げるものではない。

4.　個人がそれぞれの決断に責任を持つということは、個人を基礎とし、個々の発展を認めてそれらを保護する必要を認める社会としての表現である。そのため、すべての政府と政治的規制判断の目的は、個人の自由な発展とその保護を促進することにある。自由な社会おいて、技術が法的に肉付けされる方法とは、発展の一般的な形態の下で最大限の個人的選択の自由と、他人の自由と安全が、うまくバランスを取られる中で行われることになる。

5.　自動化およびコネクテッド・テクノロジーは、事実上可能な限り、事故を防止すべきである。最先端技術に基づいて、まずは最初の段階で、致命的な状況が発生しないようにデザインされなければならない。致命的な状況とは、ジレンマ状況、つまり自動運転車両が二つの選びようのない害悪のうち、どちらかを選んで実行しなければならないような状況も含む。この意味で、すべての範囲の技術オプション　—　例えば、制御可能な交通環境へのアプリケーション範囲の制限から、車載センサーやブレーキ性能、危険な状況にある人へのアラート、“インテリジェントな”道路インフラによる危険回避まで　—　が活用され、継続的に進化させられなければならない。道路交通安全の大幅な強化は、開発と規制の目的であり、弱い立場にいる道路利用者に可能な限り危険を及ぼすことがないよう、防御的かつ予測的な方法で運転するよう車両を設計しプログラミングすることから始まる。

6.　より高度に自動化された運転システム、特に自動で衝突を防止するオプションの導入は、危害を抑えるという現存の可能性を解き放つならば、社会的かつ倫理的に義務づけられるかもしれない。逆に、完全自動の交通システムを使用すべきという法的義務または現実として不可避的な状況をつくりだすことは、技術的要請に屈するということならば倫理的に疑問が残る （対象を単なるネットワーク上の要素に陥れることは禁止）。

7.　すべての技術的な予防措置が講じられているにもかかわらず、危険な状況が避けられないことが分かった場合、法的に保護された利益バランスの中で、人命の保護は最優先される。したがって、技術的に実現可能な制約の中で、人的損傷を防ぐことができるのであれば、システムは動物や財産への損害を受け入れるようプログラムされる必要がある。

8.　真にジレンマに陥るような決定、一人の人命と他の人命の間にまたがるような決定は、関係する当事者による「予測不能」な行動を織り込んだ実際の状況によって下される。そのため、それらは明確に標準化することはできないし、倫理的に議論の余地のないようプログラムすることもできない。技術システムは、事故を避けるために設計されなければならない。しかし、正しい決断を下せるための道徳的能力を持った責任ある運転手の判断を置き換えたり予測するような形で、事故のインパクトを直感的かつ複雑さをもって評価するように標準化はできない。人間の運転手が、一人かそれ以上の人たちの命を救うため緊急状況の中で一人を死亡させてしまうよう行動したとしても、犯罪的な行動だとは限らない。このような法的判断は、特別な状況を考慮に入れ、振り返ってなされ、抽象的/一般的な事前判断に容易に変換することはできず、したがって同様の状況をプログラミングにも変換できない。こうした理由のため、おそらく他の何よりも、独立した公共機関（例えば、自動輸送システムに関わる事故調査連邦事務局、または自動運転およびコネクテッド・トランスポートにおける安全のための連邦事務所）が、システミックに学んだ教訓を処理するのが望ましい。

9.　避けられない事故状況において、個人的な特徴（年齢、性別、身体的もしくは精神的な構成）に基づく区別は厳密に禁止される。また、被害者を別の被害者に置き換えるようなことも禁止される。人身事故傷害者数を減らすための一般的なプログラミングは認められる可能性がある。あるモビリティ・リスクの発生に関与する当事者は、それに関与しない人たちを犠牲にしてはならない。

10.　自動運転およびコネクテッド・ドライビングシステムの際、以前は個人だけが保持していた説明責任は、運転手から技術システムの製造業者やオペレーター、またインフラ上・政策上および法律上の決定を担当する機関に移行する。法定責任制度と裁判所の日常的な決定には、こうした説明責任の移行を十分に反映しなければならない。

11.　作動中の自動運転システムがもたらした損害に対する責任は、他の製造物責任と同様の原則に従う。このことから、製造業者または運営業者は、システムを継続的に最適化し、すでに提供したシステムを観察し続け、技術的に可能で合理的なところを改善することが義務付けられる。

12.　一般市民は、新しい技術とその発展について、十分に差別化された方法で、情報を得る権利がある。ここで進展した原則の現実的な導入について、自動運転車の配備とプログラムのための指針は、できるだけ透明な形で一般市民に伝達しコミュニケートされ、専門性において適切な独立系機関によって見直されるべきである。

13.　将来的に、鉄道や航空機と同様、完全なコネクティビティですべての車をデジタル交通インフラの枠内で中央制御することが、可能で利便性が高いか、現在述べることは不可能だ。完全なコネクティビティですべての車をデジタル交通インフラの枠の中で中央制御することは、完全なる道路利用者の監視や車両制御の巧妙なる操作を安全に排除できない限り、倫理的に疑問が残る

14.　自動運転は、考えられる攻撃、特にITシステムへの巧妙な操作やシステムの先天性な弱点が、人々の道路交通への信頼を永久に粉砕するような害悪をもたらさない限りにおいてのみ正当化できる。

15.　車両制御に重要であっても重要でなくても、自動でコネクテッドされた運転によって生成されたデータを利用するよう許されたビジネスモデルは、道路利用者の自律性およびデータ主権の限界に直面する。生成された車両データが転送され使用されるかどうかを決定するのは車両所有者および車両のユーザーだ。このようなデータ開示の自発的性質は、重要な選択肢と実用可能性の存在を前提としている。検索エンジンやソーシャルネットワークのオペレーターによるデータアクセスの場合に一般的なように、現実の事実を規範にしようとする勢力に対抗するために、早期に行動を取るべきである。

16.　ドライバーレス・システムが使用されているかどうか、または運転者がシステムを無効にするという選択肢に責任を負っているのかどうか、明確に区別することができなければならない。有人システムの場合、ヒューマン・マシン・インターフェースは、いつでも明確に統制され、特に制御の責任においては、個人の責任がどちら側にあるのか、設計されなければならない。例えば時間とアクセス構成に関して、責任の分配（それゆえの説明責任）は、記録して保存する必要がある。これらは、特に人とテクノロジーがハンドオーバーする上での手順に適用される。自動車技術とデジタル技術がますます国境を越えていく中で、ログの互換性や記録の義務を確保するため、ハンドオーバー手順の国際標準化とその記録（ログ）化が求められる。

17.　高度に自動化された車両のソフトウェアおよび技術は、運転手への急な制御の引き渡しの必要性（緊急事態）が事実上、回避されるように設計されなければならない。効率的で信頼性の高い安全な人とマシンのコミュニケーションを可能にし、過大な負荷がかかることを防ぐため、人間の適応能力を高めることを求めるのではなく、システムが人間のコミュニケーション行動にさらに適応しなければならない。

18.　車両操作と中央シナリオデータベースとの接続を自己学習するラーニング・システムは、安全性の向上をもたらす限りにおいて、倫理的に許されるだろう。自己学習システムは、車両制御に関連する機能に関する安全要件を満たし、ここで確立された規則を損なわないものでない限り配備してはならない。関係するシナリオを、それを受け入れるためのテストを含めて、適切な世界基準をつくるため、公平な組織体が運営する中央のシナリオデータ目録へ引き渡すようにすることが望ましいと考えられる

19.　緊急事態において、車両は自律的に、すなわち人間の助けを受けずに、「安全な状態」に入らなければならない。特に、安全状態の定義またはハンドオーバーをする際の、ハーモナイゼーションが望ましい。

20.　自動化システムの適切な使用については、人々の一般的なデジタル教育の一部を形成すべきである。自動運転システムの適切な取り扱いは、運転教習中に適切な方法で教えられ、テストされなければならない。

 

（記事・翻訳　友成 匡秀）

 

参考： ドイツ交通・デジタルインフラ省のプレスリリース　（英語ページ）