ホワイトハウスによるAI規制等に関するメモランダム

2020年1月7日、米国ホワイトハウスは、AI*1に対する規制の在り方に関する、連邦機関宛のメモランダム（Guidance for Regulation of Artificial Intelligence Applications）のドラフトを公表しました。

このメモランダムは、

• テクノロジーの発展とイノベーションを促進させつつも、
• 米国の技術・経済・国防・プライバシー・市民の自由、そして自由原則、人権、法の支配、知的財産に対する尊重その他の米国において重視している価値を保護することが重要とし、

そのために、連邦機関が検討すべき規制又は非規制によるアプローチ（reguatory and non-regulatory approach）を検討したものです*2。

この記事では、このメモランダムの内容を自分の勉強メモとして簡単にまとめつつ、先日ブログでも触れた英国のAI実務指針（案）と比較してみようと思います。

なお、英国のAI実務指針（案）については、こちらを御参照ください。

keifuruichi.hatenablog.com

Guidnance for Regulation of Artificial Intelligence Applicationsのゴールは？

ガイダンスでまず強調されているのは、Encouraging Innovation and Growth in AIの点です。

つまり、連邦機関が過度な規制等*3をしてしまうことによって、AIイノベーションやAIの成長を阻害することは避けたいという点です。

このガイダンスは、連邦機関が、イノベーション等の促進と、重要な価値の保護との調和点を見つけ出すためにどのようにアプローチしていけばいいのかを示したものというわけです。

これに対して、英国実務指針（案）は、民間企業等が、どのようにAIを説明すればいいのかを示したものであり、そもそもの目的が異なることになります。

また、英国実務指針（案）では、個人情報を利用したAIに基づく出力に基づく決定についての「説明」（人間の判断が介在する場合も含みます。）について扱っているのに対して、米国の本ガイダンスは（その文面からは）そういった場面に限られず「AIの開発と利用」に対する規制等のアプローチを扱っています*4。

Principles for the Stewardship of AI Applications ー 政府が考慮すべき10の原則とは？

では、ゴールは分かったとしても、連邦機関はどのように行動をすべきなのか、考えるべきなのか。ガイダンスでは10の原則を挙げています。

なお、毎度のことですが、原文の英語を翻訳している部分は、私独自の言い回しのことも多いですので「一般的な訳語なのかな」と思われないようにされてください。

第1原則：Public Trust in AI（AIに対する国民からの信頼）

まず、第1に、国民のプライバシー等に影響を与えうるAIが今後継続的に受け入れられるためには、国民からの信頼と評価が重要になるとしています。

そして、そのような国民からの信頼・評価を受ける観点から、連邦機関がregulatory and non-regulatory approachを考えるうえでも、reliable, robust and trustworthyなAIを促進（promote）することが重要であるとしています。

英国実務指針案（案）でも、国民からの信頼の重要性については、「AIの説明によって得られるメリット」（AIの理解向上と建設的な議論の促進）として挙げられていますし、逆に「AIの説明をしないことによるリスク」（AIに対する国民からの信頼喪失）という形でも指摘されています。

また、Safety and performance explanationとして、AIに基づく決定等の正確性・信頼性・安全性及び頑強性（accuracy, reliability security and robustness）が確保されているかがカバーされていました。

第2原則：Public Participation（国民参加）

 第2に、実現可能な範囲で、かつ法令が許す範囲で、国民がルールメイキングプロセスのすべてのステージにおいて参加できる豊富な機会を提供すべきであるとしています。

そうすることで、規制等に関する連邦機関側の説明責任の観点や規制等の質の向上が期待されるとしています。

冒頭で挙げた目的・宛名の点で異なる英国実務指針案（案）では、挙げられていない視点です。

第3原則：Scientific Integrity and Information Quality（科学的公正性と情報品質）

第3に、連邦機関が規制等を検討するにあたっては、公共や民間に重大な影響を与えうる技術的・科学的な情報を適切に集める必要があるとしています。

また、その規制等は、政策決定が何であるかを国民に情報提供するだけではなく、AIに対する信頼向上をもたらすものである必要があるとしています。

第4原則：Risk Assessment and Management（リスク評価と管理）

第4に、リスク・ベースのアプローチを強調しています。つまり、あらゆるリスクを避けようとするのではなく、どんなリスクなら受け入れ可能なのか（逆に、受け入れ不可能なのか）、リスクが得られるメリットを超過するのはどういった場面なのか、AIが「しくじった」ときの影響の規模と性質は何か、ということを検討すべきとしています。

英国実務指針案（案）でも、 Impact explanationとして個人・社会に与える影響を考慮した説明が必要としています。

第5原則：Benefits and Costs（効果と費用）

第5に、連邦機関は、社会的なコスト・メリット・拡散的な効果を考慮すべきとしています。既存の非AIシステムとの比較において、AIシステムを導入することによるメリットとコストが何かなどを検討することなどが含まれます。

更には、各考慮要素間の依存関係（critical dependency）についても考慮に入れるべきとしています。

つまり、AI導入時の技術的な要素（例えば、データの質が高いとか低いとか）やAI導入による人間行動の変化などによって、コストとメリットの規模と性質が変わってくるという点を指摘しています。

一律で画一的な規制等が難しいという点を指摘するものとも言えます。

第6原則：Flexibility（柔軟性）

第6に、パフォーマンス・ベースで柔軟なアプローチの重要性が指摘されています。

AI技術の急速な発展を踏まえると、どんな技術を使うべきかといった硬直的な規制は実際的ではないし実効性もないとします。

その代わりに、安全やプライバシー等の価値を守るような「目標の設定された適合性評価」（targeted agency conformity assessment schemes）によって、柔軟なアプローチを実現すべきとしています。

第7原則：Fainess and Non-Discrimination（公平性と差別禁止）

第7に、差別的効果について考慮すべきとしています。

各所で言われていることですが、ガイダンスでも、AIの導入によって、人間の主観に起因する差別が減少する可能性を指摘しつつ、時に、現実世界のバイアスが持ち込まれて差別的結果をAIが生み出す可能性も指摘しています。

そのことから、ガイダンスでは、AIの利用による差別的結果に加えて、既存の非AIシステムによって存在していた差別が、そのAIシステムの利用によってどの程度削減されたのかも検討すべきとしています。

英国実務指針案（案）でも、Fairness explanationの重要性を指摘していますが、「AIを利用しない旧来システムにおいて発生する差別」と「AIの利用による差別」との比較という視点は、同指針（案）では必ずしも強調されていない点であります。

第8原則：Disclosure and Transperency（開示と透明性）

第8に、AIがエンドユーザーに対してどういった影響を与えるか等の開示の重要性を指摘しています。

その際、既存の法令や政策等によって十分な開示が実現できているか否かを十分検討したうえで、新たな開示規制の導入が必要かを考えるべきとしています。

ここでは、適切な開示とはcontext-specificであるとし、以下のような要素が考慮されるとしています。

• 潜在的な危害（potential harm）
• 危害の規模（magnitude of those harms）
• 技術の現状（最新技術）（technical state of art）
• 潜在的なメリット（potential benefits）

英国実務指針（案）でも、「説明原則」として"Consider context"というのを挙げておりますが、ドメイン、影響力、データ、緊急性、聴衆という要素を挙げています。

もちろん、目的が違うので比較できるものではありませんが、状況・文脈に応じてあるべき開示又は説明が異なりうるというのは共通しているようです。

第9原則：Safety and Security（安全性）

第9に、連邦機関は「安全で意図した通りに運用されるAIシステムの開発を促進（promote）し、かつAIの設計・開発・実装・運用を通して安全性の問題を十分考慮するように奨励（encourage）」すべきとしています。

英国実務指針（案）におけるSafety and performance explanationやData explanationと共通する点がありますし、AIの設計から運用までを一貫して捉えるという視点も共通しているように思います。

第10原則：Interagency Coordination（連邦機関同士の協調）

最後に、連邦機関同士が協調し、経験を共有するなどを通じて、一貫した政府一体のアプローチを実現すべきとしています。

当然ながら、目的の異なる英国実務指針（案）には無かった視点です。

Non-Regulatory Approaches to AI ー 法令規制ではないアプローチの可能性って具体的には？

今回のホワイトハウスのガイダンスの特徴の一つとして、法令等による規制ではないアプローチの可能性を正面からとらえ、ある程度しっかり触れているという点が挙げられます。

その方法としては、3つ挙げています。

• セクター毎のガイダンス・フレームワーク（Sector-Specific Policy Guidance or Frameworks）
  ：イノベーションを阻害することとなる「規制の不透明性」を解消するため、法令規制ではないガイダンス等を制定すること。（日本の金融規制分野でも定番ですよね。）
  
  
• パイロットプログラムや実証実験（Pilot Programs and Experiments）
  ：HackathonやTech sprintsなどで、特定のAI利用に関して規制免除等を与えて実験的に実施させることを通じて、連邦機関自身もAIに対する理解を高め、得られたデータやその影響等を踏まえて将来の政策に生かすこと。（いわゆる「規制のサンドボックス」に似ているように思います。）
  
  
• 民間による自主基準（Voluntary Consensus Standards）
  ：民間による自主基準の可能性を視野に入れるとともに、独立した標準策定機関（independent standards-setting organizations）なども検討すること。（これも、日本の金融規制分野では定番ですね。）

これらの方法も、連邦機関としては選択肢に入れて検討することになります。

Reducing Barriers to the Deployment and Use of AI ー ルール策定以外に政府が出来ることは？

このガイダンスは、冒頭でも説明したとおり、Encouraging Innovation and Growth in AIが狙いなわけですが、連邦機関がなし得ることとして、上記で触れたルール（非規制を含む）策定以外に、以下が考えられるとしています。

①政府保有データ・モデルへのアクセス向上（Access to Federal Data and Models for AI R&D）

 いわゆる米国OPEN Government Data ActやOMB（米国行政管理予算局）が出すガイダンスに従って、政府が保有するデータやモデルを広く国民に開示し利用可能にすることが挙げられています。

こうすることで、それらデータやモデルを活用したイノベーションを促進することが出来るとしています。

②国民とのコミュニケーション（Communication to the Public）

 AIに対する適切な信頼と理解を国民が持てるように、国民と十分にコミュニケーションをとることが必要としています。

連邦機関がcontext-specificで十分な証拠に基づくリスク・アセスメントを実施し、それを透明性をもって国民に伝えることなどが含まれます。

③自主基準の策定等における政府関与や適合性評価の実施（Agency Participation in the Development and Use of Voluntary Consensus Standards and Conformity Assessment Activities）

民間による自主基準に政府が関与することで、政府としてもAI専門能力を培い、実務的なスタンダードを理解することが出来るとしています。

また、AIに対する適合性評価の実施も選択肢の一つであると指摘しています。

この点、英国実務指針（案）は、政府系機関であるICOとアラン・チューリング研究所との共同作成によるものであり、民間の自主的な基準策定を促すような内容になっていました。

④規制における国際協力（International Regulatory Cooperation）

AI分野における一貫性のある規制の在り方を促すように、国際的な協力を行うことも必要であるとしています。そうすることで、米国がAI開発における最先端であり続けようとのことです。

おわりに

以上、米国ホワイトハウスが公表した メモランダム "Guidance for Regulation of Artificial Intelligence Application"をざっと見てきました。

イノベーションの促進を阻害しない規制の在り方、あるいは規制ではない方法が示された点が特徴的であり、英国実務指針（案）が民間の「AIの説明」行動指針を示していることと通底しているように思います。

*1:なお、今回のテーマとするガイダンスは、連邦機関『外』で開発・利用されている、いわゆる『弱いAI』を対象範囲としており、連邦機関『内』で利用等されているものや、『強いAI』については対象外とされています。

*2:ここで「非規制」（non-regulatory）としているのは、法令上の拘束力を有しない「ルール」を含む意図です。

*3:以下では、regulationとnon-regulationを合わせて「規制等」としています。

*4:したがって、米国ホワイトハウスの本原則と、英国実務指針とを比較する価値がどれだけあるのか、という点はありますが、僕自身の頭の整理として比較も交えていきたいと思います。