1位 J79 讃井一郎 (東京都)
2位 J89 古賀彩美 (千葉県)
ファイナリスト
J50 Kamei Chizuko (大阪府)
J51 松林桃子 (広島県)
J64 藤原美里 (兵庫県)
原文はこちら
ファイナリスト
J50 Kamei Chizuko
人工知能（AI）は、経済の有り様を大きく変えつつあり、また、がんとの闘いや、食料の増産、エネルギー消費削減など、極めて難しい課題への取り組みにも活用されています。そして、カナダの研究者や企業はこの変革の最前線にいます。
AIシステムはデータを使って、複雑な処理を自動化したり、ときには人々に関する決定や予測を行ったりします。このようなシステムは助けになる場合もありますが、一方でカナダ国民、特に社会的弱者に対して、重大な影響を与えるおそれもあります。
人工知能およびデータ法案（Artificial Intelligence and Data Act, AIDA）は、2022年デジタル憲章実施法案（Digital Charter Implementation Act）の一部として提出されました。カナダ国民の生活に影響を与えるAIシステムの設計、開発、展開が責任あるものとなるよう羅針盤を定めることを目的としています。
このデータ法は、カナダに展開されるAIシステムを安全で非差別的なものにするとともに、どのようにAI関連技術を開発し使用するかについて企業に説明責任を課します。
ご存じですか？
- 現在カナダには、AIに特化した規制の枠組みはありません。
- 医療や金融など特定の分野では、AIの使用に対して規制が適用される場合もあります。しかし、AIシステムの設計や開発の段階で、システミックリスク（広い範囲に連鎖的な悪影響を及ぼすようなリスク）に、確実に対処させるための取り組みはありません。
- 倫理的なAIの開発手法はこれまでに大きな進歩を遂げ、その取り組みは今も続いています。その一方で、共通基準を設けて、カナダ国民が安心して日常的にAIシステムを使用できるようにすることが求められています。
AIシステムの責任ある設計、開発、展開の徹底
AIDAの下では、企業は自社の管理するAI事業について責任を負うことになります。企業は、新しいガバナンスと方策を実践して、自社のAIシステムが持つリスクを検討した上でそのリスクに対処すること、またユーザーが情報に基づいた意思決定を行えるように十分な情報を提供することを求められます。
AIDAが新たに企業に求めるのは、影響力の大きなAIシステムが、あらゆる面において安全かつ公平であるように万全の手を打つことです。
- 設計：企業は、悪意や偏見に関して自社のAIシステムが持つリスクを特定および対処し、関連記録を保存する必要があります。
- 開発：企業は、自社のAIシステムの使用目的と限界を評価し、それをユーザーが確実に理解できるようにする必要があります。
- 展開：企業は、適切なリスク軽減策を実施し、システムを常に監視する必要があります。
AIDAの狙いは、柔軟性のある政策を導入し、AIシステムの種類に合わせて安全への配慮義務を調整できるようにすることです。大きなリスクが付随するAIシステムでは、それだけ大きな責任が伴うことになります。
説明責任の向上
データ法案は、有効な枠組みを規定するために策定されました。今後、細則を定めて完成した後に施行されます。
従来の取り組みの延長として未来の規制へ取り組むことができるようにするため、既存の最優良事例をベースに、これらの新しい規則を作成する予定です。一般的な基準に基づくことで、政府は規制順守を容易にしたいと考えています。
今後の細則策定に関する詳細は、人工知能およびデータ法（AIDA）の手引きをご確認ください。
規則の策定プロセスが透明で開かれたものとなるよう、カナダ政府は、AI分野のトップ企業や学会、市民団体など、一般市民と主要な関係者に広く包括的に意見を求め、新しい規制がカナダ国民の期待に沿うものになるよう取り組む方針です。
革新・科学・産業大臣を支援する、AI・データ長官（AI and Data Commissioner）が新設されます。AIシステムを安全で非差別的なものとするために、AI・データ長官には、法令順守を監督し必要な際には介入を行う権限が与えられる予定です。
J51 松林桃子
人工知能（AI）は経済の形を変えつつあり、がんとの闘いや食料生産力の向上、エネルギー消費量の削減といった、私たちにとって最も手ごわい問題の一部に取り組むためにも活用されています。それに加えて、カナダの研究者や事業者はこの変化の最先端を歩んでいるのです。
AI システムは複雑なタスクを自動化したり、ときには人間に関することを判断、予測したりするためにデータを活用します。このようなシステムは役に立つ場合もありますが、カナダ国民、特に社会的に疎外されているコミュニティの人々に甚大な影響をもたらす可能性もあります。
「2022年デジタル憲章実施法（Digital Charter Implementation Act）案」の一部として提出された「人工知能及びデータ法（Artificial Intelligence and Data Act, AIDA）案」は、カナダ国民の生活に影響を及ぼす AI システムの責任ある設計・開発・展開の根拠を示すものとなります。
本法案は、カナダ国内で展開されている AI システムが安全かつ非差別的であることを保証します。そして事業者は、この技術の開発・使用法について説明責任を負います。
ご存知でしたか？
- 現在、カナダには AI に特化した規制の枠組みはありません。
- AI の使用に対して、健康、金融など特定分野の規則が適用される場合もありますが、設計・開発の段階でAI システムがシステム上のリスクを是正するよう保証する手立てはありません。
- 倫理的 AI の開発手法は飛躍的に発展しています。この研究が続いている間、日々使う AI システムがカナダ国民にとって信頼できるものであることを保証するために、共通の基準が必要となります。
AI システムの責任ある設計・開発・展開を保証
AIDA の下では、事業者は自社の管理下での AI 活動に責任を負います。AI システムのリスクについて検討、是正する新たなガバナンスの仕組みや方針を実行し、ユーザーが情報に基づいた意思決定をすることができるよう、情報を十分に提供することが求められます。
影響力の大きな AI システムの安全性と公平性をあらゆる段階において確保するため、AIDA は事業者に対して新たな要件を設けます。
- 設計： 事業者は自社 AI システムの危害やバイアスに関するリスクを特定して是正し、関連する記録を残さなければならない。
- 開発： 事業者は自社 AI システムの使用目的や限界を評価し、ユーザーがそれを理解していることを確認しなければならない。
- 展開： 事業者は適切なリスク緩和策を整備し、システムが絶えず監視下にあることを保証しなければならない。
AI システムのタイプに応じて安全基準を見直す、柔軟性のある方針をとることを狙いとしています。AI システムに付随するリスクが多ければ多いほど、多くの安全基準が設けられることとなります。
説明責任（アカウンタビリティ）の向上
本法案は、細則による補足を通じて完成、施行される重要な枠組みとなることを想定しています。
この新たな規則は、現行および今後の規制手段のどちらにも運用できるようにしつつ、今ある最良の慣行を基盤に作成されます。政府は、共通基準を活用することでコンプライアンスを遵守しやすくなると期待しています。
今後の規則制定の流れについて、詳しくは「人工知能及びデータ法（Artificial Intelligence and Data Act, AIDA）案 ― 参考文書」を参照してください。
この規則制定プロセスは透明性を確保して公開していきます。新たな規則が確実にカナダ国民の期待に沿うよう、カナダ政府は、民間および AI 事業のリーダー、有識者、市民団体などを含む主要利害関係者を交え、広く開放的な協議を行うことを確約します。
革新・科学・産業大臣は今後、新たに設置される AI ・データコミッショナーによるサポートを受けます。同コミッショナーは、AI システムが安全かつ非差別的であることを保証するため、コンプライアンスを監視する権限や必要に応じて介入する権限を持ちます。
J64 藤原美里
人工知能（AI）は経済の形を変えつつあり、がんとの闘いや食料生産力の向上、エネルギー消費量の削減といった、私たちにとって最も手ごわい問題の一部に取り組むためにも活用されています。それに加えて、カナダの研究者や事業者はこの変化の最先端を歩んでいるのです。
AI システムは複雑なタスクを自動化したり、ときには人間に関することを判断、予測したりするためにデータを活用します。このようなシステムは役に立つ場合もありますが、カナダ国民、特に社会的に疎外されているコミュニティの人々に甚大な影響をもたらす可能性もあります。
「2022年デジタル憲章実施法（Digital Charter Implementation Act）案」の一部として提出された「人工知能及びデータ法（Artificial Intelligence and Data Act, AIDA）案」は、カナダ国民の生活に影響を及ぼす AI システムの責任ある設計・開発・展開の根拠を示すものとなります。
本法案は、カナダ国内で展開されている AI システムが安全かつ非差別的であることを保証します。そして事業者は、この技術の開発・使用法について説明責任を負います。
ご存知でしたか？
- 現在、カナダには AI に特化した規制の枠組みはありません。
- AI の使用に対して、健康、金融など特定分野の規則が適用される場合もありますが、設計・開発の段階でAI システムがシステム上のリスクを是正するよう保証する手立てはありません。
- 倫理的 AI の開発手法は飛躍的に発展しています。この研究が続いている間、日々使う AI システムがカナダ国民にとって信頼できるものであることを保証するために、共通の基準が必要となります。
AI システムの責任ある設計・開発・展開を保証
AIDA の下では、事業者は自社の管理下での AI 活動に責任を負います。AI システムのリスクについて検討、是正する新たなガバナンスの仕組みや方針を実行し、ユーザーが情報に基づいた意思決定をすることができるよう、情報を十分に提供することが求められます。
影響力の大きな AI システムの安全性と公平性をあらゆる段階において確保するため、AIDA は事業者に対して新たな要件を設けます。
- 設計： 事業者は自社 AI システムの危害やバイアスに関するリスクを特定して是正し、関連する記録を残さなければならない。
- 開発： 事業者は自社 AI システムの使用目的や限界を評価し、ユーザーがそれを理解していることを確認しなければならない。
- 展開： 事業者は適切なリスク緩和策を整備し、システムが絶えず監視下にあることを保証しなければならない。
AI システムのタイプに応じて安全基準を見直す、柔軟性のある方針をとることを狙いとしています。AI システムに付随するリスクが多ければ多いほど、多くの安全基準が設けられることとなります。
説明責任（アカウンタビリティ）の向上
本法案は、細則による補足を通じて完成、施行される重要な枠組みとなることを想定しています。
この新たな規則は、現行および今後の規制手段のどちらにも運用できるようにしつつ、今ある最良の慣行を基盤に作成されます。政府は、共通基準を活用することでコンプライアンスを遵守しやすくなると期待しています。
今後の規則制定の流れについて、詳しくは「人工知能及びデータ法（Artificial Intelligence and Data Act, AIDA）案 ― 参考文書」を参照してください。
この規則制定プロセスは透明性を確保して公開していきます。新たな規則が確実にカナダ国民の期待に沿うよう、カナダ政府は、民間および AI 事業のリーダー、有識者、市民団体などを含む主要利害関係者を交え、広く開放的な協議を行うことを確約します。
革新・科学・産業大臣は今後、新たに設置される AI ・データコミッショナーによるサポートを受けます。同コミッショナーは、AI システムが安全かつ非差別的であることを保証するため、コンプライアンスを監視する権限や必要に応じて介入する権限を持ちます。
2位 J89 古賀彩美
人工知能（AI）は、経済環境を一変させるとともに、がん闘病、食料生産の効率化、エネルギー消費量の削減など、非常に困難な課題への取り組みに利用されています。また、カナダの研究者や企業はAIによる変化の最前線にいます。
AIシステムはデータを用いて複雑な作業を自動化するほか、ときには人間に関する意思決定や予測も行います。利益をもたらす一方で、カナダ国民、特に周縁化された人々に重大な影響を及ぼすこともあります。
2022年デジタル憲章実施法案の一部として提出されたAI・データ法（AIDA）は、カナダ国民の生活に影響を与えるAIシステムの責任ある設計、開発、展開のための土台となります。
また、カナダで展開されるAIシステムを安全かつ非差別的なものにし、企業がAIの開発および使用状況について説明責任を果たすことを徹底させます。
知っていましたか？
- 現在、カナダにはAIに特化した規制の枠組みは存在しません。
- 健康や金融といった特定分野の規制の中には、ある一定のAI利用に適用されるものもありますが、AIシステムが設計・開発時のシステミックリスクに対処できるようにする手法は存在しません。
- AIを倫理的に開発する手法は、大きく進歩してきています。開発を続けていく間、カナダ国民が日々利用するAIシステムを信頼できるようにするため、共通の基準を設ける必要があります。
責任あるAIシステムの設計、開発、展開を徹底する
AIDAに基づき、企業は自社の管理下にあるAI関連の活動に責任を持つことになります。企業は、新たなガバナンスの仕組みと方針を実行することで、自社のAIシステムが持つリスクを考慮し、これに対応する必要があります。また、ユーザーが情報に基づいて意思決定できるよう、十分に情報提供することが求められます。
影響力の大きいAIシステムを一貫して安全で公平なものにするため、AIDAには企業に対する以下の新たな要件が組み込まれます。
- 設計：企業は自社のAIシステムが持つ危害や偏りに関わるリスクを特定し、これに対処するとともに、適切な記録を残すよう要求されます
- 開発：企業は自社のAIシステムの想定用途および限界を評価し、確実にユーザーに把握させるよう要求されます
- 展開：企業は適切なリスク低減策を実行し、AIシステムの継続的な監視を徹底するよう要求されます
その狙いは、柔軟な方針を採用し、AIシステムの種類に合わせて安全上の義務を設けることにあります。AIシステムに伴うリスクが多い場合、生じる義務も多くなります。
説明責任の向上
AIDAは、詳細な規則によって有意義な枠組みが完成し、効力を持つように作成されています。
この規則は、既存の最良事例を土台にして、既存および将来の規制アプローチと相互運用できるように定められます。共通の基準を採用することで、法令遵守を容易化するのが政府の狙いです。
規制の構築状況について、詳しくはAI・データ法（AIDA）の手引きをご覧ください。
規制の構築プロセスは公開され、透明性が確保されます。カナダ政府は、新たな規制をカナダ国民の期待に応えるものにするため、一般市民および主要な利害関係者（AI業界の大手企業、学者、市民社会など）との広範で包括的な協議に取り組んでいます。
イノベーション・科学・産業大臣は、新設されるAI・データコミッショナーの支援を受けることになります。AI・データコミッショナーには、AIシステムを安全かつ非差別的なものにするため、法令遵守状況を監視し、必要に応じて介入を行う権限が与えられます。
1位 J79 讃井一郎
人工知能(AI)は、私たちの経済を大きく転換させつつあり、また極めて困難な課題、例えばガンとの闘いや食料生産の向上、エネルギー消費の削減などに取り組むために用いられている。さらに重要なのは、カナダの研究者や企業がこうした大転換の最前線に立っているということである。
AIシステムはデータを使用して、複雑な仕事を自動化したり、時には人に関わる決定や予測をしたりする。こうしたシステムは有益となり得るが、その一方で、カナダ国民、とりわけ社会的立場の弱い人々に重大な影響をあたえるおそれもある。
人工知能およびデータ法案(AIDA)は、2022年デジタル憲章実施法の一部として導入されるが、カナダ国民の生活に影響をあたえるAIシステムを責任をもって設計、開発、展開するための基盤をなすものとなるだろう。
この法案により、カナダで利用されるAIシステムは安全で非差別的であることが保証され、これらの技術の開発・利用方法について企業が責任を負うことになるだろう。
あまり知られていないこと
・現在カナダでは、AIに特化した規制の枠組みはない。
・保健や金融など、個別分野における規制のなかには、AIの特定の使用方法に対して適用されるものがあるが、設計や開発のあいだ、システム全体にわたるリスクに対してAIシステムが確実に対処する手段は何もない。
・倫理的AIの開発手法は、大いに進展してきた。この作業は継続しているが、カナダ国民が日常的に使用するAIシステムを確実に信頼できるものにするためには、共通の基準が必要とされる。
責任あるAIシステムの設計・開発・展開の保証
AIDAのもとでは、企業はAIの活動をコントロールすることに責任を負うことになる。また自社のAIシステムのリスクを検討し対処する新たなガバナンスの仕組みと方針を導入し、利用者が知識に基づいた決定を下せるよう十分な情報を提供することが義務づけられる。
AIDAが施行されれば、多大な影響を及ぼすAIシステムが安全で公正であることをあらゆる面で保証するため、企業には以下のことが新たに義務づけられる。
・設計 企業は、悪影響と偏見に関する自社のAIシステムのリスクを特定し、これに対処し、また関連する記録を保存しておかねばならない。
・開発 企業は、自社のAIシステムの意図する用途および限界を査定し、確実に利用者に理解してもらわなければならない。
・展開 企業は、適切なリスク低減策を整備し、必ずシステムを継続的にモニターしなければならない。
この法案の狙いは、政策を柔軟にしておくことで、AIシステムのタイプに応じて安全義務を調整することにある。AIシステムに関連するリスクが多くなればなるほど、義務がますます増えることになる。
説明責任の向上
この法案は有効な枠組となるよう立案されているが、その枠組みは詳細な規制を設けることで完成し、実施されることになる。
これらの新たな規制は、既存の成功事例に基づいて設けられることになるだろうが、現在の規制アプローチとも、将来のアプローチとも相互運用が可能となるよう意図されている。共通の基準を用いることで、政府は法令順守が容易になると期待している。
こうした規制がどう整備されるのかについて、さらに情報を知りたい場合、人工知能およびデータ法(AIDA)―付属書類を一読することを勧める。
規制を整備するプロセスは公開され、透明性のあるものとなる。新たな規制がカナダ国民の期待に必ず応えるものになるよう、カナダ政府は、一般市民や主要なステークホルダー、例えばAI業界のリーダーや学者、民間団体などと広範囲にわたる包括的な協議を行うことを約束している。
革新・科学・産業大臣には、大臣を補佐するAIおよびデータ委員が新たに配置され、その委員はAIシステムが安全で非差別的であることを保証すべく、法令順守を監督し、必要に応じて介入する権限を有することになる。
＊＊＊
コンテスト実行委員会からの付記
The Minister of Innovation, Science and Industry の Innovation の訳は、「イノベーション・科学・産業大臣」（カナダ政府のニュースリリースの日本語仮翻訳など 一例）あるいは「革新・科学・産業大臣」（外務省、経産省など 一例）などが見受けられます。中黒（・）の使い方も微妙に異なっています。このようなタイトル等を実際に翻訳する際は、クライアントの指示に従ってください。