GRF · リスク・ガバナンス
デジタル・AIガバナンス
政府や運営事業者は、サービスの提供、資源の配分、リスクの検知のために、AI とデジタル公共 システム に依拠しています。ルールは動いています。EU AI 規則(2024 年)は 2025 年から段階的に適用され、欧州評議会の AI 条約は 2024 年に署名のために開放され、2025 年には国連が AI に関する科学パネルと AI ガバナンスに関するグローバル対話を設置しました。グローバル・リスク・フォーラム(Global Risks Forum、GRF)は、監督、説明責任、権利を損なわずに維持する方法について、当局、技術者、権利の専門家を招集します。GRF はいかなるシステムも承認しません。
Digital and AI governance in seven parts.
- 01The governance questionsThree questions institutions need to answer
- 02各手段多層的で、なお変化し続けるルールブック
- 03Public sector useThe governance question for a ministry deploying a model
- 04International guidanceInstruments that frame the dialogue
- 05Exercising oversightTesting what happens when an automated system is wrong
- 06対応機関と連絡先3 つの機関にまたがる同じ分野
- 07SourcesWhere this page’s references lead
各機関が答えるべき三つの問い。
人間による監督
Who can understand, question and override an automated decision, and do they have the authority and time to do so?
Answerability
Who answers for an automated decision that harms someone, and how can the affected person seek review?
権利とインクルージョン
How are privacy, non-discrimination and access protected, including for people who cannot use digital channels?
A layered and still moving rulebook.
| インストゥルメント | 機関 | 機能 | ステータスに関する注記 |
|---|---|---|---|
| AI 法 | 欧州連合 | Risk-tiered obligations: prohibited practices, duties for general-purpose models, then high-risk system requirements | Applies in stages; a 2026 Digital Omnibus agreement moved the high-risk timelines, so dates should be read from the “Official Journal of the European Union” |
| 人工知能と人権、民主主義、法の支配に関する枠組み条約 | 欧州評議会、非加盟国にも開放 | 公的機関、および任意で民間主体が用いる AI システム のライフサイクル全体にわたる拘束力のある義務 | 2024 年 9 月に署名のため開放。批准状況は条約事務局で確認してください |
| OECD AI 原則 | OECD, adhered to by many non-members | Values-based principles and recommendations to governments, updated in 2024 | 勧告として発効 |
| グローバル・デジタル・コンパクト | UN General Assembly, annexed to the Pact for the Future | Commitments on digital inclusion, data governance and AI, including an independent scientific panel and a global dialogue | パネルは報告を行い、対話は 2026 年 7 月にジュネーブで初めて開催されました |
| 人工知能の倫理に関する勧告 | UNESCO | Readiness assessments and ethical impact assessment for member states | Implementation through national readiness assessments |
The governance question for a ministry deploying a model.
When an agency uses an algorithm to prioritise inspections, allocate benefits or triage emergency calls, the questions are institutional before they are technical. Who signed off the use? Who can stop it? How can an affected person contest the outcome? Which regulator audits it? GRF dialogues put the deploying agency, its oversight body, a data protection authority and affected users around one case, and record the oversight chain they agree on.
Technical assurance methods sit with GCRI’s AI and autonomous systems platform; model risk in finance with GRA’s AI and financial model risk platform; the specialist community is AI and Digital Governance.
Instruments that frame the dialogue.
- 人工知能の倫理に関するユネスコ勧告(2021 年)。
- The OECD AI Principles (2019, updated 2024).
- The Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (2024), for the states that are party to it.
- The Global Digital Compact (2024) and international human rights law, including the rights to privacy and to an effective remedy.
- National and regional laws that apply to each participating institution, such as the European Union AI Act.
Named instruments are references for dialogue, not claims of alignment. GRF does not assess any institution’s conformity with them, and it does not regulate, finance, procure or certify.
Testing what happens when an automated system is wrong.
Oversight never exercised is an assumption. In Universe, a scenario can have an automated triage, warning or eligibility system produce a confident but wrong output. The exercise asks: do the people responsible notice, can they override, can they explain the decision afterwards? Evaluators record where oversight held and where it failed. The exercised institutions review findings before they inform Reports. A missing common practice can become a change proposal to the Nexus Standards.
- 01
監督に関する対話
Structured dialogues that produce a record of oversight questions, responsibilities and open issues for a given public system.
- 02
専門家コミュニティ
Innovation Nexus works on governed public-interest innovation, and Governance Nexus on comparative governance under technology change.
- 03
専門プラットフォーム
AIとデジタル・ガバナンス は専門コミュニティであり、Digital Rights and Data Governance 章を擁する。
The same field across the three institutions.
The Global Centre for Risk and Innovation (GCRI) studies artificial intelligence and responsible technology. The Global Risks Alliance (GRA) examines AI and model risk in finance. Related GRF areas: information and public trust and decision rights and responsibilities. To bring a system and its oversight question to a dialogue, write to the Secretariat at the contact form; the acknowledgement gives a reference and names the next step.
Where this page’s references lead.
このページの読解の基準となる機関と文書。状態と版は変わります。各リンクは発行機関へ移動します。
質問と回答。
Does GRF audit AI systems?
Can an exercise use a live AI system?
How can a public authority bring a system to a dialogue?
このページからエビデンスを提供する。
Reports はコンソーシアムの季刊刊行物です。このテーマについてあなたが知っていることは、次号でエビデンス、事例、または訂正となり得ます。あなたの名前を記し、あなた自身の著作物である場合は CC BY 4.0 で公表されます。
- メールゲートウェイ GW-GRFこのページから送信するエビデンス、訂正、事例、手法、レビュー、翻訳、プロファイルへの入力。このページのタグが付いて届くため、担当の編集者が受け取ります。
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- 報告書グローバル・リスク・フォーラム(Global Risks Forum)貢献のすべての方法を見る貢献の種類、それぞれの審査方法、受け取るクレジット、ライセンス、決して受け付けないもの。
個人データ、重要インフラの機微な詳細、共有する権利のないものは決して送らないでください。寄稿は利用前にレビューされます。送付によって著作者としての権利や編集上の権利が生じることはなく、スポンサーシップで調査結果を買うことは決してできません。
ガバナンスの問いをフォーラムに持ち込む。
情報提供と問い合わせは本日から受け付けています。問い合わせには参照番号が付き、次の手順が示されます。申請、支払い、計算資源の割り当て、登録は、担当チーム、規約、審査体制が整ってから開始します。
法的文書。
法的文書 18 件をすべて表示
このサイトの地図、データ、図表は、背景と一般的な情報として示すものです。助言、予報、警報ではありません。情報の限界は免責事項とデータに関する注意事項に記載しています。