Skip to content

GRF · AIとデジタル・ガバナンス

自律エージェントと法的責任

AI agents now plan and take actions across software, payments and physical systems with limited human input. When an agent causes harm, existing liability rules must decide who pays: the developer, the deployer, the user or the operator of the platform it acted on. This page sets out how autonomy strains liability and oversight, the records that show it, and who decides how responsibility is assigned.

01登録

Autonomous agents and liability on the record.

02質問

Autonomous agents and liability: how the risk develops.

行動の境界と説明責任。以下のドシエでは、リスクがどのように展開するか、何が測定されるか、データの出どころ、モデル化の方法、そして誰が決定するかを示します。

メカニズム

Actions outrun intent

An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.

メカニズム

多くの関与者、不明確な責任

The model, the agent framework, tool providers, the deploying firm and the user all contribute. Proving which defect caused harm is costly for claimants without access to records.

メカニズム

Permissions define exposure

What an agent can access, spend or change sets the size of possible harm. Limits, confirmations and kill switches are governance choices made at deployment.

メカニズム

法は適応が遅い

Product liability, contract and tort law are being reinterpreted for software and AI. Until courts and legislatures settle questions, uncertainty itself shapes deployment.

03監視

公的アルゴリズム登録簿。

このテーマを追跡するためにチームが使う画面:その指標、状態、決定。名前は例であり、値はイメージです。

公的アルゴリズム登録簿

自律型エージェントと責任 · アルゴリズム登録簿 · 第 2 四半期

評価を受けていない 2 つの高リスクシステムGRF · AIとデジタル・ガバナンス

登録済みのシステム

給付不正のフラグ付け社会的主体性高欠損一部
許可のトリアージ計画限定的完了はい
就学の受け入れ教育高完了はい
チャットアシスタント税務署最小限完了n/a

監督上の行動

システム
給付不正のフラグ付け
必須
影響評価、不服申立ての経路
期限
77 days
権限
監督機関

自動化された意思決定に関する苦情

Public algorithm register: the screen’s structure, terms and states for Autonomous agents and liability.Example names and illustrative values; a design, not a record or a live system.
04指標

何を、どの程度うまく測定しているか。

各指標には、その単位、更新頻度、背後にある出典の種類、値が持つことになるエビデンスのラベルが付いています。値は表示しません:プログラムが自らの権限のもとで値を提供します。

指標単位周期出典の種類ラベル
ソフトウェアを責任上の製品として扱う法域件数変更時法令公表統計
Court decisions on AI-caused harm種類別の件数年次判例データベース公表統計
報告されたエージェントのインシデント被害の種類別の件数月次インシデントのデータベース報告値
許可の制限が文書化されている導入事例share of surveyed deployments定期的調査と監査申告済み
Insurance products covering AI liabilitycount of offerings年次Market reports報告値
エージェンティック AI に関する規制ガイダンス文書数年次Regulator publications公表統計
05手段と約束

How autonomous agents and liability is governed: instruments, mandates and commitments.

政策立案者、外交官、開発機関が扱う文書、委任、アクター、説明責任の仕組みを、それらを定める協定を引用して示します。構造は挙げられた枠組みに従います。示される状態や進捗は例示であり、記録ではありません。

政策手段のマトリクス

自律型エージェントと責任に関して利用できる手段の種類。政府の段階および協力の形態別。

手段の種類地方国別地域グローバル
規制ゾーニング、建築基準法律、標準、許認可調和された規則条約と協定
経済地方の賦課金、補助金予算項目、税、保険制度リスクプール、地域基金資金調達の仕組み
情報地域の警報開示、早期警報、統計データ共有の取り決め世界的な監視と報告
機関地域の委員会主導機関、調整評議会地域機関と事務局多国間の委任
協調的コミュニティの合意パートナーシップ協定覚書と共同プログラム協定と共同の約束
A typology after the OECD Recommendation on the Governance of Critical Risks; examples of instrument types, not an inventory of any country’s measures.
災害リスク削減のための仙台防災枠組 · UNDRRパリ協定 · UNFCCC持続可能な開発のための 2030 アジェンダと持続可能な開発目標 · 国際連合国際保健規則 · WHO
06出典

エビデンスの出所。

名前の明示された公開データセットと機関の記録。それぞれにライセンス区分があります。合意に基づく出典は、その条件のもとでのみ使用し、再公開することはありません。

出典提供するものライセンス区分
EU の改正製造物責任指令Liability rules including software and AI systems as products公開、EU の再利用条件
AI の責任に関する法律委員会および議会の報告書AI および自動化システムに関する責任の選択肢の分析公的記録、条件は機関ごと
OECD AI インシデント・モニターRecorded incidents involving AI systems無料、OECD の条件
UK Automated and Electric Vehicles Act and Automated Vehicles ActLiability allocation for automated vehiclesオープン・ガバメント・ライセンス
裁判所判決データベースDecisions on harm involving automated systemsPublic records, terms per court
07決定

誰が決め、エビデンスが何に役立つか。

AIとデジタル・ガバナンス はエビデンスを準備します。以下の決定は、記載された当局がそれぞれの規則に基づいて行うものであり、プラットフォームが行うことはありません。

誰が決定するか質問このページが提供するエビデンス
立法機関と法律委員会How liability rules apply to autonomous systemsComparative regimes and case evidence
導入組織エージェントが行ってよいことと、適用される統制管理実務とインシデントのエビデンス
保険会社Whether and how to cover AI liabilityインシデントのパターンと法的動向
裁判所Who is liable for harm in a specific case当事者が提出した記録。このページは背景情報のみを提供します

このトピックが生み出す成果物

  • ソフトウェアとAIに関する責任規則の比較ノート
  • エージェント展開における権限の制限と統制の手引き
  • 複数当事者が関与する AI チェーンにおける責任配分に関するダイアログ・ブリーフ
  • Questions for legislatures on agent liability
08中核となる問い

What experts ask about autonomous agents.

  • このエージェントはどのような行動を許可されており、その制限は技術的にどのように強制されているか。
  • エージェントが損害を引き起こした場合、責任を負うのは開発者、導入者、利用者のいずれか。
  • How can an agent’s actions be traced, reviewed and reversed?
  • How should agents interact with other agents, and who governs those interactions?
09メカニズム

Why agents raise new governance questions.

ほとんどのガバナンス枠組みは、人に助言し、その人が行動する システム を前提に作られてきました。エージェントはその隔たりをなくし、誤りを捕捉する主要な機会の一つも失わせます。今なぜ必要か:人や組織に代わって行動する AI エージェントは、既存の規則が想定していなかった責任の問題を生じさせており、立法者はなお検討を続けています。このプラットフォームは、新たに現れつつあるアプローチを比較し、意思決定者のために未解決の問題を記録するよう設計されており、法的助言は行いません。

Autonomy

レビューなしの行動

Agents can act faster and more often than people can review, so errors can multiply before anyone notices.

Interaction

Agents meeting agents

Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.

Liability

不明確な責任

既存の責任ルールは、人間または企業が行為したことを前提としていますが、エージェントの登場により、それが誰なのかが複雑になります。

10手法と限界

エージェントを制約するための手段。

  1. 01

    権限と範囲の管理

    エージェントがアクセスし実行できる範囲に対する技術的な制限であり、 AI 評価・保証工学の下で研究されています。制限事項:エージェントは、統制を迂回する想定外の経路を見つける可能性があります。

  2. 02

    Logging and reversibility

    Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.

  3. 03

    Human approval thresholds

    定められたリスク水準を超える場合に、人による承認を求めること。限界:業務が遅くなる可能性があり、承認疲れを招くおそれがあります。

  4. 04

    Liability analysis

    Comparing how legal systems allocate responsibility. Limits: law is still developing.

12質問

質問と回答。

AI エージェントとは何ですか。
ツールの呼び出し、ブラウジング、コード作成、支払の実行といった行動を計画して実行することで目標を追求し、人間による段階ごとの指示が限られている AI システム。
AI エージェントが損害を引き起こした場合、誰が責任を負うのか。
It depends on the jurisdiction and facts. Product liability, contract, negligence and sector rules may apply to developers, deployers or users; many questions are unsettled.
What controls limit agent harm?
Restricted permissions, spending limits, human confirmation for consequential actions, logging, monitoring and the ability to stop the agent.
Can an AI agent be legally responsible?
現行法では、ほとんどの法域で、そうではありません。責任は人と組織にあります。その責任をそれらの間でどのように分担するかは、いまも検討が続いています。
How can agent actions be kept within bounds?
Through technical permission limits, monitoring, human approval for high-risk actions and the ability to stop and reverse actions.
プラットフォームはエージェントをテストしますか。
いいえ。技術評価は GCRIで行われる。このプラットフォームはガバナンスを比較する。
Why do agent interactions matter?
Because when many automated systems react to each other, small errors can amplify quickly, as sudden market moves driven by automated trading have shown.
報告書貢献する

このページからエビデンスを提供する。

Reports はコンソーシアムの季刊刊行物です。このテーマについてあなたが知っていることは、次号でエビデンス、事例、または訂正となり得ます。あなたの名前を記し、あなた自身の著作物である場合は CC BY 4.0 で公表されます。

グローバル・リスク・フォーラム(Global Risks Forum)AIとデジタル・ガバナンス指数関数的テクノロジーエビデンス・ブリーフ
AIとデジタル・ガバナンス

ガバナンスの問いをフォーラムに持ち込む。

情報提供と問い合わせは本日から受け付けています。問い合わせには参照番号が付き、次の手順が示されます。申請、支払い、計算資源の割り当て、登録は、担当チーム、規約、審査体制が整ってから開始します。