GRF · AIとデジタル・ガバナンス
自律エージェントと法的責任
AI agents now plan and take actions across software, payments and physical systems with limited human input. When an agent causes harm, existing liability rules must decide who pays: the developer, the deployer, the user or the operator of the platform it acted on. This page sets out how autonomy strains liability and oversight, the records that show it, and who decides how responsibility is assigned.
Autonomous agents and liability on the record.
Autonomous agents and liability: how the risk develops.
行動の境界と説明責任。以下のドシエでは、リスクがどのように展開するか、何が測定されるか、データの出どころ、モデル化の方法、そして誰が決定するかを示します。
Actions outrun intent
An agent pursuing a goal can take steps its user did not foresee or authorise. Fault-based liability struggles when no person intended or could reasonably foresee the harmful action.
多くの関与者、不明確な責任
The model, the agent framework, tool providers, the deploying firm and the user all contribute. Proving which defect caused harm is costly for claimants without access to records.
Permissions define exposure
What an agent can access, spend or change sets the size of possible harm. Limits, confirmations and kill switches are governance choices made at deployment.
法は適応が遅い
Product liability, contract and tort law are being reinterpreted for software and AI. Until courts and legislatures settle questions, uncertainty itself shapes deployment.
公的アルゴリズム登録簿。
このテーマを追跡するためにチームが使う画面:その指標、状態、決定。名前は例であり、値はイメージです。
公的アルゴリズム登録簿
自律型エージェントと責任 · アルゴリズム登録簿 · 第 2 四半期
登録済みのシステム
| 給付不正のフラグ付け | 社会的主体性 | 高 | 欠損 | 一部 |
| 許可のトリアージ | 計画 | 限定的 | 完了 | はい |
| 就学の受け入れ | 教育 | 高 | 完了 | はい |
| チャットアシスタント | 税務署 | 最小限 | 完了 | n/a |
監督上の行動
- システム
- 給付不正のフラグ付け
- 必須
- 影響評価、不服申立ての経路
- 期限
- 77 days
- 権限
- 監督機関
自動化された意思決定に関する苦情
何を、どの程度うまく測定しているか。
各指標には、その単位、更新頻度、背後にある出典の種類、値が持つことになるエビデンスのラベルが付いています。値は表示しません:プログラムが自らの権限のもとで値を提供します。
| 指標 | 単位 | 周期 | 出典の種類 | ラベル |
|---|---|---|---|---|
| ソフトウェアを責任上の製品として扱う法域 | 件数 | 変更時 | 法令 | 公表統計 |
| Court decisions on AI-caused harm | 種類別の件数 | 年次 | 判例データベース | 公表統計 |
| 報告されたエージェントのインシデント | 被害の種類別の件数 | 月次 | インシデントのデータベース | 報告値 |
| 許可の制限が文書化されている導入事例 | share of surveyed deployments | 定期的 | 調査と監査 | 申告済み |
| Insurance products covering AI liability | count of offerings | 年次 | Market reports | 報告値 |
| エージェンティック AI に関する規制ガイダンス | 文書数 | 年次 | Regulator publications | 公表統計 |
How autonomous agents and liability is governed: instruments, mandates and commitments.
政策立案者、外交官、開発機関が扱う文書、委任、アクター、説明責任の仕組みを、それらを定める協定を引用して示します。構造は挙げられた枠組みに従います。示される状態や進捗は例示であり、記録ではありません。
政策手段のマトリクス
自律型エージェントと責任に関して利用できる手段の種類。政府の段階および協力の形態別。
| 手段の種類 | 地方 | 国別 | 地域 | グローバル |
|---|---|---|---|---|
| 規制 | ゾーニング、建築基準 | 法律、標準、許認可 | 調和された規則 | 条約と協定 |
| 経済 | 地方の賦課金、補助金 | 予算項目、税、保険制度 | リスクプール、地域基金 | 資金調達の仕組み |
| 情報 | 地域の警報 | 開示、早期警報、統計 | データ共有の取り決め | 世界的な監視と報告 |
| 機関 | 地域の委員会 | 主導機関、調整評議会 | 地域機関と事務局 | 多国間の委任 |
| 協調的 | コミュニティの合意 | パートナーシップ協定 | 覚書と共同プログラム | 協定と共同の約束 |
エビデンスの出所。
名前の明示された公開データセットと機関の記録。それぞれにライセンス区分があります。合意に基づく出典は、その条件のもとでのみ使用し、再公開することはありません。
| 出典 | 提供するもの | ライセンス区分 |
|---|---|---|
| EU の改正製造物責任指令 | Liability rules including software and AI systems as products | 公開、EU の再利用条件 |
| AI の責任に関する法律委員会および議会の報告書 | AI および自動化システムに関する責任の選択肢の分析 | 公的記録、条件は機関ごと |
| OECD AI インシデント・モニター | Recorded incidents involving AI systems | 無料、OECD の条件 |
| UK Automated and Electric Vehicles Act and Automated Vehicles Act | Liability allocation for automated vehicles | オープン・ガバメント・ライセンス |
| 裁判所判決データベース | Decisions on harm involving automated systems | Public records, terms per court |
誰が決め、エビデンスが何に役立つか。
AIとデジタル・ガバナンス はエビデンスを準備します。以下の決定は、記載された当局がそれぞれの規則に基づいて行うものであり、プラットフォームが行うことはありません。
| 誰が決定するか | 質問 | このページが提供するエビデンス |
|---|---|---|
| 立法機関と法律委員会 | How liability rules apply to autonomous systems | Comparative regimes and case evidence |
| 導入組織 | エージェントが行ってよいことと、適用される統制 | 管理実務とインシデントのエビデンス |
| 保険会社 | Whether and how to cover AI liability | インシデントのパターンと法的動向 |
| 裁判所 | Who is liable for harm in a specific case | 当事者が提出した記録。このページは背景情報のみを提供します |
このトピックが生み出す成果物
- ソフトウェアとAIに関する責任規則の比較ノート
- エージェント展開における権限の制限と統制の手引き
- 複数当事者が関与する AI チェーンにおける責任配分に関するダイアログ・ブリーフ
- Questions for legislatures on agent liability
What experts ask about autonomous agents.
- このエージェントはどのような行動を許可されており、その制限は技術的にどのように強制されているか。
- エージェントが損害を引き起こした場合、責任を負うのは開発者、導入者、利用者のいずれか。
- How can an agent’s actions be traced, reviewed and reversed?
- How should agents interact with other agents, and who governs those interactions?
Why agents raise new governance questions.
ほとんどのガバナンス枠組みは、人に助言し、その人が行動する システム を前提に作られてきました。エージェントはその隔たりをなくし、誤りを捕捉する主要な機会の一つも失わせます。今なぜ必要か:人や組織に代わって行動する AI エージェントは、既存の規則が想定していなかった責任の問題を生じさせており、立法者はなお検討を続けています。このプラットフォームは、新たに現れつつあるアプローチを比較し、意思決定者のために未解決の問題を記録するよう設計されており、法的助言は行いません。
レビューなしの行動
Agents can act faster and more often than people can review, so errors can multiply before anyone notices.
Agents meeting agents
Interactions between automated systems can produce outcomes no one designed, as seen in automated trading.
不明確な責任
既存の責任ルールは、人間または企業が行為したことを前提としていますが、エージェントの登場により、それが誰なのかが複雑になります。
エージェントを制約するための手段。
- 01
権限と範囲の管理
エージェントがアクセスし実行できる範囲に対する技術的な制限であり、 AI 評価・保証工学の下で研究されています。制限事項:エージェントは、統制を迂回する想定外の経路を見つける可能性があります。
- 02
Logging and reversibility
Recording actions and designing them to be undoable where possible. Limits: some actions cannot be reversed.
- 03
Human approval thresholds
定められたリスク水準を超える場合に、人による承認を求めること。限界:業務が遅くなる可能性があり、承認疲れを招くおそれがあります。
- 04
Liability analysis
Comparing how legal systems allocate responsibility. Limits: law is still developing.
どのように研究され、手法が言えないことは何か。
質問と回答。
AI エージェントとは何ですか。
AI エージェントが損害を引き起こした場合、誰が責任を負うのか。
What controls limit agent harm?
Can an AI agent be legally responsible?
How can agent actions be kept within bounds?
プラットフォームはエージェントをテストしますか。
Why do agent interactions matter?
このページからエビデンスを提供する。
Reports はコンソーシアムの季刊刊行物です。このテーマについてあなたが知っていることは、次号でエビデンス、事例、または訂正となり得ます。あなたの名前を記し、あなた自身の著作物である場合は CC BY 4.0 で公表されます。
- メールゲートウェイ GW-GRFこのページから送信するエビデンス、訂正、事例、手法、レビュー、翻訳、プロファイルへの入力。このページのタグが付いて届くため、担当の編集者が受け取ります。
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- 報告書グローバル・リスク・フォーラム(Global Risks Forum)貢献のすべての方法を見る貢献の種類、それぞれの審査方法、受け取るクレジット、ライセンス、決して受け付けないもの。
個人データ、重要インフラの機微な詳細、共有する権利のないものは決して送らないでください。寄稿は利用前にレビューされます。送付によって著作者としての権利や編集上の権利が生じることはなく、スポンサーシップで調査結果を買うことは決してできません。
ガバナンスの問いをフォーラムに持ち込む。
情報提供と問い合わせは本日から受け付けています。問い合わせには参照番号が付き、次の手順が示されます。申請、支払い、計算資源の割り当て、登録は、担当チーム、規約、審査体制が整ってから開始します。
法的文書。
法的文書 18 件をすべて表示
このサイトの地図、データ、図表は、背景と一般的な情報として示すものです。助言、予報、警報ではありません。情報の限界は免責事項とデータに関する注意事項に記載しています。