Skip to content

GRF · Risiko-Governance

Digitale und KI-Governance

Regierungen und Betreiber verlassen sich auf KI und digitale öffentliche Systeme , um Dienstleistungen zu erbringen, Ressourcen zuzuweisen und Risiken zu erkennen. Die Regeln ändern sich: Der EU-KI-Verordnung (2024) wird ab 2025 schrittweise wirksam, das KI-Übereinkommen des Europarats wurde 2024 zur Unterzeichnung aufgelegt, und 2025 richteten die Vereinten Nationen ein Wissenschaftliches Gremium für KI und einen Globalen Dialog zur KI-Governance ein. Das Global Risks Forum (GRF) bringt Behörden, Technikexperten und Grundrechtsspezialisten zusammen, um Aufsicht, Rechenschaftspflicht und Rechte zu wahren. GRF genehmigt kein System.

02Die Governance-Fragen

Drei Fragen, die Institutionen beantworten müssen.

Aufsicht

Menschliche Aufsicht

Wer kann eine automatisierte Entscheidung nachvollziehen, hinterfragen und außer Kraft setzen, und haben diese Personen dazu die Befugnis und die Zeit?

Rechenschaft

Rechenschaftspflicht

Wer steht für eine automatisierte Entscheidung ein, die jemandem schadet, und wie kann die betroffene Person eine Überprüfung erwirken?

Rechte

Rechte und Inklusion

How are privacy, non-discrimination and access protected, including for people who cannot use digital channels?

03The instruments

Ein mehrschichtiges und noch in Bewegung befindliches Regelwerk.

InstrumentGremiumWas es tutStatushinweis
KI-VerordnungEuropäische UnionRisk-tiered obligations: prohibited practices, duties for general-purpose models, then high-risk system requirementsGilt in Stufen; eine Einigung zum Digital Omnibus 2026 hat die Fristen für Hochrisiko-Systeme verschoben, daher sind die Termine dem „Amtsblatt der Europäischen Union“ zu entnehmen
Rahmenübereinkommen über KI und Menschenrechte, Demokratie und RechtsstaatlichkeitCouncil of Europe, open to non-membersVerbindliche Pflichten über den gesamten Lebenszyklus von KI- Systeme , die von Behörden und, nach eigener Entscheidung, von privaten Akteuren eingesetzt werdenIm September 2024 zur Unterzeichnung aufgelegt; Ratifikationen beim Vertragsbüro prüfen
OECD-Grundsätze für KIOECD, der auch viele Nichtmitglieder beigetreten sindWertebasierte Grundsätze und Empfehlungen an Regierungen, 2024 aktualisiertIn Kraft als Empfehlung
Globaler DigitalpaktUN-Generalversammlung, Anhang zum Pakt für die ZukunftVerpflichtungen zu digitaler Inklusion, Daten-Governance und KI, einschließlich eines unabhängigen wissenschaftlichen Gremiums und eines globalen DialogsDas Gremium legte seinen Bericht vor, und der Dialog trat im Juli 2026 erstmals in Genf zusammen
Empfehlung zur Ethik der KIUNESCOBereitschaftsbewertungen und ethische Folgenabschätzung für UN-MitgliedstaatenImplementation through national readiness assessments
04Einsatz im öffentlichen Sektor

Die Governance-Frage für ein Ministerium, das ein Modell einsetzt.

Wenn eine Behörde einen Algorithmus einsetzt, um Kontrollen zu priorisieren, Leistungen zuzuteilen oder Notrufe zu sichten, sind die Fragen zuerst institutioneller und erst dann technischer Art. Wer hat den Einsatz freigegeben? Wer kann ihn stoppen? Wie kann eine betroffene Person das Ergebnis anfechten? Welche Aufsichtsbehörde prüft ihn? In GRF-Dialogen kommen die einsetzende Behörde, ihre Aufsichtsstelle, eine Datenschutzbehörde und betroffene Nutzende an einem Fall zusammen; die Aufsichtskette, auf die sie sich verständigen, wird festgehalten.

Technical assurance methods sit with GCRI’s AI and autonomous systems platform; model risk in finance with GRA’s AI and financial model risk platform; the specialist community is AI and Digital Governance.

05Internationale Leitlinien

Instruments that frame the dialogue.

  • Die UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz (2021).
  • Die OECD-KI-Grundsätze (2019, aktualisiert 2024).
  • Das Rahmenübereinkommen des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit (2024), für die Staaten, die Vertragsparteien sind.
  • Der Global Digital Compact (2024) und das internationale Menschenrechtsrecht, einschließlich der Rechte auf Privatsphäre und auf einen wirksamen Rechtsbehelf.
  • Nationale und regionale Gesetze, die für jede teilnehmende Institution gelten, etwa der KI-Verordnung der Europäischen Union.

Named instruments are references for dialogue, not claims of alignment. GRF does not assess any institution’s conformity with them, and it does not regulate, finance, procure or certify.

06Aufsicht ausüben

Prüfen, was geschieht, wenn ein automatisiertes System falsch liegt.

Oversight never exercised is an assumption. In Universe, a scenario can have an automated triage, warning or eligibility system produce a confident but wrong output. The exercise asks: do the people responsible notice, can they override, can they explain the decision afterwards? Evaluators record where oversight held and where it failed. The exercised institutions review findings before they inform Reports. A missing common practice can become a change proposal to the Nexus Standards.

  1. 01

    Aufsichtsdialoge

    Strukturierte Dialoge, die für ein bestimmtes öffentliches System eine Dokumentation von Aufsichtsfragen, Zuständigkeiten und offenen Punkten erstellen.

  2. 02

    Fachgemeinschaften

    Innovation Nexus works on governed public-interest innovation, and Governance Nexus on comparative governance under technology change.

  3. 03

    Fachplattform

    KI und digitale Governance ist die Fachgemeinschaft, mit dem Kapitel zu digitalen Rechten und Daten-Governance.

07Gegenstellen und Kontakt

Dasselbe Feld in den drei Institutionen.

Das Global Centre for Risk and Innovation (GCRI) erforscht künstliche Intelligenz und verantwortungsvolle Technologie. Die Global Risks Alliance (GRA) untersucht KI- und Modellrisiken im Finanzwesen. Verwandte GRF-Bereiche: Information und öffentliches Vertrauen sowie Entscheidungsrechte und Verantwortlichkeiten. Um ein System und die zugehörige Aufsichtsfrage in einen Dialog einzubringen, schreiben Sie an das Sekretariat über das Kontaktformulargehen; die Bestätigung nennt ein Aktenzeichen und den nächsten Schritt.

09Fragen

Fragen und Antworten.

Prüft das GRF KI-Systeme?
Nein. GRF veranstaltet und dokumentiert den Dialog zu Aufsicht und Rechenschaftspflicht. Es prüft, bewertet, zertifiziert oder genehmigt kein System.
Kann eine Übung ein laufendes KI-System einsetzen?
Only within an agreed, contained test environment. Exercises never act on real people’s cases, and real infrastructure is never an unapproved target.
Wie kann eine Behörde ein System in einen Dialog einbringen?
Write to the Secretariat at the contact form with the system and the oversight question. The acknowledgement gives a reference and names the next step.
BerichteBeitragen

Evidenz von dieser Seite aus beitragen.

Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.

Global Risks Forum
Das Global Risks Forum

Bringen Sie eine Governance-Frage in das Forum ein.

Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.