GRF · Risiko-Governance
Digitale und KI-Governance
Regierungen und Betreiber verlassen sich auf KI und digitale öffentliche Systeme , um Dienstleistungen zu erbringen, Ressourcen zuzuweisen und Risiken zu erkennen. Die Regeln ändern sich: Der EU-KI-Verordnung (2024) wird ab 2025 schrittweise wirksam, das KI-Übereinkommen des Europarats wurde 2024 zur Unterzeichnung aufgelegt, und 2025 richteten die Vereinten Nationen ein Wissenschaftliches Gremium für KI und einen Globalen Dialog zur KI-Governance ein. Das Global Risks Forum (GRF) bringt Behörden, Technikexperten und Grundrechtsspezialisten zusammen, um Aufsicht, Rechenschaftspflicht und Rechte zu wahren. GRF genehmigt kein System.
Digitale und KI-Governance in sieben Teilen.
- 01Die Governance-FragenDrei Fragen, die Institutionen beantworten müssen
- 02The instrumentsA layered and still moving rulebook
- 03Einsatz im öffentlichen SektorDie Governance-Frage für ein Ministerium, das ein Modell einsetzt
- 04International guidanceInstruments that frame the dialogue
- 05Exercising oversightTesting what happens when an automated system is wrong
- 06Gegenstellen und KontaktDasselbe Feld in den drei Institutionen
- 07SourcesWhere this page’s references lead
Drei Fragen, die Institutionen beantworten müssen.
Menschliche Aufsicht
Wer kann eine automatisierte Entscheidung nachvollziehen, hinterfragen und außer Kraft setzen, und haben diese Personen dazu die Befugnis und die Zeit?
Rechenschaftspflicht
Wer steht für eine automatisierte Entscheidung ein, die jemandem schadet, und wie kann die betroffene Person eine Überprüfung erwirken?
Rechte und Inklusion
How are privacy, non-discrimination and access protected, including for people who cannot use digital channels?
Ein mehrschichtiges und noch in Bewegung befindliches Regelwerk.
| Instrument | Gremium | Was es tut | Statushinweis |
|---|---|---|---|
| KI-Verordnung | Europäische Union | Risk-tiered obligations: prohibited practices, duties for general-purpose models, then high-risk system requirements | Gilt in Stufen; eine Einigung zum Digital Omnibus 2026 hat die Fristen für Hochrisiko-Systeme verschoben, daher sind die Termine dem „Amtsblatt der Europäischen Union“ zu entnehmen |
| Rahmenübereinkommen über KI und Menschenrechte, Demokratie und Rechtsstaatlichkeit | Council of Europe, open to non-members | Verbindliche Pflichten über den gesamten Lebenszyklus von KI- Systeme , die von Behörden und, nach eigener Entscheidung, von privaten Akteuren eingesetzt werden | Im September 2024 zur Unterzeichnung aufgelegt; Ratifikationen beim Vertragsbüro prüfen |
| OECD-Grundsätze für KI | OECD, der auch viele Nichtmitglieder beigetreten sind | Wertebasierte Grundsätze und Empfehlungen an Regierungen, 2024 aktualisiert | In Kraft als Empfehlung |
| Globaler Digitalpakt | UN-Generalversammlung, Anhang zum Pakt für die Zukunft | Verpflichtungen zu digitaler Inklusion, Daten-Governance und KI, einschließlich eines unabhängigen wissenschaftlichen Gremiums und eines globalen Dialogs | Das Gremium legte seinen Bericht vor, und der Dialog trat im Juli 2026 erstmals in Genf zusammen |
| Empfehlung zur Ethik der KI | UNESCO | Bereitschaftsbewertungen und ethische Folgenabschätzung für UN-Mitgliedstaaten | Implementation through national readiness assessments |
Die Governance-Frage für ein Ministerium, das ein Modell einsetzt.
Wenn eine Behörde einen Algorithmus einsetzt, um Kontrollen zu priorisieren, Leistungen zuzuteilen oder Notrufe zu sichten, sind die Fragen zuerst institutioneller und erst dann technischer Art. Wer hat den Einsatz freigegeben? Wer kann ihn stoppen? Wie kann eine betroffene Person das Ergebnis anfechten? Welche Aufsichtsbehörde prüft ihn? In GRF-Dialogen kommen die einsetzende Behörde, ihre Aufsichtsstelle, eine Datenschutzbehörde und betroffene Nutzende an einem Fall zusammen; die Aufsichtskette, auf die sie sich verständigen, wird festgehalten.
Technical assurance methods sit with GCRI’s AI and autonomous systems platform; model risk in finance with GRA’s AI and financial model risk platform; the specialist community is AI and Digital Governance.
Instruments that frame the dialogue.
- Die UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz (2021).
- Die OECD-KI-Grundsätze (2019, aktualisiert 2024).
- Das Rahmenübereinkommen des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit (2024), für die Staaten, die Vertragsparteien sind.
- Der Global Digital Compact (2024) und das internationale Menschenrechtsrecht, einschließlich der Rechte auf Privatsphäre und auf einen wirksamen Rechtsbehelf.
- Nationale und regionale Gesetze, die für jede teilnehmende Institution gelten, etwa der KI-Verordnung der Europäischen Union.
Named instruments are references for dialogue, not claims of alignment. GRF does not assess any institution’s conformity with them, and it does not regulate, finance, procure or certify.
Prüfen, was geschieht, wenn ein automatisiertes System falsch liegt.
Oversight never exercised is an assumption. In Universe, a scenario can have an automated triage, warning or eligibility system produce a confident but wrong output. The exercise asks: do the people responsible notice, can they override, can they explain the decision afterwards? Evaluators record where oversight held and where it failed. The exercised institutions review findings before they inform Reports. A missing common practice can become a change proposal to the Nexus Standards.
- 01
Aufsichtsdialoge
Strukturierte Dialoge, die für ein bestimmtes öffentliches System eine Dokumentation von Aufsichtsfragen, Zuständigkeiten und offenen Punkten erstellen.
- 02
Fachgemeinschaften
Innovation Nexus works on governed public-interest innovation, and Governance Nexus on comparative governance under technology change.
- 03
Fachplattform
KI und digitale Governance ist die Fachgemeinschaft, mit dem Kapitel zu digitalen Rechten und Daten-Governance.
Dasselbe Feld in den drei Institutionen.
Das Global Centre for Risk and Innovation (GCRI) erforscht künstliche Intelligenz und verantwortungsvolle Technologie. Die Global Risks Alliance (GRA) untersucht KI- und Modellrisiken im Finanzwesen. Verwandte GRF-Bereiche: Information und öffentliches Vertrauen sowie Entscheidungsrechte und Verantwortlichkeiten. Um ein System und die zugehörige Aufsichtsfrage in einen Dialog einzubringen, schreiben Sie an das Sekretariat über das Kontaktformulargehen; die Bestätigung nennt ein Aktenzeichen und den nächsten Schritt.
Where this page’s references lead.
Die Gremien und Dokumente, vor deren Hintergrund diese Seite gelesen wird. Status und Ausgaben ändern sich; jeder Link führt zur herausgebenden Stelle.
Fragen und Antworten.
Prüft das GRF KI-Systeme?
Kann eine Übung ein laufendes KI-System einsetzen?
Wie kann eine Behörde ein System in einen Dialog einbringen?
Evidenz von dieser Seite aus beitragen.
Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.
- EmailGateway GW-GRFSend it from this pageEvidence, a correction, a case, a method, a review, a translation or profile input. It arrives tagged with this page, so the editor who owns it receives it.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks ForumSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Senden Sie nie personenbezogene Daten, sensible Infrastrukturdetails oder etwas, das Sie nicht weitergeben dürfen. Ein Beitrag wird vor der Nutzung geprüft; das Einsenden begründet weder Urheberschaft noch redaktionelle Rechte, und Sponsoring erkauft nie ein Ergebnis.
Bringen Sie eine Governance-Frage in das Forum ein.
Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.
Rechtliche Dokumente.
Alle 18 Rechtsdokumente anzeigen
Karten, Daten und Zahlen auf dieser Website werden zu Kontext- und allgemeinen Informationszwecken gezeigt. Sie sind weder Beratung noch Prognosen oder Warnungen; die Grenzen der Information sind in den Haftungsausschlüssen und Datenhinweisen dargelegt.