GRF · 리스크 거버넌스
디지털 및 AI 거버넌스
Governments and operators rely on AI and digital public systems to deliver services, allocate resources and detect risk. The rules are moving: the EU AI Act (2024) phases in from 2025, the Council of Europe AI Convention opened for signature in 2024, and in 2025 the UN set up a Scientific Panel on AI and a Global Dialogue on AI Governance. The Global Risks Forum (GRF) convenes authorities, technologists and rights specialists on keeping oversight, accountability and rights intact. GRF approves no system.
Digital and AI governance in seven parts.
- 01The governance questionsThree questions institutions need to answer
- 02The instrumentsA layered and still moving rulebook
- 03Public sector useThe governance question for a ministry deploying a model
- 04International guidanceInstruments that frame the dialogue
- 05Exercising oversightTesting what happens when an automated system is wrong
- 06Counterparts and contactThe same field across the three institutions
- 07SourcesWhere this page’s references lead
기관이 답해야 하는 세 가지 질문.
사람의 감독
Who can understand, question and override an automated decision, and do they have the authority and time to do so?
Answerability
Who answers for an automated decision that harms someone, and how can the affected person seek review?
Rights and inclusion
How are privacy, non-discrimination and access protected, including for people who cannot use digital channels?
A layered and still moving rulebook.
| 도구 | 기구 | 기능 | 상태 안내 |
|---|---|---|---|
| AI Act | 유럽연합 | Risk-tiered obligations: prohibited practices, duties for general-purpose models, then high-risk system requirements | Applies in stages; a 2026 Digital Omnibus agreement moved the high-risk timelines, so dates should be read from the “Official Journal of the European Union” |
| 인공지능과 인권, 민주주의 및 법치에 관한 기본협약 | 유럽평의회, 비회원국에도 개방 | Binding duties across the lifecycle of AI systems used by public authorities and, by choice, private actors | Opened for signature in September 2024; check the Treaty Office for ratifications |
| OECD AI 원칙 | OECD, adhered to by many non-members | Values-based principles and recommendations to governments, updated in 2024 | In force as a Recommendation |
| 글로벌 디지털 협약 | UN General Assembly, annexed to the Pact for the Future | Commitments on digital inclusion, data governance and AI, including an independent scientific panel and a global dialogue | 패널은 보고서를 제출했고, 대화는 2026년 7월 제네바에서 처음 열렸습니다 |
| 인공지능 윤리에 관한 권고 | UNESCO | Readiness assessments and ethical impact assessment for member states | Implementation through national readiness assessments |
The governance question for a ministry deploying a model.
행정기관이 알고리즘을 사용해 점검 우선순위를 정하거나 급여를 배분하거나 긴급 신고를 분류할 때, 질문은 기술적이기에 앞서 제도적입니다. 누가 사용을 승인했는가? 누가 중단할 수 있는가? 영향을 받은 사람은 어떻게 결과에 이의를 제기할 수 있는가? 어떤 규제기관이 이를 감사하는가? GRF 대화는 하나의 사례를 두고 이를 도입한 기관, 감독 기구, 개인정보 보호 당국, 영향을 받는 이용자를 한자리에 모으고, 이들이 합의한 감독 체계를 기록합니다.
Technical assurance methods sit with GCRI’s AI and autonomous systems platform; model risk in finance with GRA’s AI and financial model risk platform; the specialist community is AI and Digital Governance.
Instruments that frame the dialogue.
- The UNESCO Recommendation on the Ethics of Artificial Intelligence (2021).
- The OECD AI Principles (2019, updated 2024).
- The Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (2024), for the states that are party to it.
- The Global Digital Compact (2024) and international human rights law, including the rights to privacy and to an effective remedy.
- National and regional laws that apply to each participating institution, such as the European Union AI Act.
Named instruments are references for dialogue, not claims of alignment. GRF does not assess any institution’s conformity with them, and it does not regulate, finance, procure or certify.
Testing what happens when an automated system is wrong.
Oversight never exercised is an assumption. In Universe, a scenario can have an automated triage, warning or eligibility system produce a confident but wrong output. The exercise asks: do the people responsible notice, can they override, can they explain the decision afterwards? Evaluators record where oversight held and where it failed. The exercised institutions review findings before they inform Reports. A missing common practice can become a change proposal to the Nexus Standards.
- 01
Oversight dialogues
Structured dialogues that produce a record of oversight questions, responsibilities and open issues for a given public system.
- 02
전문 커뮤니티
Innovation Nexus works on governed public-interest innovation, and Governance Nexus on comparative governance under technology change.
- 03
전문 플랫폼
AI와 디지털 거버넌스 는 디지털 권리 및 데이터 거버넌스 분과를 두고 있는 전문 커뮤니티입니다.
세 기관에 걸친 동일한 분야.
The Global Centre for Risk and Innovation (GCRI) studies artificial intelligence and responsible technology. The Global Risks Alliance (GRA) examines AI and model risk in finance. Related GRF areas: information and public trust and decision rights and responsibilities. To bring a system and its oversight question to a dialogue, write to the Secretariat at the contact form; the acknowledgement gives a reference and names the next step.
Where this page’s references lead.
이 페이지를 읽을 때 기준이 되는 기구와 문서. 상태와 판은 바뀌며, 각 링크는 발행 기구로 연결됩니다.
질문과 답변.
Does GRF audit AI systems?
Can an exercise use a live AI system?
How can a public authority bring a system to a dialogue?
이 페이지에서 증거를 기여하십시오.
Reports는 컨소시엄의 분기별 간행물입니다. 이 주제에 관해 귀하가 아는 것은 다음 호에서 근거, 사례 또는 정정이 될 수 있으며, 귀하의 이름으로 표시되고, 귀하 자신의 저작인 경우 CC BY 4.0으로 발행됩니다.
- 이메일게이트웨이 GW-GRF이 페이지에서 보내기증거, 정정, 사례, 방법, 검토, 번역 또는 프로필 입력 자료. 이 페이지의 태그가 붙어 도착하므로, 이를 담당하는 편집자가 받게 됩니다.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- 보고서글로벌 리스크 포럼(Global Risks Forum)모든 기여 방법 보기기여 유형, 각각의 검토 방식, 받게 되는 크레디트, 라이선스, 그리고 절대 받지 않는 것.
개인정보, 민감한 인프라 세부 정보, 공유할 권리가 없는 자료는 절대 보내지 마십시오. 기여물은 사용 전에 검토됩니다. 기여물을 보낸다고 해서 저작자 지위나 편집 권한이 부여되지 않으며, 후원으로 조사 결과를 얻을 수 없습니다.
거버넌스 질문을 포럼에 가져오십시오.
정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.
법률 문서.
법률 문서 18건 모두 보기
이 사이트의 지도, 데이터와 그림은 맥락과 일반 정보로 제시됩니다. 조언, 예보 또는 경보가 아니며, 정보의 한계는 면책 고지와 데이터 고지에 나와 있습니다.