Algorithmic public decisions in seven parts.
Algorithmic public decisions: how the risk develops.
Contestability and transparency. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
오류는 조용히 확대됩니다
결함이 있는 규칙이나 모델은 그것이 적용되는 모든 사례에 적용됩니다. 결과와 이의 제기에 대한 모니터링이 없으면, 체계적 오류가 발견되기 전에 많은 사람이 부당하게 거부되거나 불이익을 받을 수 있습니다.
Bias enters through data and design
과거 데이터에는 과거의 결정과 집행 양상이 반영되어 있습니다. 우편번호나 국적 같은 대리 변수는 보호 대상 특성을 제외하더라도 불평등한 결과를 낳을 수 있습니다.
인간 검토가 형식적 승인으로 변질됩니다
Public servants asked to review automated outputs under time pressure tend to accept them. Meaningful review needs time, authority to overrule and information about how the output was produced.
불투명성은 이의 제기를 가로막습니다
People cannot contest a decision they do not know was automated or cannot understand. Notice, reasons and access to an appeal decide whether errors are corrected.
공공 알고리즘 등록부.
팀이 이 주제를 따라가는 데 사용할 화면으로, 그 지표, 상태, 결정을 보여 줍니다. 이름은 예시이며 값은 설명용입니다.
공공 알고리즘 등록부
Algorithmic public decisions · Algorithm register · Quarter 1
등록된 시스템
| 복지 부정 표시 | 사회적 행위 주체성 | 높음 | 누락 | 부분 |
| 인허가 분류 | 계획 | 제한적 | 완료 | 예 |
| 학교 배치 | 교육 | 높음 | 완료 | 예 |
| 채팅 도우미 | 세무서 | 최소 | 완료 | n/a |
감독 조치
- 시스템
- 복지 부정 표시
- 필수
- 영향 평가, 이의 신청 경로
- 마감
- 64 days
- 권한
- 감독 기구
자동화 결정에 관한 민원
측정되는 것과 그 정확도.
각 지표에는 단위, 주기, 그 뒤의 출처 종류, 값에 붙을 근거 표시가 있습니다. 값은 표시하지 않습니다. 값은 프로그램이 자체 권한으로 제공합니다.
| 지표 | 단위 | 주기 | 출처 유형 | 라벨 |
|---|---|---|---|---|
| Public algorithmic systems in a transparency register | count by agency | on update | Algorithm registers | 신고됨 |
| Algorithmic impact assessments published | 건수 | 연간 | 정부 간행물 | 신고됨 |
| Appeals against automated decisions | 인용된 건수 및 비율 | 연간 | Agency and tribunal records | 공표 통계 |
| 집단 간 결과 격차 | ratio of adverse outcome rates | 감사당 | Independent audits | 추정 |
| Systems suspended or withdrawn after review | 건수 | 연간 | Government and court records | 공표 통계 |
| Ombudsman complaints about automated decisions | 건수 | 연간 | Ombudsman reports | 공표 통계 |
How algorithmic public decisions is governed: instruments, mandates and commitments.
정책 입안자, 외교관이나 개발 기관이 다루는 문서, 위임, 행위자와 책임 체계를 이를 정한 협정을 인용하며 제시합니다. 구조는 명시된 체계를 따릅니다. 표시되는 상태나 진척은 예시이며 기록이 아닙니다.
정책 수단 매트릭스
The kinds of instrument available on algorithmic public decisions, by level of government and cooperation.
| 수단 유형 | 지방 | 국가 | 지역 | 글로벌 |
|---|---|---|---|---|
| 규제 | 구역 설정, 건축 규정 | 법률, 표준, 인허가 | 조화된 규칙 | 협약과 조약 |
| 경제 | 지방 부담금, 보조금 | 예산 항목, 세금, 보험 제도 | 리스크 풀, 지역 기금 | 재원 조달 체계 |
| 정보 | 지역 경보 | 공시, 조기 경보, 통계 | 데이터 공유 체계 | 글로벌 모니터링과 보고 |
| 기관 | 지역 위원회 | 주관 기관, 조정 위원회 | 지역 기구와 사무국 | 다자 위임 |
| 협력적 | 공동체 협정 | 파트너십 협약 | 양해각서와 공동 프로그램 | 협정과 공동 약속 |
근거의 출처.
이름이 명시된 공개 데이터셋과 기관 기록으로, 각각 라이선스 등급이 있습니다. 협약에 따른 출처는 그 조건에 따라서만 사용하며 결코 재게시하지 않습니다.
| 출처 | 제공하는 것 | 라이선스 등급 |
|---|---|---|
| 영국 알고리즘 투명성 기록 표준 기록 | Published records of algorithmic tools used by public bodies | Open Government Licence |
| Amsterdam and Helsinki algorithm registers | City registers of algorithmic systems in use | Open data, terms per city |
| Canada Directive on Automated Decision-Making and Algorithmic Impact Assessments | Mandatory impact assessments for federal automated decisions | Open Government Licence, Canada |
| 옴부즈맨 및 감사 기관 보고서 | Investigations of automated decision systems in public services | 공공 기록, 기관별 조건 |
| Court judgments on automated public decisions | Rulings on lawfulness of algorithmic systems | Public records, terms per court |
누가 결정하며 근거는 무엇에 쓰이는지.
AI와 디지털 거버넌스는 근거를 준비합니다. 아래의 결정은 명시된 당국이 자체 규칙에 따라 내리며, 결코 플랫폼이 내리지 않습니다.
| 결정 주체 | 질문 | 이 페이지가 제공하는 근거 |
|---|---|---|
| Ministers and agency heads | 의사결정을 자동화할지 여부와 어떤 안전장치를 둘지 | Impact assessments, audit evidence and lessons from comparable systems |
| 개인정보 보호 당국 | Whether processing and automated decisions are lawful | Assessment records and complaints |
| Ombudsmen and audit offices | Whether to investigate a system and what to recommend | Appeals, complaints and outcome data |
| Courts and tribunals | Whether a decision or system breached rights or law | 당사자가 제시한 기록. 이 페이지는 맥락만 제공합니다 |
이 주제가 생산하는 산출물
- Comparative notes on algorithm registers and impact assessments
- Guide to meaningful human review in automated decisions
- 중단된 공공 알고리즘의 교훈에 관한 대화 브리프
- Questions for agencies before deploying an automated decision system
What experts ask about algorithmic public decisions.
- What legal power authorises this use, and does the algorithm stay within it?
- 영향을 받는 사람은 알고리즘이 사용되었음을 알고, 그 방식을 이해하며, 결과에 이의를 제기할 수 있습니까?
- Does the system perform differently for different groups, and is that justified?
- What happens when the system is wrong, and how quickly is the error found and corrected?
How algorithmic decisions go wrong.
Algorithms trained on historical data can reproduce historical patterns of disadvantage. A proxy variable that seems neutral, such as postcode, may correlate with protected characteristics. Errors at scale differ from individual errors: a flawed rule applied to an entire caseload harms many people at once and in the same way, which can overwhelm complaint systems.
The burden of proof often shifts silently. When a system flags someone as high-risk, that person may need to prove a negative, without knowing what evidence the system used. Well-documented failures of automated benefits and fraud systems show that the greatest harm comes when automated flags are treated as findings rather than prompts for human investigation.
Why now: automated systems are used for eligibility, triage and fraud detection in public services, and courts and ombudsmen in several countries have examined cases where they went wrong. The platform is designed to compare review and redress arrangements and record what affected people can actually do.
안전장치와 그 한계.
- 01
알고리즘 공개 등록부
Listing systems used by public bodies and their purposes. Limits: registers are often incomplete and vary in detail.
- 02
Explanation and notification
Telling people when an algorithm was used and why it produced a result. Limits: explanations of complex models can be partial.
- 03
공정성 검증
Measuring performance across groups, using machine learning methods. Limits: different fairness measures can conflict, and choosing among them is a value judgement.
- 04
Appeal and redress
사람에 의한 검토, 이의 제기 및 구제로 이어지는 경로. 한계: 접근 가능한 절차와 충분한 인력에 좌우됩니다.
연구되는 방식과 방법이 말할 수 없는 것.
질문과 답변.
알고리즘 영향평가란 무엇입니까?
What makes human review meaningful?
사람들은 자동화된 결정의 대상이 되지 않을 권리가 있습니까?
Can a public decision be made entirely by an algorithm?
Why can’t fairness be measured with one number?
플랫폼은 개별 사례를 다룹니까?
Are algorithm registers required?
이 페이지에서 증거를 기여하십시오.
Reports는 컨소시엄의 분기별 간행물입니다. 이 주제에 관해 귀하가 아는 것은 다음 호에서 근거, 사례 또는 정정이 될 수 있으며, 귀하의 이름으로 표시되고, 귀하 자신의 저작인 경우 CC BY 4.0으로 발행됩니다.
- 이메일게이트웨이 GW-GRF이 페이지에서 보내기증거, 정정, 사례, 방법, 검토, 번역 또는 프로필 입력 자료. 이 페이지의 태그가 붙어 도착하므로, 이를 담당하는 편집자가 받게 됩니다.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- 보고서글로벌 리스크 포럼(Global Risks Forum)모든 기여 방법 보기기여 유형, 각각의 검토 방식, 받게 되는 크레디트, 라이선스, 그리고 절대 받지 않는 것.
개인정보, 민감한 인프라 세부 정보, 공유할 권리가 없는 자료는 절대 보내지 마십시오. 기여물은 사용 전에 검토됩니다. 기여물을 보낸다고 해서 저작자 지위나 편집 권한이 부여되지 않으며, 후원으로 조사 결과를 얻을 수 없습니다.
거버넌스 질문을 포럼에 가져오십시오.
정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.
법률 문서.
법률 문서 18건 모두 보기
이 사이트의 지도, 데이터와 그림은 맥락과 일반 정보로 제시됩니다. 조언, 예보 또는 경보가 아니며, 정보의 한계는 면책 고지와 데이터 고지에 나와 있습니다.