AI 윤리 원칙AI Ethics Principles
AI 를 만들고 쓰는 사람이 지킬 가치와 성질(투명성 · 공정성 · 안전성 · 책임성 등)을 법보다 앞서 적어 둔 자율 규범이다. 국제기구 · 정부 · 기업이 내며, 실무에서는 세부 요건 · 점검표 · 영향 평가로 풀어 쓴다.
1요약
- AI 윤리 원칙은 OECD 권고(2019 · 2024 개정) · UNESCO 권고(2021) · 한국 인공지능 윤리원칙(2026) 같은 자율 규범이며, 그 위에서 기업의 점검표 · 영향 평가와 EU AI법 · 인공지능기본법 같은 법 의무가 돈다.
- 원칙만 있고 풀이가 없으면 같은 낱말이 다른 일을 시킨다 — 윤리 지침 84편을 분석한 연구에서 «투명성»은 73편에 나왔지만 해석은 공개 · 설명 · 소통으로 갈렸다(Jobin 2019).
- 「윤리 원칙을 지켰나」는 원칙 이름이 아니라 세부 요건마다 증빙이 있는지로 갈린다 — 투명성 하나도 OECD 1.3 은 알림 · 근거 · 이의 제기 정보 등 네 가지를 따로 묻는다.
2등장 배경
2016년 무렵부터 채용 · 대출 · 얼굴 인식에 AI 가 들어가자 «결과가 불리하게 나왔을 때 누가 무엇을 설명하나»라는 물음이 법보다 먼저 나왔다. 기업 · 학회 · 정부가 저마다 원칙을 냈고, Jobin 등이 모은 84편 가운데 88% 가 2016년 이후 발표였다(Jobin 2019).
정부 사이 기준은 2019년에 처음 나왔다. EU 고위 전문가 그룹이 4월 8일 신뢰할 수 있는 AI 의 7대 요건을, OECD 이사회가 5월 22일 원칙 5개와 정책 권고 5개를 채택했고, 6월 G20 이 이를 바탕으로 G20 AI 원칙을 받았다(OECD/LEGAL/0449 배경). UNESCO 는 2021년 11월 23일 193개 회원국이 가치 4 · 원칙 10 · 정책 영역 11 의 권고를 채택했다(UNESCO 2021).
한국은 2020년 12월 23일 과기정통부가 3대 기본원칙 · 10대 핵심요건의 「인공지능 윤리기준」을 냈고, 2026년 8월 21일 인공지능기본법 제27조에 근거한 「대한민국 인공지능 윤리원칙」(3대 가치 · 7대 원칙)이 확정됐다(정책브리핑 2026). OECD 도 2024년 5월 3일 생성형 AI 를 반영해 원칙을 고쳤다. 원칙이 법으로 바뀐 부분은 AI 기본법 · EU AI법이 맡고, 이 글은 원칙 자체의 짜임과 실무로 푸는 방법을 다룬다.
3쉽게 이해하기 — 여러 나라 손님을 받는 식당의 주방 수칙
여러 나라 손님이 오는 식당이 새 메뉴를 내려 한다. 셰프는 세계 요리 협회의 권고와 이 나라 위생 지침을 모아 «우리 주방 수칙»을 쓰고, 수칙 한 줄을 조리 전 점검표 여러 칸으로 나눈다. 점검을 통과한 메뉴만 손님 앞에 나가고, 손님이 남긴 의견 카드는 다시 셰프에게 돌아온다. 위생법은 어기면 벌칙이 따르지만, 수칙과 점검표는 식당이 스스로 지키는 약속이다.
그림 1 · 국제 권고와 나라 지침이 모여 주방 수칙이 되고, 수칙은 점검표로 나뉘어 새 메뉴를 거르며, 손님의 의견이 셰프에게 돌아온다 — 벌칙이 있는 것은 위생법뿐이다.
그림 2 · 수칙 «투명하게» 한 줄이 점검 칸 넷으로 나뉘듯, OECD 1.3 투명성도 알림 · 근거 · 이의 제기 등 네 항목으로 따로 확인한다.
| 비유 속 역할 | 실제 이름 | 실제로 하는 일 |
|---|---|---|
| 세계 요리 협회 권고 | 국제 원칙(OECD · UNESCO) | 나라 사이 공통 가치와 원칙 이름을 정한다 · 구속력 없음 |
| 나라 위생 지침 | 국가 윤리원칙 | 한 나라의 모든 주체가 함께 지킬 자율 기준(인공지능기본법 제27조) |
| 우리 주방 수칙 | 기업 AI 원칙 | 국제 · 국가 원칙을 자기 서비스 말로 다시 쓴다 |
| 조리 전 점검표 | 점검표 · 영향 평가 | 원칙 한 줄을 확인할 수 있는 항목과 증빙으로 나눈다 |
| 점검 통과 메뉴 | 출시 판단 | 정한 항목을 채운 AI 시스템만 내놓는다 |
| 손님 의견 카드 | 이의 제기 · 민원 | 불리한 결과를 받은 사람이 다투고, 결과가 고침으로 돌아간다 |
| 위생법 | 법 의무 | 원칙 일부를 의무로 굳혀 어기면 제재한다(EU AI법 · AI 기본법) |
| 수칙 고쳐 쓰기 | 원칙 개정 · 재점검 | 원칙이 바뀌면(OECD 2024 개정) 점검표도 새로 쓴다 |
⚠ 비유가 맞지 않는 곳: 식당 위생은 «깨끗함»이라는 한 가지 목표로 모이지만, AI 윤리 원칙은 서로 부딪칠 수 있다. 설명을 자세히 내면(투명성) 개인 정보가 드러날 수 있고(프라이버시), 그래서 OECD 는 원칙들을 «하나의 전체로» 함께 보라고 적었다(OECD/LEGAL/0449 IV).
4구조 — 가치에서 실천 수단까지의 다섯 계층
윤리 원칙 문서는 대체로 «가치 → 원칙 → 세부 요건 → 실천 수단» 순서로 내려가며 구체해지고, 맨 아래에서 법과 이어진다. 문서마다 개수와 이름은 다르지만 이 계단은 같다.
그림 3 · 세 문서 모두 위에서 아래로 구체해지며, 실천 수단 계층에 와서야 «무엇을 확인하나»가 정해지고 법 연결은 세 문서 모두 자율이다.
| 계층 | 묻는 질문 | OECD 예 | 한국 예 | 쓰는 사람 |
|---|---|---|---|---|
| 가치 | 무엇을 지키나 | 인권 · 민주 가치(1.2) | 인간의 존엄성 · 사회의 공공선 · 인류의 지속가능성 | 정부 · 사회 |
| 원칙 | 어떤 성질이어야 하나 | 투명성 · 견고성 · 책임성 등 5 | 인간중심성 ~ 투명성 7 | 모든 AI 행위자 |
| 세부 요건 | 무엇을 하나 | 1.4 (b) 위험하면 사람이 무시 · 수리 · 폐기 | 원칙별 설명(전문) | 개발 · 제공자 |
| 실천 수단 | 어떻게 확인하나 | 2.1 ~ 2.5 정책 권고 | 해설서 · 분야별 자율점검표 · 교육 교재 | 기업 · 기관 |
| 법 연결 | 강제되나 | 비구속 · 회원국 정책으로 | 기본법 제27조 · 제28조 민간자율위원회(둘 수 있음) | 입법 · 규제 기관 |
🔑 윤리 원칙의 힘은 원칙 개수가 아니라 맨 아래 «실천 수단» 계층에서 나온다 — 원칙은 «무엇이어야 하나»만 말하고, 증빙을 요구하는 것은 점검표 · 영향 평가다.
5동작 — 학습 진단 AI 의 원칙 점검
설명용 가정 값: 온라인 교육 회사 K 가 학생의 수학 수준을 진단해 반을 추천하는 AI 를 국내에 내고, 이듬해 해외 판매를 준비한다. 학생 수 · 점검 항목 수 · 이의 건수는 모두 가정 값이다.
- 근거 고르기 — 국내 서비스이므로 한국 윤리원칙 7대 원칙을 뼈대로 쓰고, 해외 판매 대비로 OECD 원칙 1.1 ~ 1.5 와 대응표를 만든다.
- 요건 풀기 — 원칙마다 확인 항목 4개씩, 모두 28개를 정한다. 투명성 4개는 OECD 1.3 (i) ~ (iv) 에 하나씩 맞춘다.
- 영향 평가 — 영향받는 사람은 미성년 학생 12,000명이고, 반 배정은 한 학기 동안 되돌리기 어렵다. 되돌릴 수 없는 결정은 사람이 최종 판단한다는 UNESCO 문단 26 에 따라 AI 는 «추천»까지만, 배정은 교사가 정한다.
- 출시 전 점검 — 28개 중 24개 충족(85.7%) · 4개 미충족: 이의 제기 경로(1.3 (iv)) · 판단 기록 추적(1.5 (b)) · 지역별 진단 오류 차이 측정(공정성) · 진단 중지 · 되돌림 절차(1.4 (b)).
- 출시 판단 — K 의 내부 규칙(가정 값)은 «안전성 · 인간중심성 항목이 하나라도 비면 보류»다. 중지 · 되돌림 절차가 비어 출시를 2주 미루고, 나머지 셋은 출시 전 보완 일정을 문서로 남긴다.
- 공개 — 학부모 · 학생에게 AI 진단임을 알리고(1.3 (ii)), 진단이 쓴 문항 영역과 한계를 안내하며, 이의 신청 창구를 연다.
- 운영 · 재점검 — 첫 분기 이의 37건 중 9건에서 진단을 고쳤고, 이 기록으로 분기 재점검을 한다. 원칙이 개정되면(예: OECD 2024 개정의 정보 무결성 1.4 (c)) 점검표 판을 올린다.
그림 4 · 회사 K 는 28개 항목 중 24개를 채웠지만, 보류 규칙에 걸리는 안전성 항목 하나 때문에 출시를 미뤘고 출시 뒤 이의 기록이 재점검으로 돌아간다.
🔑 원칙 점검은 출시 전 한 번이 아니라 «이의 기록 → 재점검 → 점검표 개정»의 순환이다 — OECD 1.5 (c) 가 위험 관리를 수명주기 모든 단계에 «계속» 적용하라고 적는다.
원칙이 실제로 어디에 모이는지는 문서 수로 볼 수 있다. 아래 그림은 Jobin 등이 84편에서 센 원칙별 문서 수다.
그림 5 · 84편 중 절반(42편)을 넘는 원칙은 다섯뿐이고, 한국 2020 기준이 앞세운 존엄 · 연대는 각각 13편 · 6편에만 나온다 — 공통 이름 다섯 밖은 문서마다 고른 가치다.
6비교 — 네 원칙 문서의 성격과 실천 수단
같은 «AI 윤리 원칙»이라도 누가 냈는지에 따라 범위 · 구성 · 실천 수단이 다르다. 법 조문의 세부 비교는 AI 기본법 · EU AI법이 맡는다.
| 기준 | OECD 권고 | UNESCO 권고 | EU HLEG 지침 | 한국 윤리원칙 |
|---|---|---|---|---|
| 발표 · 개정 | 2019-05 · 2023-11 정의 · 2024-05 개정 | 2021-11-23 | 2019-04-08 | 2026-08-21(2020-12 기준 계승) |
| 범위 | 참여국 정부 · 모든 AI 행위자 | 193개 회원국 | EU 안 개발 · 배포자 | 국내 공급자 · 이용자 · 정부 · 사회 |
| 구성 | 원칙 5 + 정책 권고 5 | 가치 4 · 원칙 10 · 정책 영역 11 | 3요소(합법 · 윤리 · 견고) · 요건 7 | 3대 가치 · 7대 원칙 |
| 실천 수단 | 정책 권고 · 정기 이행 보고 | 윤리 영향 평가 · 준비도 평가 | 자가 점검표 ALTAI(2020-07) | 해설서 · 분야별 자율점검표(계획) |
| 눈에 띄는 조항 | 위험하면 사람이 무시 · 수리 · 폐기(1.4 (b)) | 사회 점수 · 대량 감시에 쓰지 않음(문단 26) | 7요건이 EU AI법 전문 27 에 인용 | 법 제27조 근거 · 민간자율위원회(제28조) |
분석국내 서비스는 한국 윤리원칙을 뼈대로, 해외 판매는 OECD 원칙과의 대응표를, EU 시장은 HLEG 7요건 · ALTAI 를 점검 항목의 출발점으로 쓰는 것이 일이 적다. 근거는 표의 「범위」 · 「눈에 띄는 조항」 행 — HLEG 7요건은 EU AI법 전문 27 이 직접 가리키고, 한국 원칙은 인공지능기본법 제27조가 근거다.
7실무 진단 — 원칙이 실천으로 이어지지 않는 원인
분석근거 원칙 세트 → 세부 요건 → 증빙 → 재점검 순서로 본다. 원칙 세트가 정해져야 요건 목록이 정해지고, 요건마다 증빙이 있어야 OECD 1.5 (b) 의 추적성을 말할 수 있기 때문이다.
| # | 증상 | 의심 원인 | 단계 | 확인 자료 | 판정 기준(근거) |
|---|---|---|---|---|---|
| 1 | 원칙 문서는 있는데 팀이 할 일을 모른다 | 원칙을 요건으로 풀지 않음 | 요건 | 원칙별 점검 항목 · 담당 · 증빙 목록 | 항목마다 증빙 하나 · 수명주기 추적(OECD 1.5 (b)) |
| 2 | 불리한 결과를 받은 사람의 민원에 답하지 못한다 | 이의 제기 정보 · 경로 없음 | 공개 | 고지문 · 이의 처리 기록 | 다툴 정보 제공(OECD 1.3 (iv)) · 구제 수단(UNESCO 문단 29) |
| 3 | 문제가 보여도 서비스를 멈추지 못한다 | 중지 · 되돌림 절차 없음 | 운영 | 중지 절차서 · 훈련 기록 | 무시 · 수리 · 폐기 수단(OECD 1.4 (b)) |
| 4 | 해외 고객이 다른 원칙 이름으로 묻는다 | 원칙 세트 대응표 없음 | 근거 | 원칙 대응표(핵심 정리 표) | 비교 절의 범위 · 구성 행 |
| 5 | 점검표가 생성형 AI 위험을 다루지 않는다 | 원칙 개정을 반영하지 않음 | 재점검 | 점검표 판 · 근거 문서 판 | 2024-05-03 OECD 개정(정보 무결성 1.4 (c)) |
편향을 숫자로 재는 일은 공정성 지표 · 데이터 편향, 생성물에 표시를 붙이는 일은 AI 생성물 표시가 맡는다. 이 표는 원칙과 실천 사이가 끊긴 곳을 찾는 순서다.
8시험 대비
www.q-net.or.kr시험에서는 AI 윤리 원칙의 의미와 구성을 묻는 정의 · 특징형, OECD · UNESCO · 한국 원칙을 견주거나 원칙과 법 규제를 견주는 비교형이 나올 수 있다. 정의형은 다섯 계층 그림으로 «원칙 → 요건 → 실천 수단»을 보이고, 비교형은 비교표의 구성 · 실천 수단 · 눈에 띄는 조항 세 행으로 차이를 쓴다.
- 개요 — 정의 · 자율 규범 · 2019 OECD · 2021 UNESCO · 2026 한국 윤리원칙(기본법 제27조)
- 구성 — 그림 3 다섯 계층(가치 · 원칙 · 세부 요건 · 실천 수단 · 법 연결)
- 공통 원칙 — 그림 5 84편 분포(투명성 73 · 공정성 68 · 위해 금지 60 · 책임 60 · 프라이버시 47)
- 실천 방법 — 그림 4 점검 순환(28항목 · 영향 평가 · 이의 기록 → 재점검)
- 국내외 비교 — 비교표(OECD · UNESCO · EU HLEG · 한국)
- 과제 — 원칙 사이 충돌 · 증빙 요구 · 개정 반영(2024 정보 무결성)
꼭 쓸 키워드
신뢰할 수 있는 AI투명성설명 가능성공정성책임성견고성사람 중심윤리 영향 평가자율점검표민간자율인공지능윤리위원회
다른 답안과 차이를 내는 한 가지 — 원칙 이름 나열 대신 OECD 1.3 처럼 «원칙 하나가 몇 개의 확인 항목으로 풀리는지»를 보이고, 2024 OECD 개정과 2026 한국 윤리원칙(3대 가치 · 7대 원칙)을 넣어 2020 기준만 적은 답안과 갈린다.
9오해와 사실
- 오해윤리 원칙을 지키지 않으면 법 위반이다.사실OECD · UNESCO 권고와 한국 윤리원칙은 구속력이 없는 자율 기준이다 — 제재는 원칙 일부를 의무로 옮긴 법 조문(EU AI법 · 인공지능기본법의 의무 조항)에서만 나온다(인공지능기본법 제27조 「제정 · 공표할 수 있다」).
- 오해원칙 문서들은 결국 같은 말이라 하나만 보면 된다.사실84편 중 절반을 넘는 공통 원칙은 다섯뿐이고, 같은 «투명성»도 공개 · 설명 · 소통으로 해석이 갈린다(Jobin 2019).
- 오해사람이 최종 승인하면 인간 중심 원칙을 지킨 것이다.사실OECD 1.4 (b) 는 위험할 때 사람이 무시 · 수리 · 폐기할 «수단»을, 1.3 (iv) 는 불리한 결과를 다툴 «정보»를 따로 요구한다.
10핵심 정리
| 공통 원칙 | OECD | UNESCO | 한국 2026 | 실천에서 확인할 것 | 이어지는 토픽 |
|---|---|---|---|---|---|
| 투명성 | 1.3 (i) ~ (iv) | 투명성 · 설명 가능성 | 투명성 | AI 고지 · 근거 정보 · 이의 정보 | 설명 가능한 AI(XAI) · AI 생성물 표시 |
| 공정성 | 1.2 (a) 차별 금지 · 공정 | 공정성 · 차별 금지 | 공정성 · 포용성 | 집단별 오류 차이 측정 | 공정성 지표 · 데이터 편향 |
| 안전성 | 1.4 (a) ~ (c) | 안전 · 보안 · 위해 금지 | 안전성 · 신뢰성 | 중지 · 되돌림 절차 · 시험 | AI 정렬 |
| 책임성 | 1.5 (a) ~ (c) | 책임 · 설명 책임 | 책임성 | 추적 기록 · 위험 관리 · 담당 | 모델 카드 |
| 프라이버시 | 1.2 (a) 개인 정보 | 프라이버시 · 데이터 보호 | 프라이버시 보호 | 데이터 출처 · 최소 수집 | AI와 개인정보 |
| 사람 중심 | 1.2 (b) 사람의 감독 | 사람의 감독 · 결정 | 인간중심성 | 최종 판단자 · 개입 수단 | 고위험 AI |
| 지속가능성 | 1.1 환경 지속가능성 | 지속가능성 | 인류의 지속가능성(가치) | 자원 · 환경 영향 | — |
11참고 문헌
- 먼저 볼 문헌
- ★ Recommendation of the Council on Artificial Intelligence OECD/LEGAL/0449(2019-05-22 채택 · 2023-11-08 · 2024-05-03 개정) — 원칙 1.1 ~ 1.5 와 2024 개정 내용을 원문으로 볼 때
- ★ Recommendation on the Ethics of Artificial Intelligence(UNESCO 제41차 총회 · 2021-11-23 채택) 문단 13 ~ 121 — 가치 4 · 원칙 10 · 정책 영역 11 과 사회 점수 금지 문단을 볼 때
- ★ 정부, 'AI 윤리원칙' 제정…인간 존엄성 등 3대 가치 · 7대 원칙 담아(대한민국 인공지능 윤리원칙 · 2026-08-21 확정) — 한국 윤리원칙의 3대 가치 · 7대 원칙과 후속 계획을 볼 때
- ★ 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(법률 제21311호 · 2026-07-21 시행) 제27 · 28조 — 윤리원칙 · 민간자율인공지능윤리위원회의 법 근거를 볼 때
- ★ The global landscape of AI ethics guidelines (Jobin · Ienca · Vayena · Nature Machine Intelligence 1) — 윤리 지침 84편의 원칙 분포를 볼 때
- 본문 근거
- Ethics Guidelines for Trustworthy AI(High-Level Expert Group on AI) — European Commission · 2019-04 ·
digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai· 확인 2026-11-12 - Regulation (EU) 2024/1689 (Artificial Intelligence Act) 전문 27 — AI Act Explorer — European Commission · AI Act Service Desk · 2026-11 ·
ai-act-service-desk.ec.europa.eu/en/ai-act/recital-27· 확인 2026-11-12 - OECD AI Principles overview(참여국 목록 · 상시 갱신) — OECD · 2026-11 ·
oecd.ai/en/ai-principles· 확인 2026-11-12 - MSIT releases people-centered National AI Ethical Guidelines draft(국가 인공지능 윤리기준 안) — 과학기술정보통신부 · 2020-11 ·
english.msit.go.kr/eng/bbs/view.do?sCode=eng&mId=4&mPid=2&bbsSeqNo=42&nttSeqNo=467· 확인 2026-11-12 - 과기정통부, 「인공지능(AI) 윤리기준」 마련(보도자료 · 2020-12-23) — 과학기술정보통신부 · 대한민국 정책브리핑 · 2020-12 ·
www.korea.kr/briefing/pressReleaseView.do?newsId=156428773· 확인 2026-11-12 - Readiness assessment methodology: a tool of the Recommendation on the Ethics of Artificial Intelligence — UNESCO · 2023-08 ·
unesdoc.unesco.org/ark:/48223/pf0000385198· 확인 2026-11-12