공지를 보낸 지 두 달째입니다.
옆자리 직원이 개인 휴대폰을 세워 두고 챗봇을 켠다. 사내 자료를 외부 AI에 넣지 말라는 메일은 전사에 나갔다. 아무도 항의하지 않았다. 더 조이면 다 숨을 것 같고, 풀어주면 사고가 날 것 같다. 그래서 어느 쪽으로도 못 움직인 채 한 분기가 지나갑니다.
실행 순서만 필요하면 90일 로드맵으로 바로 내려가시고, 우리 조직 점수부터 알고 싶다면 17문항 정밀 진단이 5분 안에 답을 돌려줍니다.
핵심 요약
- 금지 공지의 실제 효과: 위험 제거가 아닌 섀도 AI로의 이동
- 단계 판정의 근거: 정책 문서의 존재가 아니라 승인 건수·처리 SLA·로그 보존 기간
- 실질 수준의 결정자: 총점이 아닌 5개 차원 중 최저 차원
- 90일의 목표: 최저 차원 하나를 한 단계 올리는 일
금지 공지는 위험을 없애지 않고 옮길 뿐입니다
가이드라인이 잘못 쓰인 걸까, 직원들이 문제인 걸까. 둘 다 아니다. 금지 공지는 위험을 없앤 게 아니라 보이지 않는 곳으로 옮겼습니다. 관리 밖 사용을 섀도 AI라고 부른다. 통제가 강해질수록 더 깊이 숨는다. 고객사 견적서가 외부 챗봇에 붙여넣어진 정황이 드러나면, 회사는 결국 도메인 전면 차단이라는 가장 무딘 카드를 꺼냅니다.
통제와 활용을 시소로 보는 관점부터 버려야 합니다. 둘은 단계에 따라 최적 배합이 달라지는 두 개의 다이얼이죠. 정책 한 장으로 버티는 조직은 통제를 올리면 활용이 죽는다. 로그와 승인 흐름이 갖춰진 조직은 통제를 올려도 활용이 함께 늡니다.
AI 거버넌스 성숙도가 낮은 조직에는 증상이 함께 옵니다. PDF는 어딘가 있지만 최근 6개월 열람 기록이 없고, 누가 어떤 데이터를 어디에 넣었는지 볼 로그가 없다. 물어볼 창구도 없으니 실무자는 묻지 않고 그냥 쓴다. 대안 없는 금지는 사용량을 줄이지 않는다. 로그만 줄입니다.
존슨앤드존슨에서 북아시아 마케팅을 총괄하며 디지털 가이드라인을 세울 때도 그랬다. 가장 오래 붙들었던 일은 금지 항목을 늘리는 게 아니었습니다. 실무자가 스스로 판단할 기준과 물어볼 창구를 만드는 일이었죠. 이후 40곳 넘는 기업·기관 교육에서도 같았습니다. 금지 목록이 긴 조직일수록 현장은 더 조용히, 더 위험하게 씁니다.
그 배합을 단계별로 어떻게 다르게 잡는지가 5단계 표에서 갈립니다.
AI 거버넌스 성숙도 5단계, 증거로 판정합니다
기준은 선언이 아니라 숫자다. 승인 요청 건수, 처리 SLA, 로그 보존 기간처럼 꺼낼 수 있는 게 있어야 그 단계입니다.
| 레벨 | 상태 | 관찰 가능한 증거 | 통제:자율 |
|---|---|---|---|
| L1 | 무자각 | 사용 로그 0건, 승인 창구 없음, 사용자 수 파악 불가 | 0:100 |
| L2 | 반응형 | 금지 공지는 있으나 위반 탐지 수단 없음, 예외 승인 SLA 미정의 | 80:20 |
| L3 | 정형화 | 승인 요청 월별 집계, 처리 SLA 명시(예: 5영업일), 인시던트 절차 문서 존재 | 60:40 |
| L4 | 통합형 | 프롬프트·응답 로그 자동 수집, 모델·프롬프트 버전 관리, 평균 대응 시간 측정 | 50:50 |
| L5 | 적응형 | 에이전트별 권한 범위·행동 로그·롤백 기준 정의, 정기 감사 리포트 발행 | 40:60 |
대부분의 조직은 예상보다 한 단계 아래에 있다. L1~L2에서 정책 문서를 두껍게 쓰는 건 순서가 틀렸습니다. 먼저 할 일은 데이터 등급 세 줄과 예외 승인 창구 하나. “고객 개인정보·미공개 재무·계약 원문은 외부 입력 금지, 나머지는 허용”이면 시작됩니다.
여기에 회사 계정으로 쓸 기업용 도구를 하나라도 열어야 섀도 AI가 줍니다. AWS의 생성형 AI 성숙도 수준 정의도 초기 단계의 핵심을 실험의 통제된 허용으로 잡습니다.
L3에서 L4로 가는 분기점은 사람이 읽는 규칙을 시스템이 집행하는 규칙으로 바꾸는 것. 모델 레지스트리와 데이터 리니지 같은 기록들이 그 일을 합니다. Databricks의 거버넌스 성숙도 매트릭스도 상위 단계 조건으로 통제 자동화와 자산 가시성을 꼽습니다.
흔한 실패는 2단계에서 4단계로 건너뛰는 시도다. 등급 분류와 승인 SLA 없이 모니터링 솔루션부터 사면, 로그는 쌓이는데 위반인지 판정할 기준이 없다. 대시보드만 남는다. 기준은 5개 차원 채점으로 확정하고, 예산 논리는 AI 교육 품의서 작성법의 5개 항목 구조를 응용하면 통과 확률이 달라집니다.
5개 차원 25점 자가진단: 최저 차원이 조직의 실질 수준입니다
하나의 숫자로 뭉뚱그리지 않고 다섯으로 쪼갠다. 각 5점, 총 25점입니다.
- 정책·가이드라인 — 1점 문서 없음 / 3점 문서와 교육 1회 이상 / 5점 연 1회 개정과 신규 입사자 필수 과정 편입
- 리스크·규제 대응 — 1점 담당자 미지정 / 3점 주요 규제 목록화 / 5점 규제 조항과 내부 통제를 이은 AI 리스크 관리 체계 크로스워크 운영
- 데이터·모델 라이프사이클 — 1점 등급 분류 없음 / 3점 등급 분류표 배포 / 5점 레지스트리·리니지로 자산 추적
- 조직·역할(RACI) — 1점 담당 부서 불명확 / 3점 주관 부서 지정 / 5점 의사결정별 책임자 확정
- 모니터링·감사 — 1점 로그 없음 / 3점 일부 도구 로그 / 5점 전 채널 로그와 정기 감사 리포트
중요한 건 평균이 아니라 최소 차원의 법칙이다. 정책이 5점이어도 모니터링이 1점이면 실질 수준은 1점대. 위반을 확인할 수 없는 정책은 집행되지 않는 정책입니다.
- 5~10점 — 데이터 등급 분류표와 예외 승인 창구부터. 도구 구매는 뒤로 미룹니다.
- 11~17점 — 기업용 계정 통합과 로그 수집 범위 확정, 그리고 RACI 문서화로 승인 지연을 없앱니다.
- 18~25점 — 자동 차단 규칙, 정기 감사, 에이전트 권한 관리. Kearney의 글로벌 AI 진단(AIA)처럼 성과 지표와 거버넌스 지표를 같이 보는 구간입니다.
가장 흔한 편차는 정책 5점, 모니터링 0점 조합. 교정 순서는 정책 보완이 아니라 로그 → RACI → 정책 개정입니다. 채점은 법무·정보보안·현업 팀장 각 1명이 독립으로 매기고 편차를 회의에서 조정하면, 그 편차 자체가 안건이 됩니다.
AMI 점수와 8차원 강점·병목 뱃지, 병목 차원의 30/60/90일 로드맵까지 필요하면 정밀 진단이 그다음을 채웁니다. 진단·품의 절차는 기업 AI 교육 도입 8단계 로드맵과 묶어 돌리면 중복이 준다. 거버넌스 밖 나머지 축은 AI 활용 성숙도 5단계 가이드에서 이어집니다.
규제는 점수를 묻지 않고 산출물을 묻습니다
규제는 성숙도 점수를 요구하지 않는다. 특정 문서와 기록이 있느냐를 묻는다. 대응은 조항 암기가 아니라 번역 작업에 가깝습니다.
| 규제·기준 | 만들어야 할 산출물 | 주관 |
|---|---|---|
| EU AI Act | 유스케이스 등급 분류표, 시스템 기술문서 | 법무 + 사업부 |
| NIST AI RMF | AI 리스크 레지스터, 측정 지표 정의서 | 정보보안 + CoE |
| ISO/IEC 42001 | AI 정책서, 영향평가 양식, 내부감사 기록 | 품질·감사 |
| AI기본법 | 고영향 판단 체크리스트, 산출물 표시 규칙 | 법무 + 홍보·서비스 |
| 개인정보보호 가이드라인 | 데이터 등급 기준서, 프롬프트 입력 금지 항목 | CPO |
EU AI Act는 EU 시장에 AI 시스템을 공급하거나 산출물이 EU 역내에서 쓰이면 역외 적용된다. AI기본법의 핵심은 고영향 AI 해당 여부 확인과 산출물 표시 의무입니다. 세부는 시행령·고시로 구체화되는 중이라 최신 원문 확인이 필요합니다.
외부 프레임워크는 통째로 쓰지 않는 편이 낫다. Databricks 5단계, AWS 4단계, IBM의 차원형 프레임워크, Kearney의 벤치마킹형 진단은 강점이 다릅니다. 5차원 스코어카드를 축으로 고정하고 판정 문장만 셀에 빌려오면, 프레임워크를 바꿔도 점수 이력이 끊기지 않습니다.
직역하면 어긋나는 지점도 있다. 원문의 AI Governance Board는 국내에서 기존 정보보호위원회나 리스크관리위원회 안건으로 붙습니다. 법무는 사전 자문이 아니라 사후 결재선으로 들어온다. 인사평가·근태에 AI를 적용할 때는 노사 협의가 별도로 붙습니다.
허용 매트릭스와 SLA가 박힌 RACI 한 장
사람은 하지 말라는 문장보다 해도 된다는 표를 읽는다. AI 사용 가이드라인 수립의 실질은 데이터 등급 × 도구 등급 교차표입니다. 공개·내부·기밀·개인정보를 행으로, 사내 승인 도구·조건부 허용·금지를 열로. 내부 자료는 부서장 승인, 기밀은 담당 임원 승인과 로그 보존, 개인정보는 가명처리 후 CPO 승인으로 칸이 채워집니다.
RACI는 의사결정 지점별로 끊어야 굴러갑니다. 신규 도구 도입(R 정보보안 / A CIO), 고위험 유스케이스 승인(R AI CoE / A 사업부장), 인시던트 대응(R 정보보안 / A CISO). 이 지점만이라도 실명으로 적으면 시작됩니다.
가장 자주 무너지는 칸은 SLA다. 승인 기한이 없으면 현업은 개인 계정으로 우회합니다. 신규 도구 5영업일, 인시던트 인지 후 24시간처럼 숫자를 정책에 박고 초과 건수를 분기 리뷰 지표로 봅니다.
정책이 시스템 통제로 넘어가려면 기록이 붙어야 합니다. 모델 레지스트리는 어떤 모델이 누구 승인으로 어디에 배포됐는지, 프롬프트·출력 로그는 문제가 된 답변이 어떤 입력에서 나왔는지, 데이터 리니지는 근거 데이터의 출처를 증명한다. 생성형 AI 보안 정책이라면 RAG 소스 권한 동기화와 벤더 API의 학습 옵트아웃 확인이 더 붙습니다.
감사에서 실제로 요구되는 증적은 유스케이스 목록과 위험 등급 판정 근거, 승인 이력, 모델·프롬프트 버전, 위탁 현황, 인시던트 기록, 교육 이수 로그입니다. 규제별 대응은 앞의 크로스워크 표와 맞춰 보면 된다.
AI 윤리 정책이 문서로 죽지 않게 하려면 고리가 둘 필요합니다. 온보딩 체크리스트에 가이드라인 확인 항목을 넣는 것, 분기마다 예외 승인 건과 인시던트를 근거로 개정하는 것입니다.
90일 로드맵: 한 분기에 한 단계, 한 차원만
성숙도는 한 번에 두 단계씩 오르지 않는다. 아래 AI 거버넌스 로드맵은 L2~3 조직이 L3~4로 옮겨가는 기준입니다.
- 0~30일 — 스코어카드로 기준선 측정(3인 독립 채점), 도메인 접속 로그와 익명 설문으로 섀도 AI 실태 조사, 도구 화이트리스트를 전면 허용·조건부·금지로 확정, 경영진 보고 1회.
- 31~60일 — 가이드라인 v1 배포(완성도보다 속도, 분기 개정을 첫 장에 명시), RACI 3지점 실명 확정, 승인 프로세스 가동(신청 양식 1장·심사 기준 5개·SLA 5영업일), 온보딩 연계.
- 61~90일 — 로그 수집 지점 통합(어려우면 고위험 3건부터), 인시던트 훈련 1회로 탐지→차단→통보→보고 시간 측정, 재측정 후 다음 분기 목표를 1개 차원으로 좁히기.
지표는 다섯이면 충분하다. 승인 SLA 준수율, 정책 인지율, 섀도 AI 감소율, 인시던트 평균 대응 시간, 승인된 유스케이스 누적 건수.
인력은 300명 미만이면 겸직 0.5FTE, 300~2,000명은 전담 1~2명에 법무·정보보안 파트타임, 2,000명 이상은 CoE 안에 거버넌스 트랙 3명 이상. 예산 항목과 환급은 기업 AI 교육 비용과 환급 활용법에서 이어집니다.
90일을 돌리면 수준이 “문서가 있다”에서 “기록이 남는다”로 바뀝니다. 남는 과제는 마지막 섹션에서, 자주 나오는 질문은 바로 아래에 모았습니다.
AI 거버넌스 성숙도 자주 묻는 질문
거버넌스 성숙도 모델은 몇 단계인가요?
프레임워크마다 다르고 대부분 4~5단계입니다. Databricks는 5단계, AWS는 4단계로 나누고 IBM은 단계보다 차원 축을 중시하죠. 이 글의 5단계는 국내 승인 절차에 맞춰 재정렬한 것입니다. 비교 문단을 볼 때도 단계 이름이 아니라 판별 증거로 매핑하는 편이 안전합니다.
생성형 AI 거버넌스는 기존 AI 거버넌스와 무엇이 다릅니까?
통제 축이 모델 개발에서 입력·출력과 벤더 의존성으로 옮겨갑니다. 모델을 외부에서 빌려 쓰기 때문이죠. 프롬프트에 무엇이 들어갔는지, 산출물을 누가 검증했는지, API가 우리 데이터를 학습에 쓰지 않는지가 통제 대상이 됩니다. 에이전틱 AI로 넘어가면 자율 실행 범위의 사전 승인 항목이 추가됩니다.
가이드라인을 만들었는데 안 지켜지면 어떻게 하나요?
금지 목록을 허용 매트릭스로 바꾸는 것이 첫 처방입니다. 승인된 조합을 표로 명시하고 예외 승인 SLA를 5영업일 이내로 못 박아 우회 유인을 줄인다. 이유는 금지 공지의 역설에서 이미 나왔습니다. 탐지 로그가 없으면 준수율은 영원히 추정치로 남습니다.
EU 사업이 없는데도 EU AI Act를 봐야 하나요?
사내 활용만 한다면 직접 적용 가능성은 낮습니다. 다만 EU 법인이나 고객사가 있으면 법이 아니라 계약서상 요구사항으로 먼저 들어옵니다. 등급 분류표를 미리 만들어 두면 그때 대응이 며칠로 끝난다.
최저 차원 하나를 올리는 것이 유일한 전진입니다
- 통제와 활용은 트레이드오프가 아니라 단계별 배합의 문제입니다.
- 총점이 아니라 최저 차원이 조직의 실질 수준을 결정합니다.
- 2단계에서 4단계로 건너뛰려는 시도가 실패의 대부분입니다.
오늘 할 첫 행동은 하나다. 사내에서 실제로 쓰이는 생성형 AI 도구 이름을 30분 안에 적을 수 있는 만큼 나열하고, 각각에 승인됨·조건부·미확인을 표시해 보시면 됩니다. 미확인 항목의 개수가 지금의 섀도 AI 규모입니다.
여기까지 하면 무엇이 통제 밖에 있는지는 보인다. 하지만 어느 차원이 병목인지는 안 보입니다. 교육 현장에서도 담당자는 미승인 도구 리스트를 들고 옵니다. 그게 정책 부재인지 승인 창구 부재인지 리더십 합의 부재인지 구분하지 못한 채 회의에 들어가죠. 그러면 논의는 매번 “일단 금지하자”로 끝납니다.
경영진 회의에서 “그래서 우리가 몇 단계냐”에 답을 못 하고 있다면, 지금이 그 상태입니다. AMI 점수 200~1,000점과 Lv.1~Lv.5 판정, 3계층 8차원 병목 뱃지, 그림자 AI형 같은 조직 유형 8종, 병목 차원의 30/60/90일 로드맵이 제출 즉시 웹 리포트로 나옵니다. 17문항 5분 진단은 무료이고 로그인이 없다. 이메일을 남기면 같은 리포트를 메일로도 받아 품의서에 첨부할 수 있습니다. 예산 단계로 넘어가신다면 함께 읽으면 좋은 글이 다음 순서입니다.