공지를 보낸 지 두 달째입니다.
옆자리 직원이 개인 휴대폰을 세워 두고 챗봇을 켠다. 사내 자료를 외부 AI에 넣지 말라는 메일은 전사에 나갔다. 아무도 항의하지 않았다. 더 조이면 다 숨을 것 같고, 풀어주면 사고가 날 것 같다. 그래서 어느 쪽으로도 못 움직인 채 한 분기가 지나갑니다.
실행 순서만 필요하면 90일 로드맵으로 바로 내려가시고, 우리 조직 점수부터 알고 싶다면 17문항 정밀 진단이 5분 안에 답을 돌려줍니다.
AI 거버넌스 성숙도 모델은 조직이 AI를 「얼마나 안전하게 쓰는가」를 정책 문서의 유무가 아니라 증거로 단계화하는 진단 틀입니다. 1단계 방임, 2단계 금지 공지, 3단계 허용 범위 문서화, 4단계 승인·로그가 돌아감, 5단계 측정과 개선이 주기로 돈다 — 이렇게 다섯입니다. 판정 기준은 「정책이 있는가」가 아니라 승인 건수·처리 SLA·로그 보존 기간입니다. 문서는 있는데 승인 기록이 없으면 2단계입니다.
핵심 요약
- 금지 공지의 실제 효과: 위험 제거가 아닌 섀도 AI로의 이동
- 단계 판정의 근거: 정책 문서의 존재가 아니라 승인 건수·처리 SLA·로그 보존 기간
- 실질 수준의 결정자: 총점이 아닌 5개 차원 중 최저 차원
- 90일의 목표: 최저 차원 하나를 한 단계 올리는 일
금지 공지는 위험을 없애지 않고 옮길 뿐입니다
가이드라인이 잘못 쓰인 걸까, 직원들이 문제인 걸까. 둘 다 아니다. 금지 공지는 위험을 없앤 게 아니라 보이지 않는 곳으로 옮겼습니다. 관리 밖 사용을 섀도 AI라고 부른다. 통제가 강해질수록 더 깊이 숨는다. 고객사 견적서가 외부 챗봇에 붙여넣어진 정황이 드러나면, 회사는 결국 도메인 전면 차단이라는 가장 무딘 카드를 꺼냅니다.
통제와 활용을 시소로 보는 관점부터 버려야 합니다. 둘은 단계에 따라 최적 배합이 달라지는 두 개의 다이얼이죠. 정책 한 장으로 버티는 조직은 통제를 올리면 활용이 죽는다. 로그와 승인 흐름이 갖춰진 조직은 통제를 올려도 활용이 함께 늡니다.
AI 거버넌스 성숙도가 낮은 조직에는 증상이 함께 옵니다. PDF는 어딘가 있지만 최근 6개월 열람 기록이 없고, 누가 어떤 데이터를 어디에 넣었는지 볼 로그가 없다. 물어볼 창구도 없으니 실무자는 묻지 않고 그냥 쓴다. 대안 없는 금지는 사용량을 줄이지 않는다. 로그만 줄입니다.
존슨앤드존슨에서 북아시아 마케팅을 총괄하며 디지털 가이드라인을 세울 때도 그랬다. 가장 오래 붙들었던 일은 금지 항목을 늘리는 게 아니었습니다. 실무자가 스스로 판단할 기준과 물어볼 창구를 만드는 일이었죠. 이후 40곳 넘는 기업·기관 교육에서도 같았습니다. 금지 목록이 긴 조직일수록 현장은 더 조용히, 더 위험하게 씁니다.
그 배합을 단계별로 어떻게 다르게 잡는지가 5단계 표에서 갈립니다.
AI 거버넌스 성숙도 5단계, 증거로 판정합니다
기준은 선언이 아니라 숫자다. 승인 요청 건수, 처리 SLA, 로그 보존 기간처럼 꺼낼 수 있는 게 있어야 그 단계입니다.
| 레벨 | 상태 | 관찰 가능한 증거 | 통제:자율 |
|---|---|---|---|
| L1 | 무자각 | 사용 로그 0건, 승인 창구 없음, 사용자 수 파악 불가 | 0:100 |
| L2 | 반응형 | 금지 공지는 있으나 위반 탐지 수단 없음, 예외 승인 SLA 미정의 | 80:20 |
| L3 | 정형화 | 승인 요청 월별 집계, 처리 SLA 명시(예: 5영업일), 인시던트 절차 문서 존재 | 60:40 |
| L4 | 통합형 | 프롬프트·응답 로그 자동 수집, 모델·프롬프트 버전 관리, 평균 대응 시간 측정 | 50:50 |
| L5 | 적응형 | 에이전트별 권한 범위·행동 로그·롤백 기준 정의, 정기 감사 리포트 발행 | 40:60 |
대부분의 조직은 예상보다 한 단계 아래에 있다. L1~L2에서 정책 문서를 두껍게 쓰는 건 순서가 틀렸습니다. 먼저 할 일은 데이터 등급 세 줄과 예외 승인 창구 하나. “고객 개인정보·미공개 재무·계약 원문은 외부 입력 금지, 나머지는 허용”이면 시작됩니다.
여기에 회사 계정으로 쓸 기업용 도구를 하나라도 열어야 섀도 AI가 줍니다. AWS의 생성형 AI 성숙도 수준 정의도 초기 단계의 핵심을 실험의 통제된 허용으로 잡습니다.
L3에서 L4로 가는 분기점은 사람이 읽는 규칙을 시스템이 집행하는 규칙으로 바꾸는 것. 모델 레지스트리와 데이터 리니지 같은 기록들이 그 일을 합니다. Databricks의 거버넌스 성숙도 매트릭스도 상위 단계 조건으로 통제 자동화와 자산 가시성을 꼽습니다.
흔한 실패는 2단계에서 4단계로 건너뛰는 시도다. 등급 분류와 승인 SLA 없이 모니터링 솔루션부터 사면, 로그는 쌓이는데 위반인지 판정할 기준이 없다. 대시보드만 남는다. 기준은 5개 차원 채점으로 확정하고, 예산 논리는 AI 교육 품의서 작성법의 5개 항목 구조를 응용하면 통과 확률이 달라집니다.
5개 차원 25점 자가진단: 최저 차원이 조직의 실질 수준입니다
하나의 숫자로 뭉뚱그리지 않고 다섯으로 쪼갠다. 각 5점, 총 25점입니다.
- 정책·가이드라인 — 1점 문서 없음 / 3점 문서와 교육 1회 이상 / 5점 연 1회 개정과 신규 입사자 필수 과정 편입
- 리스크·규제 대응 — 1점 담당자 미지정 / 3점 주요 규제 목록화 / 5점 규제 조항과 내부 통제를 이은 AI 리스크 관리 체계 크로스워크 운영
- 데이터·모델 라이프사이클 — 1점 등급 분류 없음 / 3점 등급 분류표 배포 / 5점 레지스트리·리니지로 자산 추적
- 조직·역할(RACI) — 1점 담당 부서 불명확 / 3점 주관 부서 지정 / 5점 의사결정별 책임자 확정
- 모니터링·감사 — 1점 로그 없음 / 3점 일부 도구 로그 / 5점 전 채널 로그와 정기 감사 리포트
중요한 건 평균이 아니라 최소 차원의 법칙이다. 정책이 5점이어도 모니터링이 1점이면 실질 수준은 1점대. 위반을 확인할 수 없는 정책은 집행되지 않는 정책입니다.
- 5~10점 — 데이터 등급 분류표와 예외 승인 창구부터. 도구 구매는 뒤로 미룹니다.
- 11~17점 — 기업용 계정 통합과 로그 수집 범위 확정, 그리고 RACI 문서화로 승인 지연을 없앱니다.
- 18~25점 — 자동 차단 규칙, 정기 감사, 에이전트 권한 관리. Kearney의 글로벌 AI 진단(AIA)처럼 성과 지표와 거버넌스 지표를 같이 보는 구간입니다.
가장 흔한 편차는 정책 5점, 모니터링 0점 조합. 교정 순서는 정책 보완이 아니라 로그 → RACI → 정책 개정입니다. 채점은 법무·정보보안·현업 팀장 각 1명이 독립으로 매기고 편차를 회의에서 조정하면, 그 편차 자체가 안건이 됩니다.
AMI 점수와 8차원 강점·병목 뱃지, 병목 차원의 30/60/90일 로드맵까지 필요하면 정밀 진단이 그다음을 채웁니다. 진단·품의 절차는 기업 AI 교육 도입 8단계 로드맵과 묶어 돌리면 중복이 준다. 거버넌스 밖 나머지 축은 AI 활용 성숙도 5단계 가이드에서 이어집니다.
국내 36곳을 재 보니, 거버넌스는 문서가 아니라 사람 머리에 있었습니다
글로벌 프레임워크로는 안 보이는 것이 하나 있습니다. 한국 조직은 「검증」은 잘하는데 「남기기」를 안 합니다. 저희가 국내 36개 조직의 AI 활용 상태를 여덟 항목으로 재 봤더니, 가장 높은 항목과 가장 낮은 항목이 늘 같은 쌍이었습니다.
| 여덟 항목 중 | 점수 | 무슨 뜻인가 |
|---|---|---|
| 가장 높음 — 검증·신뢰 | 91.4 | AI가 뱉은 것을 꼼꼼히 확인한다. 출처를 따지고 틀린 걸 잡아낸다 |
| 가장 낮음 — 자산화·공유 | 63.1 | 그 검증 과정을 저장하거나 남에게 넘기지 않는다 |
이 두 숫자를 나란히 놓으면 거버넌스 관점에서 이상한 그림이 나옵니다. 사람들은 이미 잘 통제하고 있습니다. 다만 그 통제가 조직에 남지 않습니다.
잘 쓰는 직원 한 명이 어떤 자료는 넣어도 되고 어떤 자료는 안 되는지 감으로 알고 있습니다. 그 감은 그 사람 머릿속에만 있습니다. 옆자리로도, 다음 분기로도 넘어가지 않습니다. 그래서 그 사람이 팀을 옮기면 조직의 거버넌스 수준이 통째로 내려갑니다.
왜 이게 3단계의 벽인가
앞의 5단계로 보면 이 상태가 정확히 2단계와 3단계 사이입니다. 금지 공지는 나갔고(2단계), 실무에서는 알아서 잘 판단하고 있습니다. 그런데 그 판단이 문서·로그·승인 기록 어디에도 안 남습니다. 증거가 없으니 3단계로 올라가지 못합니다.
Databricks·IBM·AWS 모델은 이 지점을 잘 안 짚습니다. 영문 원문이 상정하는 조직은 정책을 만들면 기록이 따라 남는 구조이기 때문입니다. 한국 조직에서는 기록이 따로 설계되지 않으면 안 남습니다.
| 지금 상태 | 3단계로 올라가는 최소 조치 |
|---|---|
| 잘 쓰는 사람의 판단이 머리에만 있음 | 그 사람에게 「넣어도 되는 것/안 되는 것」 한 장을 받아 공용 문서로 올린다 |
| 예외 요청을 구두·메신저로 처리 | 한 줄짜리 승인 기록 양식을 만들고 날짜·요청자·판단 근거만 남긴다 |
| 사고가 안 나서 괜찮다고 봄 | 로그 보존 기간을 정한다. 기간이 정해지지 않은 로그는 없는 로그다 |
셋 다 새 시스템이 필요 없습니다. 거버넌스의 3단계는 도구를 사는 일이 아니라 머릿속에 있는 것을 꺼내 적게 하는 일입니다. 저희가 36곳에서 본 바로는 여기서 막히는 조직이 가장 많았습니다.
규제는 점수를 묻지 않고 산출물을 묻습니다
규제는 성숙도 점수를 요구하지 않는다. 특정 문서와 기록이 있느냐를 묻는다. 대응은 조항 암기가 아니라 번역 작업에 가깝습니다.
| 규제·기준 | 만들어야 할 산출물 | 주관 |
|---|---|---|
| EU AI Act | 유스케이스 등급 분류표, 시스템 기술문서 | 법무 + 사업부 |
| NIST AI RMF | AI 리스크 레지스터, 측정 지표 정의서 | 정보보안 + CoE |
| ISO/IEC 42001 | AI 정책서, 영향평가 양식, 내부감사 기록 | 품질·감사 |
| AI기본법 | 고영향 판단 체크리스트, 산출물 표시 규칙 | 법무 + 홍보·서비스 |
| 개인정보보호 가이드라인 | 데이터 등급 기준서, 프롬프트 입력 금지 항목 | CPO |
EU AI Act는 EU 시장에 AI 시스템을 공급하거나 산출물이 EU 역내에서 쓰이면 역외 적용된다. AI기본법의 핵심은 고영향 AI 해당 여부 확인과 산출물 표시 의무입니다. 세부는 시행령·고시로 구체화되는 중이라 최신 원문 확인이 필요합니다.
외부 프레임워크는 통째로 쓰지 않는 편이 낫다. Databricks 5단계, AWS 4단계, IBM의 차원형 프레임워크, Kearney의 벤치마킹형 진단은 강점이 다릅니다. 5차원 스코어카드를 축으로 고정하고 판정 문장만 셀에 빌려오면, 프레임워크를 바꿔도 점수 이력이 끊기지 않습니다.
직역하면 어긋나는 지점도 있다. 원문의 AI Governance Board는 국내에서 기존 정보보호위원회나 리스크관리위원회 안건으로 붙습니다. 법무는 사전 자문이 아니라 사후 결재선으로 들어온다. 인사평가·근태에 AI를 적용할 때는 노사 협의가 별도로 붙습니다.
허용 매트릭스와 SLA가 박힌 RACI 한 장
사람은 하지 말라는 문장보다 해도 된다는 표를 읽는다. AI 사용 가이드라인 수립의 실질은 데이터 등급 × 도구 등급 교차표입니다. 공개·내부·기밀·개인정보를 행으로, 사내 승인 도구·조건부 허용·금지를 열로. 내부 자료는 부서장 승인, 기밀은 담당 임원 승인과 로그 보존, 개인정보는 가명처리 후 CPO 승인으로 칸이 채워집니다.
RACI는 의사결정 지점별로 끊어야 굴러갑니다. 신규 도구 도입(R 정보보안 / A CIO), 고위험 유스케이스 승인(R AI CoE / A 사업부장), 인시던트 대응(R 정보보안 / A CISO). 이 지점만이라도 실명으로 적으면 시작됩니다.
가장 자주 무너지는 칸은 SLA다. 승인 기한이 없으면 현업은 개인 계정으로 우회합니다. 신규 도구 5영업일, 인시던트 인지 후 24시간처럼 숫자를 정책에 박고 초과 건수를 분기 리뷰 지표로 봅니다.
정책이 시스템 통제로 넘어가려면 기록이 붙어야 합니다. 모델 레지스트리는 어떤 모델이 누구 승인으로 어디에 배포됐는지, 프롬프트·출력 로그는 문제가 된 답변이 어떤 입력에서 나왔는지, 데이터 리니지는 근거 데이터의 출처를 증명한다. 생성형 AI 보안 정책이라면 RAG 소스 권한 동기화와 벤더 API의 학습 옵트아웃 확인이 더 붙습니다.
감사에서 실제로 요구되는 증적은 유스케이스 목록과 위험 등급 판정 근거, 승인 이력, 모델·프롬프트 버전, 위탁 현황, 인시던트 기록, 교육 이수 로그입니다. 규제별 대응은 앞의 크로스워크 표와 맞춰 보면 된다.
AI 윤리 정책이 문서로 죽지 않게 하려면 고리가 둘 필요합니다. 온보딩 체크리스트에 가이드라인 확인 항목을 넣는 것, 분기마다 예외 승인 건과 인시던트를 근거로 개정하는 것입니다.
90일 로드맵: 한 분기에 한 단계, 한 차원만
성숙도는 한 번에 두 단계씩 오르지 않는다. 아래 AI 거버넌스 로드맵은 L2~3 조직이 L3~4로 옮겨가는 기준입니다.
- 0~30일 — 스코어카드로 기준선 측정(3인 독립 채점), 도메인 접속 로그와 익명 설문으로 섀도 AI 실태 조사, 도구 화이트리스트를 전면 허용·조건부·금지로 확정, 경영진 보고 1회.
- 31~60일 — 가이드라인 v1 배포(완성도보다 속도, 분기 개정을 첫 장에 명시), RACI 3지점 실명 확정, 승인 프로세스 가동(신청 양식 1장·심사 기준 5개·SLA 5영업일), 온보딩 연계.
- 61~90일 — 로그 수집 지점 통합(어려우면 고위험 3건부터), 인시던트 훈련 1회로 탐지→차단→통보→보고 시간 측정, 재측정 후 다음 분기 목표를 1개 차원으로 좁히기.
지표는 다섯이면 충분하다. 승인 SLA 준수율, 정책 인지율, 섀도 AI 감소율, 인시던트 평균 대응 시간, 승인된 유스케이스 누적 건수.
인력은 300명 미만이면 겸직 0.5FTE, 300~2,000명은 전담 1~2명에 법무·정보보안 파트타임, 2,000명 이상은 CoE 안에 거버넌스 트랙 3명 이상. 예산 항목과 환급은 기업 AI 교육 비용과 환급 활용법에서 이어집니다.
90일을 돌리면 수준이 “문서가 있다”에서 “기록이 남는다”로 바뀝니다. 남는 과제는 마지막 섹션에서, 자주 나오는 질문은 바로 아래에 모았습니다.
AI 거버넌스 성숙도 자주 묻는 질문
AI 거버넌스 성숙도 모델이란 무엇인가요?
조직이 AI를 얼마나 안전하게 쓰는지를 정책 문서의 유무가 아니라 증거로 단계화하는 진단 틀입니다. 방임 → 금지 공지 → 허용 범위 문서화 → 승인·로그 운영 → 측정과 개선의 다섯 단계로 봅니다. 판정은 「정책이 있는가」가 아니라 승인 건수·처리 SLA·로그 보존 기간으로 합니다. 문서는 있는데 승인 기록이 없으면 2단계입니다.
Databricks·IBM·AWS 모델과 무엇이 다릅니까?
축은 비슷하고 전제가 다릅니다. 영문 원문은 정책을 만들면 기록이 따라 남는 조직을 상정합니다. 국내 36개 조직을 재 보니 검증·신뢰는 91.4점인데 자산화·공유가 63.1점이었습니다. 잘 통제하면서 그 통제를 안 남깁니다. 그래서 이 글은 단계 정의보다 증거를 남기게 하는 최소 조치에 무게를 둡니다. 모델 자체를 고르는 문제라면 IBM·AWS·Microsoft 성숙도 모델 비교를 보십시오 — 그쪽이 모델 선택, 이 글이 거버넌스 단독 진단입니다.
거버넌스 성숙도 모델은 몇 단계인가요?
프레임워크마다 다르고 대부분 4~5단계입니다. Databricks는 5단계, AWS는 4단계로 나누고 IBM은 단계보다 차원 축을 중시하죠. 이 글의 5단계는 국내 승인 절차에 맞춰 재정렬한 것입니다. 비교 문단을 볼 때도 단계 이름이 아니라 판별 증거로 매핑하는 편이 안전합니다.
생성형 AI 거버넌스는 기존 AI 거버넌스와 무엇이 다릅니까?
통제 축이 모델 개발에서 입력·출력과 벤더 의존성으로 옮겨갑니다. 모델을 외부에서 빌려 쓰기 때문이죠. 프롬프트에 무엇이 들어갔는지, 산출물을 누가 검증했는지, API가 우리 데이터를 학습에 쓰지 않는지가 통제 대상이 됩니다. 에이전틱 AI로 넘어가면 자율 실행 범위의 사전 승인 항목이 추가됩니다.
가이드라인을 만들었는데 안 지켜지면 어떻게 하나요?
금지 목록을 허용 매트릭스로 바꾸는 것이 첫 처방입니다. 승인된 조합을 표로 명시하고 예외 승인 SLA를 5영업일 이내로 못 박아 우회 유인을 줄인다. 이유는 금지 공지의 역설에서 이미 나왔습니다. 탐지 로그가 없으면 준수율은 영원히 추정치로 남습니다.
EU 사업이 없는데도 EU AI Act를 봐야 하나요?
사내 활용만 한다면 직접 적용 가능성은 낮습니다. 다만 EU 법인이나 고객사가 있으면 법이 아니라 계약서상 요구사항으로 먼저 들어옵니다. 등급 분류표를 미리 만들어 두면 그때 대응이 며칠로 끝난다.
최저 차원 하나를 올리는 것이 유일한 전진입니다
- 통제와 활용은 트레이드오프가 아니라 단계별 배합의 문제입니다.
- 총점이 아니라 최저 차원이 조직의 실질 수준을 결정합니다.
- 2단계에서 4단계로 건너뛰려는 시도가 실패의 대부분입니다.
오늘 할 첫 행동은 하나다. 사내에서 실제로 쓰이는 생성형 AI 도구 이름을 30분 안에 적을 수 있는 만큼 나열하고, 각각에 승인됨·조건부·미확인을 표시해 보시면 됩니다. 미확인 항목의 개수가 지금의 섀도 AI 규모입니다.
여기까지 하면 무엇이 통제 밖에 있는지는 보인다. 하지만 어느 차원이 병목인지는 안 보입니다. 교육 현장에서도 담당자는 미승인 도구 리스트를 들고 옵니다. 그게 정책 부재인지 승인 창구 부재인지 리더십 합의 부재인지 구분하지 못한 채 회의에 들어가죠. 그러면 논의는 매번 “일단 금지하자”로 끝납니다.
경영진 회의에서 “그래서 우리가 몇 단계냐”에 답을 못 하고 있다면, 지금이 그 상태입니다. AMI 점수 200~1,000점과 Lv.1~Lv.5 판정, 3계층 8차원 병목 뱃지, 그림자 AI형 같은 조직 유형 8종, 병목 차원의 30/60/90일 로드맵이 제출 즉시 웹 리포트로 나옵니다. 17문항 5분 진단은 무료이고 로그인이 없다. 이메일을 남기면 같은 리포트를 메일로도 받아 품의서에 첨부할 수 있습니다. 예산 단계로 넘어가신다면 함께 읽으면 좋은 글이 다음 순서입니다.
이 내용을 우리 회사 상황에 맞춰 이야기하고 싶다면 — 문의를 남겨 주세요. 24시간 안에 대표가 직접 답하고, 문의하신 분께는 전자책 《우리 회사 AI는 왜 2단계에서 멈췄을까》를 무료로 드립니다. 먼저 보고 결정하고 싶다면 다음 무료 라이브 특강을 예약해 두세요. 날짜가 잡히면 가장 먼저 알려드립니다.