Ch7. AI 거버넌스와 규제 동향(국가·시기별 상이함 명시)

거버넌스는 누가 어떻게 책임질지 정하는 일

AI 거버넌스는 AI를 만들고 쓰는 과정에서 책임, 절차, 기준을 정하는 체계입니다. 좋은 의도를 가진 팀이라도 기준이 없으면 데이터 사용, 모델 검토, 배포 승인, 사고 대응이 사람마다 달라집니다. 거버넌스는 이런 불확실성을 줄입니다.

거버넌스는 큰 기업만의 일이 아닙니다. 작은 조직도 AI 도구 사용 규칙, 민감정보 입력 금지, 결과 검토 기준, 외부 공개 전 확인 절차를 정할 수 있습니다.

---

규제는 국가와 시기에 따라 다르다

AI 관련 법, 가이드라인, 감독 방식은 국가, 지역, 산업, 시기에 따라 다르고 계속 바뀔 수 있습니다. 어떤 곳은 위험 수준별로 규제를 나누고, 어떤 곳은 개인정보와 소비자 보호 법체계 안에서 AI를 다루며, 어떤 곳은 산업별 지침을 먼저 적용할 수 있습니다.

따라서 이 장은 특정 법의 시행일이나 세부 수치를 외우기 위한 장이 아닙니다. 실제 서비스나 업무에 적용할 때는 해당 국가와 산업의 최신 공식 자료, 법률 검토, 조직 정책을 반드시 확인해야 합니다.

---

위험 기반 접근

많은 AI 거버넌스 논의는 위험 기반 접근을 사용합니다. 모든 AI를 같은 강도로 관리하기보다, 사람에게 미치는 영향이 큰 시스템을 더 엄격히 관리하는 방식입니다.

위험이 낮은 사용	위험이 높은 사용
문장 초안 작성 보조	채용, 대출, 의료 판단 보조
내부 아이디어 정리	개인 권리나 기회에 영향
공개 자료 요약	민감정보 처리
단순 분류 보조	자동화된 불이익 결정

위험이 높을수록 데이터 검토, 인간 감독, 기록 보존, 설명 가능성, 이의제기 절차가 더 중요해집니다.

---

조직 안의 최소 운영 원칙

조직은 AI를 도입할 때 다음과 같은 기본 원칙을 세울 수 있습니다.

1. AI 사용 가능 업무와 금지 업무를 구분한다.
2. 개인정보와 영업비밀 입력 기준을 정한다.
3. AI 결과를 사람이 검토해야 하는 상황을 정한다.
4. 오류와 피해가 발생했을 때 신고하고 수정하는 절차를 둔다.
5. 정책과 규제 변화에 맞춰 기준을 주기적으로 갱신한다.

거버넌스의 목적은 혁신을 막는 것이 아니라, 예측 가능한 방식으로 AI를 쓰게 하는 것입니다.

---

핵심 요약

• AI 거버넌스는 AI 사용의 책임, 절차, 기준을 정하는 체계다.
• AI 규제와 정책은 국가, 산업, 시기에 따라 다르고 변할 수 있다.
• 위험 기반 접근은 영향이 큰 AI를 더 엄격하게 관리하는 방식이다.
• 조직은 사용 범위, 개인정보 기준, 인간 검토, 사고 대응 절차를 최소한으로 정해야 한다.

다음 장에서는 개인과 조직이 책임 있는 AI 사용을 실천하는 구체적인 방법을 정리합니다.