Ch3. 프라이버시와 개인정보 보호

AI는 데이터를 많이 필요로 한다

AI는 많은 사례에서 패턴을 배웁니다. 문제는 그 데이터 안에 개인의 말, 행동, 위치, 구매, 건강, 업무 정보가 들어갈 수 있다는 점입니다. 특히 생성형 AI에 민감한 문서를 그대로 입력하면, 조직 밖 서비스에 정보가 전달될 가능성까지 고려해야 합니다.

프라이버시는 단순히 비밀을 숨기는 권리가 아닙니다. 자신의 정보가 어떤 목적으로 수집되고, 어떻게 사용되며, 누구에게 공유되는지 이해하고 통제할 수 있는 권리와 관련됩니다.

---

개인정보 보호의 기본 질문

단계	확인 질문
수집	이 정보가 꼭 필요한가?
입력	민감정보가 모델이나 외부 도구에 들어가나?
저장	어디에 얼마나 오래 보관되는가?
공유	제3자나 협력사가 접근하는가?
삭제	사용자가 삭제나 정정을 요청할 수 있는가?

이 질문은 복잡한 법률 검토 이전에도 누구나 실무에서 사용할 수 있는 점검표입니다.

---

재식별과 추론의 위험

이름을 지웠다고 개인정보 위험이 사라지는 것은 아닙니다. 지역, 나이, 직업, 시간대, 희귀한 행동 기록이 결합되면 특정 사람을 추정할 수 있습니다. AI는 이런 조합에서 사람이 예상하지 못한 패턴을 찾아낼 수 있기 때문에 재식별 위험을 더 신중하게 봐야 합니다.

또한 모델이 직접 개인정보를 저장하지 않아도, 입력된 데이터에서 민감한 속성을 추론할 수 있습니다. 예를 들어 구매 패턴이나 검색 기록만으로 건강 상태나 생활 습관을 짐작할 수 있습니다.

---

규정 준수와 사용자 기대

개인정보 보호 법과 규제는 국가, 지역, 산업, 시기에 따라 다르고 계속 변할 수 있습니다. 따라서 실제 서비스에서는 최신 기준을 확인해야 합니다. 다만 변화와 무관하게 유지되는 원칙도 있습니다. 사용자가 예상하지 못한 방식으로 정보를 쓰지 않고, 필요한 범위를 넘어 수집하지 않으며, 문제가 생기면 설명하고 고칠 수 있어야 합니다.

법적으로 허용되는 처리라도 사용자가 불쾌하거나 불안하게 느끼면 신뢰가 무너질 수 있습니다. 프라이버시는 준수 항목이면서 동시에 관계의 문제입니다.

---

핵심 요약

• AI는 많은 데이터를 필요로 하므로 개인정보 위험을 처음부터 고려해야 한다.
• 수집, 입력, 저장, 공유, 삭제 단계마다 보호 질문을 던져야 한다.
• 이름을 지워도 여러 정보가 결합되면 재식별이나 민감 속성 추론이 가능할 수 있다.
• 개인정보 규정은 국가와 시기에 따라 달라지므로 최신 기준과 사용자 기대를 함께 봐야 한다.

다음 장에서는 AI가 내린 결과를 사람들이 이해할 수 있게 만드는 투명성과 설명가능성을 살펴봅니다.