이 문서를 통해 아래 질문들에 답할 수 있게 됩니다.
- AI 기능에서 개인정보는 어떤 경로로 이동하는가?
- provider 요청, 로그, vector DB, eval dataset을 어떻게 관리해야 하는가?
- 로그 마스킹과 원문 저장 정책은 어떻게 잡아야 하는가?
개요
AI 기능은 사용자 입력과 내부 문서를 모델 provider, 로그, vector DB, eval dataset으로 보낼 수 있다. 개인정보가 어디로 이동하고 어디에 저장되는지 문서화해야 한다.
데이터 흐름
확인할 위치:
- HTTP request
- prompt
- RAG context
- tool result
- provider request
- provider response
- application log
- trace
- vector DB
- eval dataset
- result DB
각 위치마다 보존 기간과 접근 권한을 정해야 한다.
최소화 원칙
- 모델에게 필요한 데이터만 보낸다.
- 로그에는 원문보다 id, hash, count, status를 남긴다.
- eval dataset은 익명화한다.
- vector DB에는 삭제 경로를 둔다.
- provider 데이터 정책을 확인한다.
코드로 이해하기
import re
def mask_pii(text: str) -> str:
text = re.sub(r"[\w\.-]+@[\w\.-]+", "[EMAIL]", text)
text = re.sub(r"\b\d{3}-\d{3,4}-\d{4}\b", "[PHONE]", text)
return text실제 운영에서는 정규식만으로 부족할 수 있지만, 최소한 로그 전 마스킹 계층은 필요하다.
로그 정책
기본 로그:
- prompt version
- source id
- token count
- validation status
- error type
제한 저장:
- prompt 원문
- context 원문
- tool result 전문
- 사용자 질문 원문
원문 저장이 필요하면 별도 보안 저장소, 접근 제어, 보존 기간, 샘플링을 둔다.
장애 상황과 대응
개인정보 노출 의심:
- 어떤 trace와 source에서 유출됐는지 확인한다.
- 로그와 vector DB 저장 여부를 확인한다.
- provider 전송 여부를 확인한다.
- 삭제와 통지 절차를 따른다.
- 재발 방지로 마스킹과 권한 테스트를 추가한다.
인프라 협업 포인트
인프라팀과 log retention, access control, secret manager, encrypted storage, data deletion workflow를 합의한다. 보안팀과 provider DPA나 데이터 사용 정책을 확인한다.
개인 프로젝트 최소 기준
- API key를 숨긴다.
- prompt/context 원문을 공개 로그에 남기지 않는다.
- 이메일과 전화번호 정도는 마스킹한다.
- eval dataset에 실제 개인정보를 넣지 않는다.
기업 운영 수준 기준
- 데이터 흐름도를 만든다.
- 개인정보 처리 근거와 보존 기간을 문서화한다.
- provider 정책과 계약을 검토한다.
- 삭제 요청이 vector DB와 eval dataset까지 반영되는지 확인한다.
실전 팁
- 로그에 남기지 않으면 디버깅이 어려워지므로 id와 trace를 잘 남긴다.
- 개인정보 탐지는 완벽하지 않으므로 데이터 최소화를 우선한다.
- eval dataset은 합성 데이터나 익명화 데이터를 선호한다.
위험 신호!
- prompt 전문이 일반 로그에 남는다.
- vector DB 삭제 절차가 없다.
- eval dataset에 운영 원문이 그대로 있다.
- provider 데이터 정책을 확인하지 않았다.
확인 질문
확인 질문
- AI 기능에서 개인정보가 저장될 수 있는 위치는 무엇인가?
- provider 요청/응답, 로그, trace, vector DB, eval dataset, result DB다.
- 원문 로그를 제한해야 하는 이유는 무엇인가?
- 민감정보와 내부 문서가 섞일 수 있고 접근자와 보존 기간이 넓어질 수 있기 때문이다.
Spring AI 적용 연결
- Spring AI 서비스에서는 prompt, tool result, retrieved document, trace log가 모두 개인정보 흐름이 될 수 있다. 운영 준비 체크는 12. Production Readiness와 인프라 협업에서 이어진다.
- 관측성 필드를 남기되 민감정보를 줄이는 기준은 11. Observability와 장애 대응 런북을 함께 본다.