AI SaaS를 도입할 때 가장 위험한 질문은 “유명한 서비스인가”가 아니라 “어떤 고객 데이터가 어디까지 이동하고, 문제가 생기면 누가 멈출 수 있는가”다. 2026년 8월 31일 확인한 개인정보보호위원회 모델은 구체적 용례 파악, 위험 식별·측정, 비례적 안전조치의 순서를 제시한다. 안내서의 모든 조치가 일률적 법적 의무라는 뜻은 아니다. 이 글도 법률 자문이 아니다. 고객 데이터를 넣기 전에 담당자가 증거를 모으고 보류 시점을 정하는 운영 점검표다.
제품보다 먼저 용례와 데이터 경계를 적는다
“상담에 AI를 쓴다”로는 판단할 수 없다. 고객 문의 요약, 환불 승인 추천, 계약서 검토처럼 업무 하나를 고르고 입력 주체, 데이터 종류, 출력 사용처, 자동 결정 여부, 잘못됐을 때의 피해, 최종 책임자를 적는다. 채용·신용·의료·법률 판단처럼 권리나 안전에 큰 영향을 주는 용례는 일반 구매 절차에서 승인하지 말고 법무·개인정보·보안 담당자의 별도 검토로 넘긴다.
데이터 흐름도는 고객 → 사내 앱 → AI 사업자 → 하위 처리업체·로그 → 사내 저장소 순서로 그린다. 각 화살표에 목적, 처리 지역, 보관 기간, 삭제 주체를 붙인다. “학습에 사용하지 않음”은 저장하지 않거나 직원이 열람하지 않는다는 뜻이 아니다. 서로 다른 질문으로 확인해야 한다.
여덟 칸을 판매 문구가 아닌 증거로 채운다
| 점검 항목 | 남겨야 할 증거 | 통과하지 못하면 |
|---|---|---|
| 용례·책임자 | 업무 설명, 최종 승인자 | 도입 검토 중단 |
| 데이터 최소화 | 허용·금지 데이터 목록 | 실제 고객 데이터 금지 |
| 처리 경로 | 지역·하위 처리업체 목록 | 합성 데이터만 허용 |
| 학습·보관 | 입력·출력·로그별 조건 | 미확인으로 표시 |
| 접근 통제 | 역할, 관리자, 감사 로그 | 쓰기 권한 차단 |
| 사고 대응 | 통지 창구·기한·담당자 | 제한 파일럿 보류 |
| 권리 행사 | 열람·정정·삭제 절차 | 개인정보 투입 중단 |
| 종료 가능성 | 반출·삭제·키 회수 증거 | 계약 승인 보류 |
NIST SP 1326은 2026년 7월 확정된 ICT 공급자 실사 안내서다. 공급자의 출처, 복원력, 기본 보안 관행, 공급망 단계 등을 조사해 신규 구매와 기존 시스템 판단에 쓰도록 한다. 인증 로고 하나로 끝내지 말고, 현재 구매하는 서비스·지역·기능이 감사 범위에 포함되는지 문서 버전과 함께 기록한다.
제한 파일럿은 실패를 안전하게 관찰해야 한다
첫 시험은 개인정보와 사내 기밀을 제거한 합성 데이터, 폐기 가능한 계정, 최소 권한으로 연다. 외부 발송·자동 삭제·결제·계정 변경 기능은 차단하고 결과는 사람이 승인한다. 테스트 계정에서 API 키 회수, 연결 해제, 데이터 내보내기, 삭제 요청을 실제로 실행해 요청 번호와 완료 확인을 남긴다.
영국 NCSC의 안전한 AI 배포 지침은 접근 통제, 환경 분리, 감사 로그와 사고 대응을 권고한다. 데이터의 사용·접근·저장 방식도 투명하게 설명하도록 요구한다. 문서가 있다는 사실보다 계약과 설정에서 확인되는지가 중요하다.
이 조건이면 즉시 멈춘다
- 처리 지역·하위 처리업체·보관 기간 중 하나라도 답을 얻지 못한 채 실제 고객 데이터를 요구한다.
- 관리자 계정 공유, 과도한 권한, 감사 로그 부재를 예외로 넘겨야만 시험할 수 있다.
- 사고 통지, 데이터 반출·삭제, 계약 종료 뒤 사본 처리 조건을 문서로 확인할 수 없다.
- 약관·모델·처리 지역·연결 권한이 바뀌었는데 재심사 책임자와 날짜가 없다.
결론은 허용, 제한 파일럿, 보류 세 가지로만 남긴다. 근거가 없으면 안전하다고 추정하지 않는다. 좋은 심사의 결과는 “문제없음”이라는 문구가 아니라, 허용한 데이터의 경계와 중단 책임자, 삭제 증거를 다시 찾을 수 있는 기록이다.
확인한 공식 자료
자료 확인일: 2026-08-31