중국 AI 규제를 ‘검열’ 한 단어로 정리하면 실제 사업에서 중요한 것을 놓친다. 기업 입장에서는 어떤 데이터를 쓸 수 있는지, 출시 전에 무엇을 등록해야 하는지, AI 생성물을 어떻게 표시할지가 제품 일정과 비용을 좌우한다.
7월 15일부터 시행된 의인화 AI 규정
2026년 7월 15일부터 중국의 「인공지능 의인화 상호작용 서비스 관리 잠정 방법」이 시행됐다. 사람처럼 말하고 감정적 관계를 형성하는 AI 서비스가 적용 대상이다. 서비스는 사용자가 자연인이 아니라 AI와 대화하고 있다는 사실을 눈에 띄게 알려야 하고, 처음 사용할 때나 다시 로그인할 때, 과도한 의존 징후가 나타날 때 안내를 강화해야 한다.
이 규정은 챗봇에만 머물지 않는다. 디지털 휴먼, AI 인플루언서, 정서적 동반자 서비스에도 미성년자·고령자 보호, 개인정보 처리, 서비스 종료와 이의 제기 절차가 중요해졌다. 중국에서 사람 같은 AI를 운영한다면 캐릭터의 사실감보다 사람과 AI의 경계를 제품 화면에 어떻게 표시할지를 먼저 설계해야 한다. AI 규제의 핵심은 서류 한 장보다 데이터 출처와 사용자 고지, 사고 대응이 제품 안에 구현되는가에 있다.
중국 AI를 이야기할 때 흔히 떠오르는 단어는 검열이다. 중국의 인터넷 질서와 온라인 플랫폼 규제, 생성형 AI 규정을 생각하면 검열과 통제는 빠지지 않는 주제다. 그 단어 하나로 시장을 닫아 버리면 산업을 이해하는 데 필요한 절반이 사라진다.
등록보다 제품 화면의 변화를 본다
중국 정부는 AI를 통제하면서도 산업 현장으로 끌어들이려 한다. 두 힘은 때로 충돌하지만, 제품이 출시되는 과정에서는 한 몸처럼 붙는다. 통제는 기업이 지켜야 할 운영 규칙을 만들고, 제도화는 출시 속도를 정한다. 중국 AI는 그 긴장 속에서 자란다.
중국의 생성형 AI 규정인 생성형 인공지능 서비스 관리 잠정 방법(生成式人工智能服务管理暂行办法)에도 이런 두 얼굴이 겹쳐 있다. 이 규정은 2023년 7월 공표됐고 2023년 8월 15일부터 시행됐다.
생성형 AI 제공자의 책임, 개인정보 보호, 생성 콘텐츠 표시, 미성년자 보호를 다루며, 여론 속성이나 사회동원 능력을 가진 제품에는 안전평가와 알고리즘 등록 관련 의무가 붙는다. 문장만 보면 강한 통제 표현이 앞서지만, 생성형 AI를 제도권 안으로 끌어들이는 장치도 된다.
규칙이 생기면 할 일은 늘지만 출시 과정도 어느 정도 예측된다. 기업은 조심할 대목과 거칠 과정, 제품을 내놓는 순서를 미리 헤아린다. 중국 AI 정책은 기업의 자유를 좁히면서도 출시 절차를 정한다. 하나의 문서가 통제의 언어와 산업의 언어를 함께 품고, 위험 관리와 산업 적용을 한 문서 안에 담는다. AI 규제를 검토할 때는 알고리즘 등록과 합성 콘텐츠 표시, 개인정보 처리 조건을 함께 대조해야 한다.
통제는 제품 안에 규칙을 남긴다
등록과 표시, 데이터 책임은 기업 안에 작지 않은 일을 남긴다. 생성 결과를 살피고, 민감한 주제에 대한 응답을 제한하며, 알고리즘이 남기는 영향도 설명해야 한다. 글로벌 시장으로 나갈 때도 신뢰 문제가 따라붙는다. 해외 고객은 중국 모델이 입력 자료를 어떻게 처리하는지, 검열 관행과 정부와의 관계가 어떤지 묻는다.
이 우려는 실제 제한과 제재 사례로 이어졌다. 딥시크에 세계의 시선이 쏠린 뒤 한국에서는 개인정보 처리 우려를 이유로 국내 앱 마켓의 딥시크 앱 다운로드가 일시 중단됐다. AP 보도에 따르면 한국의 여러 정부기관과 기업도 업무용 사용을 제한하거나 차단했고, 호주 정부는 2025년 2월 보안 우려를 이유로 정부 기기에서 딥시크 제품 사용을 금지했다.
특정 기업 하나의 사례를 중국 AI 전반으로 일반화할 일은 아니지만, 중국계 AI 제품이 해외 시장에서 데이터와 보안 질문을 받는 사례는 이미 나타났다.
이 문제는 경쟁력에도 영향을 준다. 어떤 기업은 중국 모델의 기술 수준과 도입 절차를 보다가도 사용자 정보와 신뢰 문제 앞에서 멈춘다. 금융, 의료, 법률, 공공 분야처럼 신뢰의 요구가 큰 영역에서는 더 그렇다. AI 모델을 쓰는 일은 호출량 계산보다 훨씬 넓다. 입력값 분류, 접근 통제, 사내 감사, 사용자 안내, 문제가 생겼을 때의 처리까지 운영 방식에 들어간다.
이 우려는 분석을 멈출 이유가 아니라 더 잘게 나누어 볼 신호다. 공개 자료 요약과 경쟁사 모니터링은 비교적 위험이 낮다. 내부 아이디어 발산, 고객 데이터 처리, 코드 작성, 의사결정 자동화는 조심해야 할 지점이 서로 다르다. 중국 AI도 하나로 묶기보다 쓰임의 자리를 먼저 나누는 편이 낫다.
규제는 제품과 운영 조건으로 내려온다
중국 정책 문서를 제품팀의 언어로 옮기면 쟁점은 구체해진다. 개인정보 보호는 “우리 제품에서 어떤 입력값이 개인정보인가”라는 질문으로 내려온다. 생성 콘텐츠 표시는 “고객이 AI 생성 결과를 사람의 응답으로 오해하지 않도록 어떤 표시를 둘 것인가”를 설계하게 한다. 미성년자 보호는 “취약 사용자를 만날 여지가 있을 때 어떤 제한과 안내를 둘 것인가”로 바뀐다. AI 규제는 모델 개발사뿐 아니라 앱 운영자와 콘텐츠 플랫폼의 책임 범위도 넓힌다.
중국의 제도화는 추상적인 원칙을 실제 서비스가 갖춰야 할 조건으로 바꾼다. 생성형 AI를 제공한다면 출시 전 안전평가와 알고리즘 등록 요구가 붙고, 화면에는 AI 생성물 표시와 이용자 고지가 들어간다. 추천 알고리즘을 쓰는 서비스에는 추천 중지 선택권과 이용자 권리 보호도 필요하다. 심층 합성에는 콘텐츠 표시와 악용 방지 조치가 따라붙는다. 규제는 문서 밖으로 나와 안내 문구, 로그, 운영 정책, 고객 고지로 구체화된다.
중국 기업은 이런 요구를 제품 운영의 세부 절차로 바꾼다. 고객에게 보이는 답변에는 표시 문구를 붙이고, 민감한 입력은 막거나 별도로 처리하며, 문제가 생겼을 때 확인할 로그를 남긴다. 고객 문의를 요약하는 기능에는 개인정보, 계약 내용, 결제 정보, 불만 내용이 섞인다. 제조 현장의 점검 리포트 요약도 최종 조치는 사람이 맡도록 남긴다. 중국 AI 정책을 이해하려면 법령 이름보다 이런 운영 장면을 먼저 떠올리는 편이 낫다.
중국은 모델 발표 단계부터 등록과 표시, 추천, 데이터, 심층 합성 같은 규칙을 촘촘히 묶는다. 그래서 어떤 AI가 나왔는지보다 그 제품이 어느 범주에 들어가고 어떤 등록과 표시, 데이터 책임을 지는지가 시장 진입 속도를 정한다. 제품 범주와 데이터 등급, 표시 의무, 사람의 최종 확인, 로그 보관이 일정표에 오르는 순간 정책은 분위기가 아니라 공정이 된다.
제도화는 출시 속도를 바꾼다
규정과 출시 속도는 맞물렸다. 규정이 있음에도 기업들은 계속 모델을 내고, 앱에 기능을 넣고, 클라우드에서 기업용 AI를 제공한다.
2023년 8월 생성형 AI 규정 시행 이후 바이두는 어니 봇을 일반 대중에게 공개했고, 텐센트는 훈위안을 텐센트 클라우드의 기업용 제품과 자사 제품군에 붙이는 노선을 내놨다. 알리바바 역시 큐원 계열을 클라우드와 오픈 모델 생태계로 확장했다. 규제는 기업 활동을 완전히 멈추기보다, 허용된 경계 안에서 출시와 등록, 확장의 절차를 만들었다.
중국의 선택은 뚜렷하다. AI 서비스를 금지와 허용의 경계 바깥에 두지 않고, 등록과 표시, 안전평가와 자료 처리 책임의 관리 절차 안으로 끌어들인다. 이 과정에서 개발자와 제도 담당자의 일이 서로 맞물린다. 설계가 제도의 경계를 모르면 위태로운 서비스가 나오고, 행정 원칙이 현장을 모르면 작동하지 않는 규칙이 된다. 중국 AI를 검열로만 보면 이런 운영 문제가 사라진다.
출시 이후 책임은 운영에서 갈린다
규정들도 한 덩어리가 아니다. 생성형 AI 규정은 콘텐츠 안전을, 알고리즘 추천 규정은 추천과 여론 영향을, 심층 합성 규정은 합성물 표시를, 데이터 보안과 개인정보 보호 제도는 데이터 이동을 겨냥한다. 같은 모델이라도 중국 내 서비스인지, 해외용 상품인지, 공개 모델인지에 따라 걸리는 조항과 책임의 경계가 달라진다.
시간순으로 놓으면 흐름이 더 잘 보인다. 처음에는 자료가 어디로 가는지를 물었다. 이어 알고리즘이 무엇을 추천하는지, 합성물이 어떻게 표시되는지를 살폈다. 그 뒤 생성형 AI 제공자의 의무와 에이전트의 실행 권한이 제도 안으로 들어왔다. 돌발 규제라기보다 산업이 퍼지는 속도에 맞춰 관리 범위를 넓혀 온 과정에 가깝다.
그 누적은 기업의 일정표로 돌아온다. 모델을 내놓는 회사는 안전평가와 등록을 챙기고, 앱과 플랫폼 기업은 추천과 표시를 설계하고, 클라우드와 기업 고객은 데이터가 오가는 경로와 로그를 관리한다. 출시 전에는 데이터 입력 범위와 생성물 표시 절차를 정하고, 출시 뒤에는 사용자가 AI 결과를 어떻게 받아들이는지, 어떤 오류가 반복되는지를 추적한다.
중국 AI 규제가 제품을 바꾸는 방식은 결국 이렇다. 금지 목록을 늘리는 것이 아니라, 화면에 붙는 표시 문구와 승인 버튼, 남겨야 할 로그, 사람이 최종 확인하는 단계를 늘린다. 검열이라는 한 단어로 접으면 이 항목들이 통째로 사라진다. 추천 기능과 합성물 생성, 미성년자 이용 여부, 고객 데이터 입력, 생성물 표시로 나눠 놓아야 어떤 제품이 왜 빨리 나오고 어떤 제품이 왜 늦는지가 설명된다.
자주 묻는 질문
중국 AI 통제는 제품 안에 어떤 흔적을 남기나?
통제는 분위기가 아니라 제품 안의 구체적 절차로 남는다. 생성물에 붙는 AI 표시 문구, 민감한 입력을 걸러 내는 처리, 문제 발생 시 확인할 로그, 알고리즘 등록과 안전평가가 출시 전후의 실무로 자리 잡는다. 해외 진출 시에는 입력 자료 처리 방식과 정부와의 관계에 대한 고객의 신뢰 질문까지 흔적으로 붙는다.
AI 규제가 출시 속도를 바꾸는 이유는 무엇인가?
규제가 출시 절차를 정형화하기 때문이다. 제품 범주 분류, 데이터 등급, 표시 의무, 사람의 최종 확인, 로그 보관이 일정에 들어오면 출시는 늦춰지지만 대신 예측 가능해진다. 규제를 사후 법무 검토로 미루면 이 절차가 뒤늦게 몰려 속도와 비용을 함께 잃는다.
참고자료
- 국가인터넷정보판공실. (2023). 생성형 인공지능 서비스 관리 잠정 방법. 원문 보기
- 국가인터넷정보판공실. (2022). 인터넷 정보 서비스 알고리즘 추천 관리 규정. 원문 보기
- 국가인터넷정보판공실. (2022). 인터넷 정보 서비스 심층 합성 관리 규정. 원문 보기
- 국가인터넷정보판공실. (2026). 지능체 규범 응용과 혁신 발전 실시 의견. 원문 보기
- 국가인터넷정보판공실. (2026). ‘청랑·AI 응용 난상 정비’ 특별 행동 배치. 원문 보기
- National People’s Congress. (2021). Data Security Law of the People’s Republic of China. 원문 보기
- 전국인민대표대회. (2021). 개인정보 보호법 주석령. 원문 보기
- 국가인터넷정보판공실 등 5개 부처. (2026). 인공지능 의인화 상호작용 서비스 관리 잠정 방법(2026년 7월 15일 시행). 원문 보기