적용 범위

- (제2조) 생성형 AI 기술을 이용하여 중국 주민을 대상으로 텍스트·이미지·음성·동영상 등 내용을 생성하는 서비스를 제공하는 경우 이 방법이 적용됨

- (제2조) 생성형 AI기술을 개발하고 적용하지만, 대중에 제공하지 않는 산업단체·기업·연구기관 등은 이 규정의 적용 대상이 되지 않음

기술개발 촉진

- (제5조) 다양한 산업ᆞ분야에서 생성형 AI 기술의 활용 및 긍정적이고 건강한 고품질 콘텐츠의 생성을 장려하고, 적용 시나리오의 탐색·최적화 및 활용 시스템의 구축을 추진함. 생성형 AI 분야 기술 혁신·데이터 자원 구축·기술 전환/활용, 리스크 예방 등 관련 산업단체·기업·교육/연구기관·공공문화기구 등의 협력을 지원함

- (제6조) 생성형 AI 알고리즘·프레임워크·칩 및 지원 소프트웨어 플랫폼 등 기본기술의 자립적 혁신을 장려하고, 평등하고 서로 이익이 되는 국제 교류·협력을 추진하며, 생성형 AI 관련 국제규칙 제정에 참여함. 생성형 AI 인프라 및 공공 훈련 데이터 자원 플랫폼 구축을 촉진하고, 컴퓨팅 자원의 공유 및 효율적 이용을 추진함. 공공데어터의 유형별·등급별 개방을 촉진하고 고품질 공공 훈련 데이터 자원을 확충함. 안전하고 신뢰도 높은 칩·소프트웨어·도구·컴퓨팅 및 데이터 자원의 사용을 장려함.

준수 의무

보안 평가

- (제17조) 여론 속성 또는 사회적 동원 능력을 갖춘 생성형 AI 서비스를 제공하는 경우 관련 국가 규정에 따라 안전 평가를 수행하고 '인터넷 정보 서비스 알고리즘의 권장 관리 규정'(互联网信息服务算法推荐管理规定)에 따라 알고리즘 제출·변경 및 등록 취소 절차를 수행해야 함

데이터 훈련·라벨링

- (제7조) 서비스 제공자는 법에 따라 사전 훈련, 최적화 훈련 등 훈련 데이터 처리 활동을 수행하고 다음 규정을 준수해야 함

(1) 합법적인 출처를 가진 데이터 및 기본 모델을 사용

(2) 타인의 지적재산권 침해 불가

(3) 개인정보와 관련된 경우 개인의 동의를 얻거나 법률 및 행정법규의 규정에 부합해야 함

(4) 훈련 데이터의 품질을 향상시키고 훈련 데이터의 진정성·정확성·객관성 및 다양성을 향상시키기 위한 효과적인 조치를 취해야 함

(5) '사이버보안법', '데이터 보안법', '개인정보보호법' 및 기타 법률, 행정법규의 관련 규정 및 관련 주관 부서의 관련 감독 요구 사항

- (제8조) 생성형 AI 기술 연구·개발 과정에서 데이터 라벨링을 수행하는 경우 서비스 제공자는 이 방법의 요구사항에 따라 △명확하고 구체적이며 실행 가능한 라벨링 규칙을 제정하고, △데이터 라벨링 품질 평가를 수행하며, △라벨링 내용의 정확성을 확인하기 위해 샘플링을 수행해야 함. 또한 △라벨링 담당자에게 필요한 교육을 제공하고 준법의식을 향상시키며, △라벨링 담당자의 표준화된 작업 수행을 감독·지도해야 함

콘텐츠 관리

- (제4조) 인공지능 서비스의 제공 및 사용은 법률·행정법규를 준수하고 사회의 공중도덕과 윤리를 존중하며 다음 규정을 준수해야 함

(1) 사회주의 핵심가치를 반영하여야 하며 △국가 권력 전복, △사회주의 체제 전복, △국가 분열 선동, △민족단결 저해, △테러 조장, △극단 주의, △인종 증오와 차별, △폭력, △음란 및 허위 정보, △경제 및 사회 질서 교란 위험이 있는 내용을 포함해서는 안 됨

(2) 알고리즘 설계·훈련 데이터 선택·모델 생성 및 업그레이드·서비스 제공 등의 과정에서 인종·민족·신앙·국적·지역·성별·연령·직업 등에 대한 차별을 사전에 방지해야 함

(3) 지적재산권을 존중하고, 상업 윤리와 상업 기밀을 유지해야 하며 불공정 경쟁 행위에 연루돼서는 안 됨

(4) 타인의 합법적인 이익을 존중하고 타인의 심신 건강에 상해, 초상권·명예권·개인의 프라이버시·개인정보를 침해해서는 안 됨

(5) 서비스 유형의 특성을 기반으로 생성형 AI 서비스의 투명성을 개선하고 생성된 콘텐츠의 정확성과 신뢰성을 향상시키기 위한 효과적인 조치를 취해야 함

콘텐츠 표기

- (제12조) 서비스 제공자는 '인터넷 정보 서비스의 심층 합성 관리에 관한 규정'(互联网信息服务深度合成管理规定)에 따라 이미지·동영상 등 생성된 콘텐츠에 대해 표기를 해야 함

개인정보 보호

- (제11조) 사용자의 입력 정보·사용기록에 대해 보호의무를 이행해야 하며 △불필요한 개인정보 수집, △사용자 신원을 식별할 수 있는 입력정보·사용기록의 불법 보관, △타인에게 사용자 입력정보·사용기록의 불법 제공은 안 됨

- (제11조) 서비스 제공자는 법률에 따라 개인정보 열람·복사·정정·보완 및 삭제에 대한 개인의 요청을 적시에 수락·처리해야 함

운영상 규제

- (제13조) 서비스 제공자는 사용자의 정상적인 사용을 보장하기 위해 서비스 과정에서 안전하고 안정적이며 지속적인 서비스를 제공해야 함

- (제10조) 서비스 제공자는 서비스의 적용 대상자·장소·용도를 공개하고, 생성형 AI 기술에 대한 사용자의 과학적·이성적 이해와 합법적 사용을 유도하며, 생성형 인공지능에 대한 미성년자의 과도한 의존 및 중독을 방지하기 위해 효과적인 조치를 취해야 함

- (제15조) 서비스 제공자는 건전한 민원신고 메커니즘을 구축하고, 쉽게 접근할 수 있는 신고경로를 제공하며, 처리 절차·기한을 제시하고, 민원신고를 적시에 접수·처리하며 결과를 피드백해야 함

위반 시 조치

- (제14조) 서비스 제공자는 불법 내용을 발견한 경우 생성 중지·전송 중지·내용 삭제 등 조치를 적시에 취하고 모델 최적화 교육을 수행하며 주무기관에 보고를 해야 함

- (제14조) 서비스 제공자는 사용자의 불법 행위를 발견한 경우 경고·기능 제한·서비스 중단/중료 등 조치를 취하고 관련 기록을 보관하며 주무부서에 보고해야 함

처벌

- (제21조) 서비스 제공자가 이 규정을 위반한 경우 주무부서는 '인터넷보안법', '데이터안전법', '개인정보보호법', '과학기술진보법’ 등 법률·행정법규에 따라 처벌해야 함. 법률·행정법규에 관련 규정이 없는 경우 주무부서는 직책에 따라 경고·통보·시정명령 등 조치를 취하며, 주무부서의 시정명령을 거부하거나 관련 상황이 심각한 경우 해당 서비스를 중지함

- 치안관리처벌법 위반에 해당하는 경우 치안관리 처벌을 부과하며, 형법 위반에 해당하는 경우 형사책임을 추궁함

발표시기

정책명

주요 내용

2021.12.

상하이시 AI산업 발전 14.5 규획(上海市人工智能产业发展“十四五”规划)

2025년까지 상하이 AI 산업규모를 4000억 위안(약 6조5000억 원)으로 키우고 12% 이상의 성장을 유지한다는 목표를 제시

2022. 7.

시나리오 창조 가속화를 통한 AI 고수준 활용 및 고품질 경제 발전 추진에 관한 지도의견(关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见)

△ 산업 주체 육성, △ 시범 활용 확대, △ 시스템 혁신, △ 시나리오 생태계 보완 등을 통해 AI산업 발전의 새로운 모델·경로를 탐색하고 AI의 고수준 활용을 통해 경제의 고품질 발전을 추지

2022. 8.

차세대 AI의 시범적 활용 시나리오 건설 추진에 관한 공고

(关于支持建设新一代人工智能示范应用场景的通知)

산업 체인 및 사용 과정 전체를 커버하는 AI산업 적용 생태계를 중심으로, 좋은 기초를 갖춘 AI 적용 시나리오를 지원하고, 상하류 협력 및 신기술 집결에 관한 연구를 강화하며, 복사·보급 가능한 시범적 적용 시나리오를 만들어 나감

2023. 5.

베이징시 글로벌 영향력을 갖춘 AI혁신 중심지 건설 실시방안(2023-2025년)(北京市加快建设具有全球影响力的人工智能创新策源地实施方案(2023-2025年))

2025년까지 베이징 AI 산업규모를 3000억 위안(약 5조 원)으로 키우고 10% 이상의 성장을 유지한다는 목표를 제시

2023. 5.

선전시 AI 고품질 발전 및 고수준 활용 가속화에 관한 행동방안(2023~2024년)(深圳市加快推动人工智能高质量发展高水平应用行动方案(2023-2024年))

1000억 위안(약 18조 원) 규모의 AI 펀드 설립과 함께 핵심 기술과 제품의 혁신 능력 강화, 산업 집적 수준 향상 등에 지원을 확대할 계획

기업명

AI 서비스

주요 특징

ERNIE Bot

(文心一言)

- 자체 대규모 모델 ERNIE 활용

- 언어 생성, 텍스트-이미지 생성 작업을 수행 가능

훈위안

(混元)

- 텐센트 자체개발 학습모델 프레임워크인 ‘타이지(太极)’를 기반으로 함

- 광고 콘텐츠 제작 관련 내용 이해, 산업 특징 분석, 텍스트 생성 등에 우세

통이치엔원

(通义千问)

- 알리바바의 독점 사전학습모델 프레임워크인 ‘통이(通义)’를 기반으로 개발

- 텍스트를 이미지와 짧은 동영상으로 변환 가능

판구

(盘古)

- 대규모 언어모델 ‘판구’의 최신 모델 출시 준비 중

- 광산 작업과 기상 예보, 철도 감사 등 기업용 솔루션으로 활용 전망