イデオロギー的検閲の強化、中国が生成AIの統制水準を引き上げる

이념적 검열 강화, 중국 생성형 AI 통제 수위 높인다

gamemeca • Lee Woo Min 게임메카 이우민 기자 2025.12.31 11:04 UTC+9

AIの概要

中国当局が人間の感情や対話を模倣する生成AI技術に対する強力な統制に乗り出しました。利用者の過度な依存や中毒を防ぐため、2時間以上の連続利用時に警告を表示するよう義務付けています。さらに、イデオロギー的検閲基準を強化し、未成年者の無断利用禁止や大規模事業者の報告義務などを盛り込みました。

▲中国国家インターネット情報オフィスが発表した「人工知能ベースの対話型サービス管理に関する規制案」の一部（画像出典：中国国家インターネット情報オフィスホームページのスクリーンショット）

中国当局が、人間の感情やコミュニケーション方式を模倣する生成AI技術に対して強力な統制に乗り出した。

中国国家インターネット情報オフィスは去る27日、人工知能ベースの対話型サービス管理に関する規制案を発表した。今回の案は、テキスト、音声、映像などを通じて人間と類似したインタラクションをシミュレーションするすべてのサービス企業を対象とする。来る1月25日まで、当該規制案に対する意見募集が実施される予定である。

草案の核心は、利用者の過度な依存と中毒の防止である。AIサービス提供者は、ユーザーが人間ではなく人工知能と対話しているという事実をログイン時点と対話の途中で明確に伝えなければならない。特にユーザーが2時間以上連続でサービスを利用する場合、ポップアップを表示したり警告を出したりして利用の中断を促すべきであり、ログアウトの手続きも簡単に設計しなければならない。

コンテンツの内容に対するイデオロギー的検閲基準も大幅に強化された。国家安全保障を脅かしたり、社会主義の核心的価値を損ねたりする内容は厳格に禁止される。また、中国の歴史 and 伝統文化を反映し、体制の安定を損ねないデータセットで人工知能を学習させなければならない。暴力、賭博、ポルノ、および他人の名誉を毀損する情報の生成も違法と規定された。

ユーザーの身体的・精神的安全のための措置も含まれた。自傷や自殺を美化するコンテンツはブロックされ、ユーザーが極端な兆候を示した場合、直ちに関連機関や保護者に通知するシステムを備えなければならない。そのほか、未成年者が保護者の同意なしにAI技術を使用することも禁止され、登録ユーザー100万人以上の大型企業は当局に定期的な評価報告書を提出しなければならない。

중국 사이버공안관리국이 발표한 — ▲ 중국 사이버공간관리국이 발표한 '인공지능 기반 대화형 서비스 관리를 위한 규제 초안' 일부 (사진출처: 중국 사이버공간관리국 홈페이지 갈무리)

중국 당국이 인간의 감정과 소통 방식을 모방하는 생성형 AI 기술에 대해 강력한 통제에 나섰다.

중국 사이버공간관리국은 지난 27일, 인공지능 기반 대화형 서비스 관리를 위한 규제 초안을 발표했다. 이번 안은 텍스트, 음성, 영상 등을 통해 인간과 유사한 상호작용을 시뮬레이션하는 모든 서비스 기업을 대상으로 한다. 오는 1월 25일까지 해당 규제안에 대한 의견 수렴이 진행될 예정이다.

초안의 핵심은 이용자의 과도한 의존과 중독 방지다. AI 서비스 제공자는 사용자가 사람이 아닌 인공지능과 대화하고 있다는 사실을 로그인 시점과 대화 도중 명확히 알려야 한다. 특히 사용자가 2시간 이상 연속으로 서비스를 이용할 경우, 팝업창을 띄우거나 경고를 통해 이용 중단을 유도해야 하며 로그아웃 절차도 간편하게 설계해야 한다.

콘텐츠 내용에 대한 이념적 검열 기준도 대폭 강화됐다. 국가 안보를 위협하거나 사회주의 핵심 가치를 훼손하는 내용은 엄격히 금지된다. 또한 중국의 역사와 전통 문화를 반영하고 체제 안정을 해치지 않는 데이터셋으로 인공지능을 학습시켜야 한다. 폭력, 도박, 음란물 및 타인의 명예를 훼손하는 정보 생성 역시 불법으로 규정됐다.

사용자의 신체적, 정신적 안전을 위한 조치도 포함됐다. 자해나 자살을 미화하는 콘텐츠는 차단되며, 사용자가 극단적인 징후를 보일 경우 즉시 보호자나 관련 기관에 통보하는 시스템을 갖춰야 한다. 그 외에 미성년자가 보호자 동의 없이 AI 기술을 사용하는 것도 금지되며, 등록 사용자 100만 명 이상의 대형 업체는 당국에 정기적인 평가 보고서를 제출해야 한다.

原文を表示

このニュースはAIによって翻訳されました。