新興産業に対する法整備のペースが加速している。多くの政府がChatGPTのリスクに気付いている中、生成型人工知能（AIGC）業界も中国で初の規制文書を発表しました。

4月11日、中国サイバースペース管理局は「生成人工知能サービスの管理に関する規則草案（意見募集草案）」（以下、「意見募集草案」という）に対する意見を公募した。 「意見募集草案」には合計21条が含まれており、定義、アクセス資格、責任と義務、罰則など、生成型人工知能産業に関する比較的詳細な規定が規定されています。

「国は、人工知能のアルゴリズムやフレームワークなどの基礎技術における独自の革新、推進、応用、国際協力を支援し、安全で信頼性の高いソフトウェア、ツール、コンピューティング、データリソースの優先的な使用を奨励しています。」 「意見募集草案」では、生成型人工知能産業に対する支援と奨励の姿勢が明確に述べられています。

現在、百度、テンセント、アリババ、ファーウェイ、JD.com、360など多くの国内テクノロジー大手が、生成AI業界における対応するレイアウトを発表しています。同時に、米国、イタリア、ドイツを含む多くの国がChatGPTがもたらすリスクに注目し、対応する規制措置の導入を検討しています。

同紙がインタビューした複数の学者は、意見募集草案では企業のデータガバナンスレベルとデータコンプライアンスシステムの構築に対してより高い要件が提示されていると述べた。いくつかの証券会社からの報告によると、意見募集草案は業界の健全な発展と標準化された適用に資するものだという。

生成AIが初めて体系的に規制される

「国が生成型人工知能に特化した体系的な監督を実施したのはこれが初めてだ。」西南政法大学デジタル法治政府研究所の鄭志鋒准教授は、「意見募集草案」の発表について記者団に語った。

同氏の意見では、「意見募集稿」には特に注目に値する点が2つある。第一に、全プロセスと全要素の監督の概念を継承し、生成型人工知能の研究開発と生成型人工知能の使用の両方に焦点を当て、セキュリティ評価、アルゴリズムの提出、事前トレーニング済みデータのコンプライアンス、手動ラベルのコンプライアンス、使用の監督など、プロセス全体に対する規制責任を確立し、アルゴリズム、個人情報保護、データセキュリティ、コンピューティングリソースなどのさまざまな基本要素をカバーしている。

2つ目は、提供者の責任を強化することです。リスク管理の観点から、生成型人工知能製品またはサービスの提供者は、一連の責任を負い、法律や規制を遵守し、社会道徳や公序良俗を尊重し、アルゴリズム、モデル、個人情報、データ、コンテンツ、ユーザーに対して対応する責任を負い、技術が制御可能であり、善のために使用されていることを保証する必要があります。

記者は、「意見募集案」では特に個人データや情報の保護が強調されており、情報セキュリティの重要性が何度も言及されていると指摘した。要件の中には、生成型人工知能の提供は、他者の正当な利益を尊重し、他者の心身の健康への危害、肖像権、名誉権、個人のプライバシーの侵害、知的財産権の侵害を防止しなければならない、などがある。個人情報、プライバシー、企業秘密を不正に取得、開示、使用することは禁止されています。 「この意見草案は規制当局の規制の方向性を示すもので、基本的には安全性と開発を同等に重視するという規制アプローチを継続している。この意見草案はわが国の生成型人工知能産業の発展の方向性を示し、企業が規制を遵守し、生成型人工知能製品やサービスを開発・提供する際に依拠できる法律を持つことができるよう、安全線を引いている。」鄭志鋒は信じている。

この点について、中国社会科学院法学研究所の研究員で科学技術法センター所長の楊延超氏は、「意見草案は、生成型人工知能産業の発展にとって前向きなシグナルだ。今、皆が心配しているのは、ChatGPTの強度が十分でないということではなく、それに伴うセキュリティリスクだ。意見草案は、比較的簡潔な条項で産業発展の基本方向を定め、情報セキュリティを確保し、中国経済を保護している」と述べた。

「意見募集案では、データコンプライアンスとデータガバナンスの観点から規制目標の達成を重視し、各企業のデータガバナンスレベルとデータコンプライアンス体制の構築について、より高い要件を提示している。」北京師範大学法学院博士課程指導教員で、中国インターネット協会研究センター副所長の呉神国氏は記者団に対し、これはアクセス主体のデータ応用能力の向上が一定のデータレベルのアクセス閾値を形成することも意味すると語った。

千安鑫のセキュリティ専門家は同紙に対し、コメントを求める草案の公開とAIGCに対する世界的な監督の強化は、データセキュリティとプライバシー保護がAIGCの発展の前提と鍵となっていることを意味すると語った。 AIGC 技術がますます成熟し普及するにつれて、企業はデータ セキュリティとプライバシー保護の問題にさらに注意を払い、関連ビジネスを行う際に専門的なネットワーク セキュリティ技術とコンサルティング サービスのサポートを積極的に求め、ビジネスのセキュリティと信頼性を確保する必要があります。

データセキュリティ業界の需要を牽引する可能性

鄭志鋒氏は、人工知能技術はデジタル中国の建設にとって極めて重要であり、2つの点に重点を置く必要があると考えている。第1に、国内の生成型人工知能産業の現在の発展はまだ追い上げ段階にあり、監督管理では技術発展を促進するという目標をより重視する必要がある。第二に、生成型人工知能は、医療、教育、娯楽、政府業務などに幅広く活用できる汎用技術としての特徴があり、今後は具体的なシナリオから監視を精緻化する必要がある。

複数の証券会社の調査レポートによると、「意見募集草案」は生成型人工知能産業の発展を加速させるだろう。

国聯証券の調査報告によると、「意見募集稿」は生成型人工知能の分野における初の規制文書だという。そのリリースは期待通りです。生成型人工知能の分野における「サイバーセキュリティ法」などの優れた法律の具体的な実施は、業界の健全な発展と標準化された応用に寄与するものである。

「ネットワークセキュリティとデータセキュリティは、生成型人工知能産業の健全な発展と標準化された応用を保証する鍵です。業界チェーン内の関連企業は、生成型人工知能産業の発展からさまざまな程度の利益を得るでしょう。」国聯証券は、「意見募集稿」では、生成型人工知能製品またはサービスの提供は法律や法規の要求を遵守し、社会道徳や公共秩序、善良な風俗を尊重すべきであると言及されていると述べた。生成型人工知能製品に使用される事前トレーニングおよび最適化されたトレーニングデータは、「ネットワークセキュリティ法」などの法律や規制の要件に準拠する必要があります。プロバイダーは、サービスを提供する過程において、ユーザーの入力情報および利用記録を保護する義務を負います。生成型人工知能産業の発展により、ネットワーク セキュリティとデータ セキュリティの需要が高まる可能性があります。

平安証券の調査レポートは、「意見募集稿」ではコンテンツの生成、主な責任、データソース、データ処理について規定されていると分析した。内容については、国家や社会に危害を加えたり、虚偽や風説、有害な情報を流布したりしないことが求められます。アルゴリズムの設計、トレーニングデータの選択、モデルの生成と最適化、サービスの提供のプロセスにおいて、いかなる差別も許されない。生成されたコンテンツの正確性を確保するために知的財産権を尊重する必要があります。他人の正当な権利や利益を侵害してはならない。生成AI製品を利用してサービスを提供する組織や個人は、コンテンツ制作者としての責任を負い、情報保護の義務を履行するものとします。

平安証券は、新技術の開発と規制遵守は相互に補完し合うものだと述べた。近年、モバイルインターネット、クラウドコンピューティング、ビッグデータ、ブロックチェーンなどの技術が急速に登場し、秩序ある活発な発展を遂げています。これは、ネットワークセキュリティメカニズムとシステムの構築における監督の改善、および産業政策の指導と切り離せないものであり、まさに「テクノロジーを善のために」実現しています。同時に、規制政策も情報技術の革新に積極的に適応しています。特に AIGC の立ち上げ以来、規制当局はデータ処理主体、データ処理プロセス、およびそれに伴う国家安全保障と情報セキュリティについて徐々に明確な理解を得るようになりました。

「AIGCの技術がさらに活用されるようになると、潜在的なリスクがさらに認識され、明らかになり、規制措置がより的を絞ったものになると期待しています。意見募集草案は、第一歩に過ぎません。」

多くの国が人工知能の規制を強化

ウォール・ストリート・ジャーナルによると、バイデン政権はChatGPTなどの関連ツールに制限を課す必要があるかどうかの検討を開始したという。 4月11日、米国商務省は、潜在的なリスクを伴う新たな人工知能モデルがリリースされる前に承認および認証手続きを受けるべきかどうかなど、関連する説明責任措置について国民の意見を正式に募集した。これは人工知能分野の潜在的な規制に向けた第一歩とみられている。

「我が国は、個人情報保護やデータ法制の分野では欧州連合や米国と同等であり、アルゴリズムガバナンスやディープシンセシスガバナンスの分野では、ある意味でリーダーとなっている。」中国政法大学データ法治研究所の張玲漢教授は同紙にこう語った。

「新興分野における法整備の加速は、世界中の国々で標準となっている。欧州連合と米国の両国は、今週中に生成AIのガバナンス計画を実際に提案した。」彼女の見解では、AIガバナンスにおいて発言権とルール策定権を掌握し、新たな国家の競争優位性の形成を主導することが、世界のさまざまな法域の目標となっている。

「ChatGPTのような生成AIの爆発的な増加は、ディープシンセシスをAIガバナンスの専門分野にするための好機です。」張玲漢氏は、「意見募集稿」の制度設計は、一方では「インターネット情報サービス深層統合管理規則」における識別、評価、ファイルに関する既存の制度的取り決めを継承し、他方ではトレーニングデータ、手動ラベル付けなどに対する新たなコンプライアンス要件を提示していると述べた。「インターネット情報サービス深層統合管理規則」と比較すると、規制ロジックを更新し、制度システムを反復するという新しい傾向を反映している。

彼女は、ChatGPTに代表される生成型人工知能の健全な発展を促進し、中国の地方経済、社会、政治、価値観に適合し、中国の人工知能技術産業の長期的かつ合法的な発展を促進できるガバナンスシステムを積極的に構築し、それが真の制度的競争優位性の形成に役立つと考えています。

The Paperの記者は、多くの国がChatGPTに対する規制措置を導入しているか、または議論していることを発見した。 4月初旬、ドイツの連邦データ保護委員ウルリッヒ・ケルバー氏は、ドイツもイタリアに倣い、データセキュリティの問題によりChatGPTを「禁止」する可能性があると述べた。

現地時間3月31日、イタリアの個人情報保護局は、今後ChatGPTの使用を禁止し、ChatGPTの開発元であるOpenAIによるイタリアのユーザー情報の処理を制限し、調査を開始すると発表した。

ロイター通信によると、テスラのCEOでツイッターの「トップ」であるイーロン・マスク氏は、人工知能の専門家や業界幹部らとともに、オープンAIが新たに発表したGPT-4モデルよりも強力な人工知能システムの訓練を少なくとも6カ月間停止するよう公開書簡で求めた。理由は、これらのシステムが社会と人類に潜在的なリスクをもたらすからだという。