Chinas neue Vorschriften für generative KI verstehen

July 19, 2023 Posted by China Briefing Written by Yi Wu Reading Time: 7 minutes

China versucht, generative KI zu regulieren und unternimmt gleichzeitig politische Bemühungen, um ein günstiges Umfeld für KI-gestützte Innovationen, Wissenschaft und Technologie sowie F&E-Anwendungen in allen Branchen zu schaffen. Das Ziel des kürzlich veröffentlichten Entwurfs “Measures for Generative Artificial Intelligence Services” ist es, die Ergebnisse der Industrie mit Chinas sozialistischen Grundwerten, der sozialen Moral und der öffentlichen Ordnung in Einklang zu bringen. Mit anderen Worten: Bringen Sie die Innovation des KI-Sektors mit ethischen Überlegungen in Einklang.

Die Cyberspace Administration of China hat im April den Entwurf “Measures for Generative Artificial Intelligence Services” (《生成式人工智能服务管理办法(征求意见稿)》, im Folgenden “Maßnahmenentwurf”) veröffentlicht. Die Maßnahmen, die für die Verwaltung von Produkten der generativen künstlichen Intelligenz (KI) wie ChatGPT entwickelt wurden, werden die Grundregeln festlegen, die generative KI-Dienste befolgen müssen, einschließlich der Art der Inhalte, die diese Produkte generieren dürfen. Der Maßnahmenentwurf hebt auch Themen hervor, die für die chinesische Regierung in Bezug auf den Einsatz generativer KI von besonderer Bedeutung sind, wie z. B. die Moderation von Inhalten, die Verzerrung und den Missbrauch von Informationen, algorithmische Voreingenommenheit und Vorurteile sowie Transparenz.

Was ist generative KI?

Generative KI verwendet Deep-Learning-Techniken und große Datensätze, um ähnliche Inhalte wie Bilder, Text und Musik zu erstellen. ChatGPT von OpenAI, ein Sprachmodell, das in der Lage ist, Antworten zu generieren, hat mit rund 100 Millionen Nutzern in nur zwei Monaten immense Popularität erlangt.

Dieser Erfolg hat große Internetunternehmen dazu motiviert, ihre eigenen generativen KI-Serviceplattformen zu beschleunigen. Google hat den Chatbot “Bard” auf den Markt gebracht, während Microsoft Azure für Conversational AI eingeführt hat. Auch chinesische Technologieunternehmen investieren stark in die Entwicklung ihrer generativen KI-Modelle. Baidu hat “ERNIE Bot” auf den Markt gebracht, Alibaba “Tongyi Qianwen” und Tencent, 360, Huawei und andere Giganten haben ihren Einstieg in generative KI-Dienste angekündigt. Die rasante Entwicklung hat Chinas politische Entscheidungsträger dazu veranlasst, Regulierungen für diesen Sektor in Betracht zu ziehen.

Chinas Vorschriften für generative KI verstehen

In den letzten Jahren hat sich China zu einem Vorreiter bei der KI-Regulierung entwickelt und verschiedene Initiativen umgesetzt, um das Wachstum des KI-Sektors zu fördern und zu überwachen. Beispiele hierfür sind Made in China 2025, der Aktionsplan zur Förderung der Entwicklung von Big Data (2015) und der Entwicklungsplan für künstliche Intelligenz der nächsten Generation (2017).

China hat auch proaktiv Gesetze erlassen, die die Ethik von KI-Unternehmen und -Algorithmen regeln. Im Rahmen ihrer umfassenderen Bemühungen, die Technologiebranche zu regulieren, ist es denkbar, dass die chinesische Regierung Vorschriften für KI-basierte Sprachmodelle wie ChatGPT erlassen könnte.

Um auf den Entwurf der Maßnahmen zurückzukommen: Es ist möglich, dass die Verordnung noch in diesem Jahr verabschiedet und in Kraft treten kann und mit den bestehenden regulatorischen Rahmenbedingungen Chinas zusammenarbeitet. Dazu gehören Gesetze und Vorschriften wie das Cybersicherheitsgesetz, das Datensicherheitsgesetz, das Gesetz zum Schutz personenbezogener Daten (PIPL), Deep Synthesis Provisions und administrative Bestimmungen zu Empfehlungsalgorithmen in internetbasierten Informationsdiensten. Zusammen bieten sie Entwicklungshilfen für die KI-Branche.

Im Allgemeinen zielen die Maßnahmenentwürfe darauf ab, die Risiken und den Missbrauch von KI-Technologien zu verringern und gleichzeitig KI-Innovationen zu fördern, die im Einklang mit Chinas sozialistischen Grundwerten, der sozialen Moral und der öffentlichen Ordnung stehen. Durch die Integration dieser Vorschriften will China ein Gleichgewicht zwischen der Förderung von KI-Fortschritten und der Gewährleistung verantwortungsvoller und ethischer KI-Praktiken im Land finden.

Darüber hinaus und ungeachtet der Anforderungen, die in den Maßnahmenentwürfen eingeführt wurden, heißt es in dem Text, dass die Regierung die einheimische Entwicklung und internationale Zusammenarbeit in Bezug auf generative KI-Technologie fördert und Unternehmen ermutigt, zu diesem Zweck “sichere und vertrauenswürdige Software, Tools, Rechen- und Datenressourcen” einzuführen.

Geltungsbereich

Der Maßnahmenentwurf definiert generative KI als Technologien, die Texte, Bilder, Töne, Videos, Codes und andere Inhalte auf der Grundlage von Algorithmen, Modellen und Regeln generieren. Sie regeln speziell die breitere Kategorie der generativen KI-Technologien, im Gegensatz zu bloßen “Deep Synthesis”-Technologien. Wenn der Maßnahmenentwurf in Kraft tritt, werden die Aktivitäten von Dienstleistern geregelt, die ihre Produkte Nutzern auf dem chinesischen Festland anbieten, unabhängig davon, ob der Dienst im In- oder Ausland ansässig ist.

Governance von Anbietern

Der Maßnahmenentwurf definiert einen “Anbieter von generativer KI” als Organisationen und Einzelpersonen, die generative KI-Produkte nutzen, um Dienstleistungen wie Chat und Text-, Bild- und Tonerzeugung anzubieten. Dazu gehören auch diejenigen, die die Generierung von Inhalten über Schnittstellen und Plattformen erleichtern. Der Maßnahmenentwurf unterscheidet nicht zwischen Anbietern von Back-End-Technologien und Anbietern von Diensten auf Anwendungsebene. Beide werden für die von generativen KI-Produkten erzeugten Inhalte verantwortlich gemacht und sind verpflichtet, sich an das PIPL of China zu halten, um personenbezogene Daten zu schützen.

Are you looking to optimize your business's IT operations and tech solutions? Our range of China IT and IS advisory services can help – contact us today to learn more.

Der Maßnahmenentwurf zielt darauf ab, generative KI-Technologien zu regulieren, indem den “Anbietern” direkte Verpflichtungen auferlegt werden. Die Anbieter sind dafür verantwortlich, die Legitimität der Daten, die zum Trainieren generativer KI-Produkte und der generierten Inhalte verwendet werden, sicherzustellen. Sie sind verpflichtet, der zuständigen Behörde Sicherheitsbewertungsberichte vorzulegen und Verfahren für die Einreichung, Änderung und Löschung von Algorithmen zu befolgen, bevor sie der Öffentlichkeit Dienste mit generativen KI-Produkten anbieten. Der Maßnahmenentwurf legt klare Anforderungen an Diensteanbieter fest und betont ihre Verantwortung für die generierten Inhalte, um deren Wahrhaftigkeit und Genauigkeit zu gewährleisten.

Grundvoraussetzungen für generative KI in China

Der Entwurf „Maßnahmen für generative Künstliche Intelligenzdienste“ stärkt bestehende gesetzliche Anforderungen und erlegt Anbietern von generativen KI-Produkten und -Dienstleistungen zusätzliche Verpflichtungen auf. Zu diesen Anforderungen gehören:

Umsetzung von Maßnahmen zur Verhinderung von Diskriminierung aufgrund von Faktoren wie Rasse, ethnischer Zugehörigkeit, Religion, Nationalität, Geografie, Geschlecht, Alter, Beruf usw.
Respekt der geistigen Eigentumsrechte anderer und Verzicht darauf, Algorithmen, Daten und Plattformen für unlauteren Wettbewerb zu verwenden.
Ergreifung von Maßnahmen, um die Authentizität der generierten Informationen zu gewährleisten und die Erzeugung von Desinformation zu vermeiden.
Schutz der Eingabeinformationen und des Benutzerverlaufs, Verbot der illegalen Speicherung von Eingabeinformationen, die die Identität des Benutzers offenbaren, Erstellung von Benutzerporträts auf der Grundlage dieser Informationen und Weitergabe von Benutzereingabeinformationen an Dritte.
Klare Angabe des Umfangs der Nutzer, der Anlässe und der Nutzung ihrer Dienste sowie die Umsetzung von Maßnahmen zur Suchtprävention.
Bereitstellung der erforderlichen Informationen an die Cybersecurity Administration of China (CAC) auf Anfrage, einschließlich Datensatzquellen, Größe, Art, Qualität, Kennzeichnungsregeln, Details zu gekennzeichneten Datensätzen, grundlegende Algorithmen und technische Systeme.
Aussetzung oder Einstellung von Diensten, wenn sie in einer Weise verwendet werden, die gegen die kommerzielle oder soziale Ethik verstößt, wie z. B. die Beteiligung an Online-Hypes, böswilliges Posten und Kommentieren, die Erstellung von Spam, das Schreiben bösartiger Software oder die Beteiligung an unzulässigem kommerziellem Marketing.
Verlangen von den Benutzern, die jeweils echte Identität und die damit verbundenen Informationen anzugeben, ohne Angabe von falschen Informationen.

Rechte der Nutzer

Wenn personenbezogene Daten in den bereitgestellten Diensten involviert sind, sind Anbieter von generativer KI gesetzlich verpflichtet, die Verantwortlichkeiten eines Auftragsverarbeiters personenbezogener Daten zu erfüllen und den Schutz personenbezogener Daten zu gewährleisten. Sie müssen Meldesysteme einrichten, damit Benutzer individuelle Anfragen im Zusammenhang mit der Änderung, Löschung und Sperrung personenbezogener Daten bearbeiten können. Verletzen die generierten Inhalte das Recht am eigenen Bild, das Recht auf Reputation, die Privatsphäre oder Geschäftsgeheimnisse anderer, müssen die Anbieter die Generierung solcher Informationen einstellen.

Gesetzliche Haftung

Verstöße gegen die Maßnahmen werden gemäß den jeweiligen Gesetzen geahndet. Wenn es keine spezifische Bestimmung für eine Strafe gibt, können die CAC und andere zuständige Aufsichtsbehörden Warnungen aussprechen, Korrekturen innerhalb eines bestimmten Zeitrahmens verlangen, die Aussetzung oder Beendigung von Diensten anordnen und Geldstrafen zwischen 10.000 und 100.000 RMB (1.470 bis 14.700 US-Dollar) verhängen. In Fällen, in denen unangemessene Inhalte generiert werden, müssen die Anbieter ihre Technologie innerhalb von drei Monaten aktualisieren, um eine Wiederholung zu verhindern. Diese Maßnahmen zielen darauf ab, die Einhaltung der Vorschriften zu gewährleisten, personenbezogene Daten zu schützen und inhaltsbezogene Probleme zeitnah zu beheben.

Chinas allgemeine Einstellung zu KI-Technologien

China hat die Entwicklung von KI durch verschiedene politische Initiativen aktiv gefördert. Im Jahr 2017 veröffentlichte der Staatsrat den “Next Generation Artificial Intelligence Development Plan (2017)“, in dem strategische Ziele für die KI-Entwicklung dargelegt werden.

Get expert assistance in conducting compliance audits, penetration tests, computer security, and impact assessments, and implementing and training for improved cybersecurity of your business investments in China.

Im Jahr 2023 startete das Ministerium für Wissenschaft und Technologie einen Sondereinsatz von „KI für die Wissenschaft“, um Innovationen zu beschleunigen und die Anwendung von KI auf hohem Niveau in Schlüsselindustrien zu fördern. KI wurde in Chinas umstrittenem Industrieplan „Made in China 2025“ als Schlüsselindustrie identifiziert, in dem es heißt, dass Chinas Ziel darin besteht, bis 2030 weltweit führend in diesem Bereich zu werden.

Darüber hinaus fördert die Regierung die Entwicklung generativer KI-Technologie, sowohl im Inland als auch durch internationale Zusammenarbeit. Unternehmen werden ermutigt, sichere und vertrauenswürdige Software, Tools, Rechenressourcen und Datenressourcen einzuführen, um ihre Bemühungen in diesem Bereich zu unterstützen. Diese Maßnahmen unterstreichen das Engagement der Regierung, ein sicheres und zuverlässiges KI-Ökosystem zu fördern und gleichzeitig Innovation und Zusammenarbeit in der generativen KI-Technologie zu fördern.

Auch die Regierungen auf lokaler Ebene bemühen sich, die KI-Entwicklung voranzutreiben. Großstädte wie Shenzhen und Shanghai haben ihre eigenen Vorschriften erlassen. Ein Highlight der Shanghaier KI-Verordnung ist, dass sie ein gewisses Maß an Toleranz für geringfügige Verstöße vorschreibt, um die Erforschung wissenschaftlicher Grenzen zu fördern und Innovationen zu inspirieren.

China hat erhebliche Fortschritte gemacht und sich in verschiedenen Bereichen der KI-Branche einen Wettbewerbsvorteil verschafft. Das Land hat Stärke in Bezug auf akademische Arbeiten, Patente, grenzüberschreitende Investitionen und globale KI-Finanzierung gezeigt.

Prognosen zufolge werden Chinas KI-Investitionen bis 2026 voraussichtlich beträchtliche 26,7 Milliarden US-Dollar erreichen. Es wird geschätzt, dass diese Investitionen etwa 8,9 Prozent der weltweiten KI-Investitionen ausmachen, was China als zweitgrößtes Ziel für KI-Investitionen weltweit positioniert. Diese Zahlen deuten auf das starke Engagement und den wachsenden Einfluss Chinas im Bereich der KI hin, sowohl im Inland als auch auf globaler Ebene.

Vergleich mit den USA und der EU

China ist nicht das einzige Land, das sich mit der Entwicklung generativer KI beschäftigt. Andere Länder beschleunigen ebenso ihre eigenen politischen Entscheidungsprozesse. Die National Telecommunications and Information Administration (NTIA) des US-Handelsministeriums hat eine formelle öffentliche Aufforderung zur Stellungnahme zu Richtlinien initiiert, die ein Ökosystem der KI-Rechenschaftspflicht prägen sollten. Der Antrag, der bis zum 10. Juni 2023 lief, hat um Feedback zu verschiedenen Aspekten gebeten, darunter Datenzugriff, Messung der Rechenschaftspflicht und sektorspezifische Ansätze für KI in Branchen wie Beschäftigung und Gesundheitswesen.

In Europa hat die britische Regierung kürzlich ihre Entscheidung bekannt gegeben, keine neue Regulierungsbehörde für KI-Governance einzurichten, um übermäßig restriktive Vorschriften zu vermeiden, die Innovationen behindern könnten. Stattdessen haben die bestehenden Regulierungsbehörden die Aufgabe, ihre eigenen Ansätze für die KI-Governance zu entwickeln, die auf den spezifischen Bedürfnissen ihrer Sektoren basieren.

Darüber hinaus hat Italien ChatGPT im März unter Berufung auf Bedenken im Zusammenhang mit Datenschutzproblemen verboten. Diese Beispiele zeigen die unterschiedlichen Ansätze im Umgang mit KI-Governance und die unterschiedlichen Bedenken und Überlegungen rund um die Technologie.

Geschäftsaussichten in China

Die KI-Industrie bietet erhebliche Investitionsaussichten in China und ist zu einem strategischen Schwerpunkt der Regierung geworden. Mit schnellem Wachstum und Fortschritten positioniert sich China als weltweit führend in der KI-Technologie. Trotz einiger regulatorischer Einschränkungen und Herausforderungen setzt sich das Land weiterhin dafür ein, ein günstiges Umfeld für ausländische Investitionen und Talente im KI-Sektor zu fördern.

Chinas Entschlossenheit und unterstützende Politik haben es zu einem attraktiven Ziel für KI-Investitionen gemacht. Mit dem Fokus auf die Autarkie in der KI-Technologie schaffen Chinas Engagement für die Förderung von Innovationen und sein günstiges regulatorisches Umfeld ein günstiges Geschäftsumfeld. Die große Marktgröße des Landes, die wachsende Kundenbasis und die fortschrittliche Infrastruktur bieten Unternehmen auch zahlreiche Möglichkeiten, ihre KI-Produkte und -Dienstleistungen zu entwickeln und zu skalieren.

Um die Aussichten in Chinas KI-Branche voll auszuschöpfen, sollten Unternehmen Chinas unterstützende Politik nutzen, um ihre Geschäftsstrategien zu optimieren.

Durch die Ausrichtung auf die Ziele der Regierung und die Nutzung der verfügbaren Anreize können Investoren verschiedene Geschäftsmöglichkeiten erschließen. Gleichzeitig müssen sie agil bleiben, um sich an das sich verändernde geschäftliche und politische Klima anzupassen, um die Feinheiten des KI-Marktes effektiv zu bewältigen.