Kurz nachdem Chinas KI-Regeln letzten Monat in Kraft getreten waren, begann eine Reihe neuer KI-Chatbots auf den Markt zu kommen, mit staatlicher Genehmigung. Die Regeln wurden bereits von dem, was ursprünglich vorgeschlagen wurde, abgeschwächt, und bisher hat China sie nicht so streng durchgesetzt, wie es könnte, sagen Experten. Chinas regulatorischer Ansatz wird wahrscheinlich enorme Auswirkungen auf den technologischen Wettbewerb zwischen dem Land und seinem KI-Supermacht-Rivalen den USA haben.
Die Maßnahmen für generative KI der Cyberspace Administration of China (CAC), die am 15. August in Kraft traten, gehören zu den strengsten der Welt. Sie besagen, dass die generativen KI-Dienste keine Inhalte “zur Anstiftung zur Untergrabung der nationalen Souveränität oder zum Sturz des sozialistischen Systems” oder “zur Befürwortung von Terrorismus oder Extremismus, zur Förderung von Rassenhass und Rassendiskriminierung, Gewalt und Obszönität sowie gefälschten und schädlichen Informationen” erzeugen sollten. KI-Chatbots davon abzuhalten, unerwünschte oder sogar toxische Inhalte auszuspucken, war eine Herausforderung für KI-Entwickler auf der ganzen Welt. Wenn Chinas neue Vorschriften maximal durchgesetzt würden, könnten es chinesische KI-Entwickler schwer haben, sie einzuhalten, so einige Analysten.
Chinesische Regulierungsbehörden sind sich dieses Problems bewusst und haben reagiert, indem sie einige der Vorschriften entschärft und einen laxen Durchsetzungsansatz gewählt haben, um ein Gleichgewicht zwischen der Kontrolle des Flusses politisch sensibler Informationen und der Förderung der chinesischen KI-Entwicklung herzustellen, so Experten. Wie dieses Gleichgewicht erreicht wird, wird nicht nur die politischen Freiheiten chinesischer Bürger und den Erfolg der chinesischen KI-Industrie beeinflussen, sondern wahrscheinlich auch das Denken US-amerikanischer Gesetzgeber über KI-Politik angesichts eines schwelenden Rennens um KI-Dominanz beeinflussen.
Regulatorische Entspannung
Ende August genehmigte die CAC die Freigabe von acht KI-Chatbots, darunter Baidus Ernie Bot und ByteDances Doubao.
Eine im Juli veröffentlichte Fassung der Vorschriften war weniger streng als der im April zur Kommentierung veröffentlichte Entwurf der Vorschriften. Die CAC hat drei wichtige Änderungen vorgenommen, sagt Matt Sheehan, Fellow bei der Carnegie Endowment for International Peace.
Erstens wurde der Anwendungsbereich von allen Anwendungen der generativen KI auf nur öffentlich zugängliche Anwendungen eingeschränkt, d.h. interne Anwendungen sind weniger streng reguliert. Zweitens wurde die Formulierung an mehreren Stellen abgeschwächt. Zum Beispiel wurde “In der Lage sein, die Wahrheit, Genauigkeit, Objektivität und Vielfalt der Daten sicherzustellen” geändert in “Wirksame Maßnahmen ergreifen, um die Qualität der Trainingsdaten zu erhöhen und die Wahrheit, Genauigkeit, Objektivität und Vielfalt der Trainingsdaten zu erhöhen”. Drittens wurden in die neuen Vorschriften Formulierungen aufgenommen, die die Entwicklung generativer KI fördern, während die Vorschriften zuvor ausschließlich strafend waren.
Die CAC hat die Vorschriften teilweise als Reaktion auf die schlechte Verfassung der chinesischen Wirtschaft gelockert, so Sheehan, dessen Forschung sich auf Chinas KI-Ökosystem konzentriert. Darüber hinaus kam eine öffentliche Debatte – einschließlich Denkfabriken und akademischer Forscher, Regierungsberater und der Industrie – zu dem Schluss, dass die Regeln zu hart seien und die Innovation ersticken könnten.
Flexible Durchsetzung
Sobald Vorschriften endgültig festgelegt sind, liegt ihre Durchsetzung im Ermessen der Behörden und ist oft willkürlicher und weniger konsistent als im Westen, so Sihao Huang, Forscher an der Universität Oxford, der das letzte Jahr mit dem Studium der KI-Governance in Peking verbracht hat.
“Wenn wir uns die Regeln für Empfehlungsalgorithmen ansehen, die zuvor veröffentlicht wurden, oder Deep Synthesis oder die CAC-Cybersicherheitsgesetze – sie werden durchgesetzt, wenn die CAC sie durchsetzen will”, sagt Huang. “Die Unternehmen sind an einer ziemlich langen Leine, sie können diese Systeme sehr ehrgeizig entwickeln, aber sie müssen sich nur bewusst sein, dass wenn der Hammer auf sie herabfallen sollte, es Regeln gibt, auf die sich die Regierung berufen kann.”
Huang sagt, dass die CAC die Vorschriften oft durchsetzt, je nachdem, “ob das Unternehmen in guter Beziehung zur Regierung steht oder die richtigen Verbindungen hat”. Tech-Unternehmen versuchen auch oft, Schwachstellen in den Produkten und Dienstleistungen ihrer Konkurrenten aufzudecken, um staatliches Vorgehen gegen ihre Wettbewerber zu provozieren, und öffentlicher Druck kann die CAC zwingen, die Vorschriften durchzusetzen, sagt er.
“China ist viel eher bereit, etwas rauszubringen und es dann im Laufe der Zeit herauszufinden”, sagt Sheehan. “In China glauben die Unternehmen nicht, dass sie gewinnen werden, wenn sie die CAC vor Gericht auf die Verfassungsmäßigkeit dieser Bestimmung hin überprüfen. Sie müssen herausfinden, wie sie damit umgehen oder es umgehen können. Sie haben nicht dieses gleiche Sicherheitsnetz der Gerichte und unabhängigen Richter.”
Die US-Debatte über Regulierung und Wettbewerb
China-Falken warnen, dass die USA Gefahr laufen, im Wettbewerb um die Entwicklung immer leistungsfähigerer KI-Systeme gegen China ins Hintertreffen zu geraten, und dass die US-Regulierung es China ermöglichen könnte, aufzuholen.
Huang ist anderer Meinung und argumentiert, dass chinesische KI-Systeme bereits hinter ihren US-Pendants zurückliegen und dass die strenge chinesische Regulierung diesen Nachteil noch verstärkt. “Wenn Sie tatsächlich chinesische KI-Systeme verwenden… sind ihre Fähigkeiten deutlich verwässert, weil sie einfach auf der sichereren Seite liegen”, sagt er. Die schlechte Leistung ist das Ergebnis von Inhaltsfiltern, die das System daran hindern, auf Anfragen zu antworten, die auch nur entfernt mit Politik zu tun haben, und “sehr aggressive Feinabstimmung”, sagt er.
“Chinesische Unternehmen werden viel höhere Compliance-Lasten haben als amerikanische Unternehmen”, stimmt Sheehan zu.
Jordan Schneider, Adjunct Fellow am Center for a New American Security, einem militärischen Denkfabrik, sagt, dass die derzeitige Ernte chinesischer Chatbots hinter ihren US-Wettbewerbern in Bezug auf ihre Raffinesse und Leistungsfähigkeit zurückbleibt. “Diese Apps sind vielleicht auf GPT-3-Niveau”, sagt Schneider. Aber Schneider weist darauf hin, dass GPT-3, ein Sprachmodell, das von OpenAI entwickelt wurde, erst etwa zwei Jahre alt ist. “Das ist keine riesige Lücke”, sagt er. (OpenAIs fortschrittlichstes öffentlich verfügbares KI-System ist GPT-4.)
Schneider betont auch, dass sich gezeigt hat, dass Chatbots leichter zu kontrollieren sind, als Entwickler und politische Entscheidungsträger – auch in China – ursprünglich befürchtet hatten. Abgesehen von den beunruhigenden Mängeln, die bei der Einführung des Bing AI Chatbot von Microsoft enthüllt wurden, gab es nicht viele andere Probleme damit, dass KI-Chatbots von US-Unternehmen durchgedreht sind, sagt er. “Amerikanische Modelle sind größtenteils nicht rassistisch. Jailbreaking ist sehr schwierig und wird sehr schnell gepatcht. Diese Unternehmen haben es weitgehend geschafft, ihre Modelle so anzupassen, dass sie dem entsprechen, was in einem westlichen Kontext ein angemessener Diskurs ist. Das erscheint mir im Wesentlichen eine ähnliche Herausforderung [wie die], mit der diese chinesischen Firmen konfrontiert sind.” (Sprachmodelle weisen immer noch Probleme wie Halluzinationen auf – ein Begriff für das Erfinden falscher Informationen).
Aus diesem Grund argumentiert Schneider, dass der Trade-off zwischen politischer Stabilität und Förderung der Entwicklung überbewertet ist. In Zukunft werden chinesische Tech-Firmen weiterhin erfolgreich argumentieren,