Ein ranghoher kalifornischer Gesetzgeber wird am Mittwoch einen neuen Gesetzesentwurf zur künstlichen Intelligenz (KI) in den Senat des Bundesstaates einbringen und damit die nationalen und globalen Bemühungen zur Regulierung der sich schnell beschleunigenden Technologie ergänzen.
Obwohl es im Kongress mehrere Versuche gibt, eine KI-Gesetzgebung auszuarbeiten, hat der Bundesstaat Kalifornien – Heimat des Silicon Valley, wo die meisten der weltweit führenden KI-Unternehmen ansässig sind – eine Rolle dabei, Leitplanken für die Branche zu setzen, so Senator Scott Wiener (D-San Francisco), der den Gesetzesentwurf verfasst hat.
“In einer idealen Welt hätten wir ein starkes bundesweites KI-Regulierungssystem”, sagte Wiener am Dienstag in einem Interview mit TIME und fügte hinzu, dass er die Bemühungen im Kongress und im Weißen Haus zur Regulierung der Technologie unterstütze. “Aber Kalifornien hat eine Geschichte, wenn die Bundesregierung sich zu langsam bewegt oder nicht handelt.”
Er fügte hinzu: “Wir müssen diesen Risiken zuvorkommen und nicht tun, was wir in der Vergangenheit bei sozialen Medien oder anderen Technologien getan haben, wo wir nichts tun, bevor es möglicherweise zu spät ist.”
Der Gesetzesentwurf zielt auf “Frontier”-KI-Systeme an der Schwelle zur Leistungsfähigkeit ab. Er schlägt vor, dass Systeme, die über eine bestimmte Rechenleistung für das Training verfügen – eine Schwelle, die im Gesetzesentwurf nicht spezifiziert ist – Transparenzanforderungen unterliegen sollten. Er schlägt die Festlegung der Haftung für “diejenigen vor, die es versäumen, angemessene Vorsichtsmaßnahmen zu ergreifen”, um unbeabsichtigte Folgen und böswillige Verwendungen fortschrittlicher KI-Systeme zu verhindern. Er regt auch an, Sicherheitsmaßnahmen vorzuschreiben, um zu verhindern, dass Spitzen-KIs in die Hände ausländischer Staaten fallen. Der Gesetzesentwurf fordert Kalifornien auf, “CalCompute” einzurichten, eine vorgeschlagene staatliche Forschungs-Cloud, die außerhalb der großen Industrie – wie Hochschulen und Start-ups – die erforderliche Computerinfrastruktur für fortgeschrittene KI-Arbeiten zur Verfügung stellen würde.
“Die Gesetzgebung ist besorgt über das Potenzial für gefährliche oder sogar katastrophale unbeabsichtigte Folgen, die sich aus der Entwicklung oder dem Einsatz zukünftiger Frontier-KI-Modelle ergeben könnten”, heißt es in dem Gesetzesentwurf. “Das rasante Tempo des technischen Fortschritts in der KI erfordert einen gesetzgeberischen Ansatz, der den Risiken, die aktuelle und zukünftige Varianten der Technologie für die öffentliche Sicherheit darstellen, proaktiv zuvorkommt, um die sichere Nutzung des vollen Potenzials der Technologie zum öffentlichen Nutzen zu ermöglichen.”
Wie viele Bemühungen bislang um eine KI-Regulierung ist jedoch auch dieser Gesetzesentwurf wenig konkret. Als sogenannter Intent-Gesetzesentwurf ist er weniger als drei Seiten lang und skizziert nur grob, wie ein Stück KI-Gesetzgebung in Kalifornien aussehen könnte. Das Ziel, so ein separates Faktenblatt aus dem Büro von Wiener, ist es, die Absicht der kalifornischen Gesetzgebung “weitreichende Regeln für die KI-Entwicklung zu erlassen” festzuschreiben, während dem Vorschlag “Zeit gelassen wird, Diskussionen und Feedback zu generieren, bevor er mit einem vollständigen Gesetzestext geändert wird und den formellen Gesetzgebungsprozess durchläuft”. Der Plan ist, den vollständigen Text bis Januar mit Einzelheiten zu ändern, damit das Gesetz 2024 durch die Gesetzgebung gehen kann (in der die Demokraten in beiden Kammern eine Zweidrittelmehrheit haben) und frühestens Anfang 2025 in Kraft treten kann.
Wiener sagte TIME, er wolle es den Gesetzgebern des Bundesstaates überlassen, die angemessenen Schwellenwerte für die Rechenleistung zu entscheiden, ab denen die Bestimmungen des Gesetzes greifen sollen, und ob die Haftung für das Versäumnis, angemessene Vorsichtsmaßnahmen zu ergreifen, bei Unternehmen oder einzelnen Mitarbeitern liegen sollte. “Das soll diskutiert und entschieden werden”, sagte er. “Ich will das nicht vorwegnehmen. Was ich will, ist ein System, das einen echten Anreiz für Unternehmen und Labore schafft, das ernst zu nehmen und richtig zu machen.”
Wiener räumte ein, dass die kalifornische Regierung derzeit nicht über die Kapazitäten verfügt, KI-Systeme zu überprüfen oder das Gesetz vollständig durchzusetzen. “Ich glaube nicht, dass es eine Behörde gibt, die das von heute auf morgen umsetzen könnte”, sagte er. “Ein Teil dieser Diskussion muss sicherlich sein: welche Behörde? Ist es eine bestehende Behörde, deren Mandat erweitert werden könnte? Ist es eine neue Behörde?” Diese Entscheidung würde letztlich Gouverneur Gavin Newsom treffen müssen.
“So viel KI-Innovation passiert in Kalifornien”, sagt Wiener. “Wenn Kalifornien also Regeln für KI aufstellt, wird sich das global auswirken.”
Aber die Heimat von KI-Unternehmen zu sein und gleichzeitig einen regulatorischen Rahmen für sie schaffen zu wollen, könnte einen Interessenkonflikt für politische Entscheidungsträger schaffen, die Innovation und Wirtschaftswachstum fördern wollen. Separat erließ Newsom Anfang September eine Exekutivanordnung, die einen “abgewogenen Ansatz” für KI fordert, um die Risiken zu mindern, aber “weltweit führend bei KI zu bleiben”. Die Exekutivanordnung griff einen früheren politischen Vorschlag aus dem Vereinigten Königreich auf, wo das führende KI-Labor Google DeepMind ansässig ist, der die Notwendigkeit betonte, dass die Regierung einen “schwerfälligen” Ansatz zur KI-Regulierung vermeidet, der Innovationen ersticken würde.