Die Verhandlungsführer müssen das weltweit erste Regelwerk für künstliche Intelligenz (KI) fertigstellen, doch die Schwankungen dieser Woche könnten die Verhandlungen um Jahre zurückwerfen.

Die als Weltneuheit gefeierten Regelungsvorschläge der Europäischen Union zur künstlichen Intelligenz (KI) stehen vor einem entscheidenden Moment, da die Verhandlungsführer im Laufe dieser Woche versuchen, die Details zu klären – die Diskussionen werden durch das plötzliche Aufkommen der von Menschen erzeugten generativen KI erschwert. wie Arbeit.

Das erstmals im Jahr 2019 vorgeschlagene KI-Gesetz der EU wird voraussichtlich die weltweit erste umfassende KI-Verordnung sein und die Position des 27-Nationen-Blocks als globaler Vorreiter bei der Kontrolle von KI festigen.

Der Prozess wurde jedoch durch einen Streit in letzter Minute darüber behindert, wie Systeme organisiert werden sollen, die allgemeine KI-Dienste wie ChatGPT von OpenAI und den Bard-Chatbot von Google unterstützen.

Große Technologieunternehmen setzen sich gegen eine ihrer Meinung nach übermäßige Regulierung ein, die Innovationen unterdrückt, während europäische Gesetzgeber zusätzlichen Schutz für hochmoderne KI-Systeme wünschen, die von den Unternehmen entwickelt werden.

Inzwischen haben sich die Vereinigten Staaten, Großbritannien, China und eine globale Koalition wie die Gruppe der 7 (G7) großer Demokratien dem Wettlauf angeschlossen, Grenzen für diese sich schnell entwickelnde Technologie zu entwickeln, was durch Warnungen von Forschern und Interessengruppen vor der existenziellen Gefahr unterstrichen wird durch generative KI. Zukunft. Menschlichkeit und die Risiken, die den Alltag belasten.

Ängste rund um generative KI

„Anstatt dass das KI-Gesetz zu einem globalen Maßstab für die KI-Regulierung wird, besteht eine kleine, aber wachsende Wahrscheinlichkeit, dass es nicht vor den Wahlen zum Europäischen Parlament im nächsten Jahr verabschiedet wird“, sagte Nick Reiners, Analyst für Technologiepolitik bei der Eurasia Group. ein Beratungsunternehmen für politische Risiken.

Er sagte, „es gibt noch so viel zu tun“, was die Beamten hoffen, dass die letzte Gesprächsrunde am Mittwoch stattfinden wird. Selbst wenn sie wie geplant bis spät in die Nacht arbeiten, könnten sie im neuen Jahr Schwierigkeiten haben, die Arbeit zu erledigen, sagte Reiners.

Als die Europäische Kommission, das Exekutivorgan der EU, das Projekt im Jahr 2021 startete, erwähnte sie Allzweck-KI-Systeme wie Chatbots kaum. Der Vorschlag, KI-Systeme in vier Risikostufen einzuteilen – von minimal bis inakzeptabel – ist im Wesentlichen als Produktsicherheitsgesetzgebung gedacht.

Brüssel will Informationen testen und zertifizieren, die von KI-gestützten Algorithmen verwendet werden, etwa bei Verbrauchersicherheitskontrollen bei Kosmetika, Autos und Spielzeug.

Dies ändert sich mit dem Aufkommen der generativen KI, die Magie hervorruft, indem sie Musik komponiert, Bilder erstellt und Essays schreibt, die menschlicher Arbeit ähneln.

Dies hat auch Bedenken geweckt, dass die Technologie für groß angelegte Cyberangriffe oder die Entwicklung neuer biologischer Waffen genutzt werden könnte.

Diese Risiken veranlassten den europäischen Gesetzgeber, die KI-Gesetzgebung zu stärken, indem sie sie auf Basismodelle ausdehnten. Diese Systeme, auch Large Language Models (LLM) genannt, werden anhand großer Mengen schriftlicher Arbeiten und Bilder aus dem Internet trainiert.

Grundlegende Modelle geben generativen KI-Systemen wie ChatGPT die Möglichkeit, etwas Neues zu schaffen, im Gegensatz zu herkömmlicher KI, die Daten verarbeitet und Aufgaben anhand vordefinierter Regeln erledigt.

Die Unruhen im letzten Monat bei dem von Microsoft unterstützten Unternehmen OpenAI, das eines seiner bekanntesten Kernmodelle, GPT-4, entwickelt, haben die Gefahren für einige europäische Führungskräfte verstärkt, die dadurch entstehen, dass sich einige wenige dominante KI-Unternehmen gegenseitig unter Kontrolle halten.

Obwohl CEO Sam Altman entlassen und schnell wieder eingestellt wurde, verließen mehrere Vorstandsmitglieder, denen die von KI ausgehenden Sicherheitsrisiken weitgehend egal waren, das Unternehmen und signalisierten damit, dass die KI-Unternehmensführung der Dynamik in den Vorstandsetagen zum Opfer fallen könnte.

Französischer, italienischer und deutscher Widerstand

„Zumindest ist alles klar“: Unternehmen wie OpenAI verteidigen ihr Geschäft und nicht das öffentliche Interesse, sagte EU-Kommissar Thierry Breton wenige Tage nach dem Aufruhr auf einer KI-Konferenz in Frankreich.

Der Widerstand gegen die staatliche Regulierung dieser KI-Systeme kommt aus ungewöhnlichen Ländern: Frankreich, Deutschland und Italien. Die drei größten Volkswirtschaften der Europäischen Union reagierten mit einem Papier zur Unterstützung der Selbstregulierung.

Dieser Sinneswandel wird als ein Schritt gesehen, um lokalen generativen KI-Akteuren wie dem französischen Startup Mistral AI und dem deutschen Unternehmen Aleph Alpha zu helfen.

Dahinter steckt „die Entschlossenheit, nicht zuzulassen, dass amerikanische Unternehmen das KI-Ökosystem dominieren, wie sie es in früheren Technologiewellen wie Cloud (Computing), E-Commerce und sozialen Medien getan haben“, sagte Reiners.

Eine Gruppe einflussreicher Informatiker veröffentlichte einen offenen Brief, in dem sie warnte, dass eine Abschwächung der KI-Gesetze ein „historischer Misserfolg“ wäre.

Unterdessen diskutierten Mistral-Führungskräfte online mit einem Forscher einer von Elon Musk unterstützten gemeinnützigen Organisation, die sich zum Ziel gesetzt hat, „existentielle Risiken“ durch KI zu verhindern.

KI sei „zu wichtig, um nicht reguliert zu werden, und zu wichtig, um nicht gut reguliert zu werden“, sagte Kent Walker, Googles Chief Legal Officer, letzte Woche in einer Rede in Brüssel. „Das Rennen sollte auf die beste KI-Regulierung abzielen, nicht auf die erste KI-Regulierung.“

Die Grundmodelle, die für eine Vielzahl von Aufgaben eingesetzt werden, erwiesen sich für EU-Verhandlungsführer als das schwierigste Thema, da ihre Regeln „der Gesamtlogik des Gesetzes widersprechen“, die auf den Risiken bestimmter Verwendungen basiert, sagte Iverna McGowan . Direktor des European Headquarters of Democracy and Technology, einer gemeinnützigen Organisation für digitale Rechte.

Der universelle Charakter von KI-Systemen bedeutet, dass „man nicht weiß, wie sie implementiert werden“, sagte er.

Gleichzeitig seien Vorschriften erforderlich, „weil es sonst in der gesamten Lebensmittelkette keine Rechenschaftspflicht gibt“, wenn andere Unternehmen damit Dienstleistungen aufbauen, sagte McGowan.

Altman schlug eine US-amerikanische oder globale Agentur vor, die die leistungsstärksten KI-Systeme lizenzieren würde. Er schlug dieses Jahr vor, dass OpenAI Europa verlassen könnte, wenn es die EU-Vorschriften nicht einhalten könne, nahm diese Kommentare jedoch schnell zurück.

Letzte Chance, einen Konsens über KI zu erzielen

Aleph Alpha sagte, es sei „ein ausgewogener Ansatz erforderlich“ und unterstützte den risikobasierten Ansatz Europas. Dies gelte aber „nicht“ für das Basismodell, das „flexiblere und dynamischere“ Regeln benötige, so das deutsche KI-Unternehmen.

Die EU-Verhandlungsführer müssen noch mehrere andere umstrittene Punkte klären, darunter einen Vorschlag, die öffentliche Gesichtserkennung in Echtzeit vollständig zu verbieten.

Viele Länder wollen Ausnahmen, damit die Strafverfolgungsbehörden sie nutzen können, um vermisste Kinder oder Terroristen zu finden, aber Menschenrechtsgruppen befürchten, dass dadurch effektiv eine Rechtsgrundlage für die Überwachung geschaffen würde.

Die drei Regierungszweige der EU haben am Mittwoch ihre letzte Chance, eine Einigung zu erzielen.

Auch wenn sie es genehmigen, müssen die Gesetzgeber des 705-Blocks der endgültigen Fassung noch zustimmen. Diese Abstimmung muss im April stattfinden, bevor der Wahlkampf für die Europawahl im Juni beginnt.

Das Gesetz tritt erst nach einer Übergangsfrist von in der Regel zwei Jahren in Kraft.

Wenn sie nicht rechtzeitig eintreffen, wird das Gesetz bis Ende nächsten Jahres ausgesetzt – nach dem Amtsantritt neuer EU-Staats- und Regierungschefs, die möglicherweise unterschiedliche Ansichten zu KI haben.

„Es besteht eine hohe Wahrscheinlichkeit, dass dies das letzte Mal sein wird, aber es besteht auch die Möglichkeit, dass wir noch mehr Zeit für die Verhandlungen brauchen“, sagte Dragos Tudorache, ein rumänischer Gesetzgeber, der die Verhandlungen über das Gesetz mitleitet. Europäisches Parlament, in einem Panel. Diskussion der letzten Woche.

Sein Büro sagte, er sei für ein Interview nicht verfügbar.

„Das ist immer noch ein sehr fließendes Gespräch“, sagte er bei einer Veranstaltung in Brüssel. „Wir werden Sie bis zum Schluss im Ungewissen lassen.“