Für den Einsatz künstlicher Intelligenz (KI) gelten in der Europäischen Union (EU) bald strengere Regeln. Nach langwierigen Verhandlungen mit dem Europäischen Rat erzielten Vertreter des Europäischen Parlaments einen Konsens über die Grundzüge des KI-Gesetzes.
Der Gesetzesvorschlag soll sicherstellen, dass KI in Europa sicher ist, Grundrechte und Demokratie respektiert werden und Unternehmen den größtmöglichen Nutzen aus der Technologie ziehen. EU-Binnenmarktkommissar Thierry Breton bezeichnete die Einigung auf X, ehemals Twitter, als „historisch“. Kommissionspräsidentin Ursula von der Leyen sprach von einer „weltweiten Neuheit“.
Neue technologische Risiken
Da auf dem Gebiet der KI rasante Fortschritte erzielt werden, nimmt die Kritik zu (wie Medizinische Nachrichten von Medscape hat berichtet). Kritiker weisen auf die Gefahren hin und fordern eine Regulierung.
Einen Gesetzesvorschlag zum KI-Gesetz veröffentlichte die Europäische Kommission erstmals im April 2021. Doch die Verhandlungen scheiterten zuletzt fast an der Frage der Regulierung der sogenannten Stiftungsmodelle. Dabei handelt es sich um sehr leistungsstarke KI-Modelle, die mit einer breiten Palette an Daten trainiert werden. Sie können als Grundlage für viele andere Anwendungen verwendet werden, einschließlich ChatGPT.
Die Bestimmungen des Gesetzesvorschlags konzentrieren sich auf die potenziellen Risiken für KI und das Ausmaß ihrer Auswirkungen. Je größer das Gefahrenpotenzial einer Anwendung, desto strenger müssen die Anforderungen sein. Besonders riskante Formen der KI-Anwendung könnten sogar verboten werden.
Den großen KI-Unternehmen wie OpenAI, Microsoft und Google wurden Transparenzregeln auferlegt. Sie müssen Auskunft darüber geben, welche Daten zum Trainieren der Technologie verwendet werden und wie das Urheberrecht gewahrt wird.
Was das Gesetz beinhaltet
Die wichtigsten Aspekte des KI-Gesetzes sind die folgenden:
- Schutzmaßnahmen für allgemeine KI
- Beschränkung der Verwendung biometrischer Identifikationssysteme durch Strafverfolgungsbehörden
- Verbot von Social Scoring und KI (also von Systemen, die der Manipulation dienen oder die Schwächen der Nutzer ausnutzen)
- Das Recht des Nutzers, Beschwerden einzureichen und aussagekräftige Erklärungen zu erhalten
- Geldstrafen in Höhe von 35 Millionen Euro, 7 % des weltweiten Umsatzes bis zu 7,5 Millionen Euro oder 1,5 % des Umsatzes
Gesichtserkennung
Da Sprachmodelle wie ChatGPT nicht in die risikobasierte Sortierung passen, unterliegen sie eigenen Regelwerken. Deutschland, Frankreich und Italien haben sich aus Angst vor einer Verlangsamung der Innovation gegen die Regulierung von Sprachmodellen gewehrt.
Der Zweck großer Sprachmodelle ist nicht klar. Daher werden sie im Gesetzesentwurf als General Purpose AI (GPAI) bezeichnet. Für GPAI-Modelle mit hohem systemischem Risiko hat der Chefverhandler des Parlaments ähnlich strenge Auflagen eingeführt.
Bei der Frage, welche KI-Technologien nicht legal sind, war sich das Europäische Parlament in einigen Punkten einig. Systeme, die in großem Umfang Gesichter aus öffentlich zugänglichen Daten scannen, sind verboten. Auch KI-Software, die versucht, Emotionen am Arbeitsplatz und in Bildungseinrichtungen zu erkennen, soll verboten werden.
Einige EU-Mitgliedstaaten bestehen darauf, dass es Ausnahmen von einigen Verboten gibt, damit Ermittlungsbehörden bestimmte Technologien nutzen können. Beispielsweise sollte die Echtzeit-Gesichtserkennung grundsätzlich verboten, in einigen Ausnahmen jedoch erlaubt sein, etwa zur Terrorismusprävention oder zur Suche nach Verdächtigen in Mord- oder Entführungsfällen.
Der vereinbarte Text muss vom Parlament und vom Rat offiziell angenommen werden, um EU-Recht zu werden.
Dieser Artikel wurde aus dem übersetzt Deutsche Ausgabe von Medscape.
