Navis, automatische Übersetzungen oder die Gesichtserkennung am Handy: Künstliche Intelligenz ist Teil des täglichen Lebens. Ein «historisches» EU-Regelwerk soll den Umgang nun sicherer machen.
Die Europäische Kommission hatte im Vorfeld betont, dass, obwohl die meisten KI-Systeme keine großen Risiken darstellen, es wichtig sei, Regulierungen zu schaffen, um alle möglichen Gefahren einzudämmen.
Foto: Sebastian Gollnow/dpa
Das EU-Parlament hat grünes Licht für strengere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union gegeben. Die Abgeordneten stimmten in Straßburg mehrheitlich für das Gesetz. Laut dem Parlament handelt es sich um das weltweit erste KI-Gesetz. Zukünftig sollen KI-Systeme in verschiedene Risikogruppen eingestuft werden. Je größer die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen sein.
Die meisten Anwendungen von künstlicher Intelligenz basieren auf maschinellem Lernen, bei dem Software große Datenmengen analysiert, um Schlussfolgerungen zu ziehen. Diese Programme werden bereits in verschiedenen Bereichen eingesetzt. Beispielsweise können sie CT-Aufnahmen schneller und genauer auswerten als Menschen.
Gesetz verbietet «Social Scoring»
Selbstfahrende Autos versuchen auch, das Verhalten anderer Verkehrsteilnehmer vorherzusagen. Chatbots und automatische Playlists von Streaming-Diensten nutzen ebenfalls KI.
Das nun anstehende Gesetz geht auf einen Vorschlag der EU-Kommission aus dem Jahr 2021 zurück. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen demnach strenge Anforderungen erfüllen. Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten («Social Scoring»). Damit werden die Bürgerinnen und Bürger in China in Verhaltenskategorien eingeteilt. Und auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben.
Verbotene Systeme werden abgeschaltet
Auch die Gesichtserkennung im öffentlichen Raum – also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen – soll im Grunde genommen nicht erlaubt sein. Allerdings gibt es Ausnahmen: Die Polizei und andere Sicherheitsbehörden sollen befugt sein, eine solche Gesichtserkennung im öffentlichen Raum einzusetzen, um spezifische Straftaten wie Menschenhandel oder Terrorismus zu bekämpfen.
Das Regelwerk kann nun in Kraft treten, nachdem das Parlament zugestimmt hat. Im Dezember hatten Unterhändler von Europaparlament und EU-Ländern nach langen Verhandlungen eine Einigung über eine Regulierung erzielt. Anfang Februar stimmten auch Vertreter der EU-Staaten dem Vorschlag formell zu.
Die Mitgliedsstaaten müssen nun schrittweise verbotene Systeme außer Betrieb nehmen. „Nach zwei Jahren sollen alle Punkte des Gesetzes vollständig umgesetzt sein.“
Die Mitgliedstaaten müssen Maßnahmen ergreifen, wenn Unternehmen die Vorschriften nicht einhalten, beispielsweise Geldstrafen. Personen, die Verstöße feststellen, können sich an nationale Behörden wenden. Diese können dann Untersuchungen durchführen und bei Bedarf Strafen verhängen.
