Künstliche Intelligenz ist die Technologie der Zukunft. Doch es verbergen sich auch Gefahren dahinter. Nun kommen in der EU schärfere Regeln für den Einsatz.
Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden.
Foto: Sebastian Gollnow/dpa
Das EU-Gesetz zur Künstlichen Intelligenz (KI) soll heute die letzte Hürde nehmen. Bei einem Ministerrat in Brüssel sollen die Regeln, mit denen unter anderem bestimmte KI-Anwendungen ganz verboten werden, nun angenommen werden.
Kein «Social Scoring» wie in China
Das Ziel des Gesetzes ist es, die Nutzung von KI in der Europäischen Union sicherer zu gestalten. Es soll sicherstellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von anderen Technologien.
Die Ursprünge der Pläne liegen in einem Vorschlag der EU-Kommission aus dem Jahr 2021. Systeme, die als besonders riskant eingestuft werden und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen daher in Zukunft strengen Anforderungen entsprechen.
Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten («Social Scoring»). Damit werden die Bürgerinnen und Bürger in China in Verhaltenskategorien eingeteilt. Auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben.
Betroffen sind vor allem Anbieter und Betreiber
Auch die Gesichtserkennung im öffentlichen Raum – also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen – soll im Grunde genommen nicht gestattet sein. Es gibt jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen diese Gesichtserkennung im öffentlichen Raum verwenden dürfen, um spezifische Straftaten wie Menschenhandel oder Terrorismus zu bekämpfen.
Alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen, unterliegen dem Gesetz. Dies betrifft sowohl öffentliche als auch private Akteure innerhalb und außerhalb der EU.
Bei Verstößen drohen Geldstrafen
Wenn Firmen die Regeln nicht befolgen, müssen die Mitgliedstaaten Sanktionen verhängen. Diese können Geldstrafen umfassen. Personen, die Verstöße gegen die Regeln feststellen, können sich an nationale Behörden wenden. Diese können dann Untersuchungen einleiten und gegebenenfalls Strafen verhängen.
