Verbotene Praktiken im KI-Bereich
Systeme, die künstliche Intelligenz nutzen, gewinnen immer mehr an Bedeutung in unserem Alltagleben. Sie bergen jedoch auch eine Reihe von Risiken und deshalb ist die Festlegung spezifischer Regeln erforderlich.
Seit dem 2. Februar 2025 gelten die Vorschriften über verbotene Praktiken im Zusammenhang mit der Nutzung von Technologien der künstlichen Intelligenz (KI), iee durch die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-VO) eingeführt wurden.
Ziel der eingeführten Verbote ist es, die grundlegenden Menschenrechte zu schützen und die sichere und ethische Nutzung von KI zu gewährleisten.
Welche Praktiken sind bei der Nutzung von KI-Systemen verboten?
Die Vorschriften über verbotene Praktiken umfassen acht Hauptkategorien von Praktiken, die als besonders unethisch oder gefährlich angesehen werden.
- Einsatz von unterschwelligen, manipulativen und irreführenden Techniken
Erstens sind KI-Systeme verboten, die unterschwellige, absichtlich manipulative oder irreführende Techniken verwenden, welche die erheblichen Schäden anrichten und die bewussten Entscheidungen des Einzelnen beeinträchtigen können. Beispiele hierfür sind versteckte Botschaften in Video- oder Audioinhalten, welche die Kaufentscheidungen von Verbrauchern ohne deren bewusste Zustimmung beeinflussen.
- Ausnutzung der Vulnerabilität von Personen oder Personengruppen
Ferner sind Praktiken untersagt, welche in der unethischen Ausnutzung menschlicher „Schwachstellen“ bestehen. KI-Systeme dürfen die psychologischen oder physischen Merkmale von Personen (z. B. Alter, Behinderung, besondere soziale oder wirtschaftliche Situation) nicht in einer Weise ausnutzen, die zu deren Manipulation oder Ausbeutung führt.
- Soziales Scoring
Verboten ist der Einsatz von KI-Systemen zur Bewertung oder Klassifizierung von Einzelpersonen oder Personengruppen auf der Grundlage ihres Sozialverhaltens oder ihrer persönlichen Eigenschaften oder Persönlichkeitsmerkmale. Die sich daraus ergebende Schlechterstellung steht dabei in keinem Zusammenhang zu den Umständen, unter denen die Daten ursprünglich erzeugt oder erhoben wurden bzw. sind ungerechtfertigt oder unverhältnismäßig im Hinblick auf das betrachtete Sozialverhalten oder dessen Tragweite.
- Profiling einer natürlichen Person
Die künstliche Intelligenz darf nicht zur Risikobewertung in Bezug auf natürliche Personen verwendet werden, um das Risiko, dass eine natürliche Person eine Straftat begeht, ausschließlich auf der Grundlage des Profiling einer natürlichen Person oder der Bewertung ihrer persönlichen Merkmale und Eigenschaften zu bewerten oder vorherzusagen. Es ist jedoch darauf hinzuweisen, dass sich dieses Verbot nicht auf den Einsatz von KI erstreckt, wenn dadurch eine menschliche Bewertung der Beteiligung einer bestimmten Person an einer Straftat aufgrund von objektiven und überprüfbaren Tatsachen unterstützt wird.
- Scraping
Als nächste unzulässige Praktik gilt die sog. Scraping, d.h. der Prozess des Auslesens von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen und ihre Verwendung zur Gesichtserkennung.
- Erkennung der Emotionen
KI-Systeme dürfen nicht dazu verwendet werden, Rückschlüsse auf die Emotionen einer Person am Arbeitsplatz oder in Bildungseinrichtungen zu ziehen. Ausnahmen sind Systeme, die aus medizinischen oder Sicherheitsgründen eingesetzt werden.
- Biometrische Kategorisierung
Die KI-Verordnung verbietet die Verwendung biometrischer Kategorisierungssysteme, die Personen auf der Grundlage ihrer biometrischen Daten individuell kategorisieren, um Informationen über ihre Rasse, ihre politischen Einstellungen, Gewerkschaftszugehörigkeit, ihre religiösen oder weltanschaulichen Überzeugungen, ihr Sexualleben oder ihre sexuelle Ausrichtung zu erschließen oder abzuleiten. Ausgenommen von diesem Verbot sind die Kennzeichnung und datenbasierte Filterung rechtmäßig erworbener biometrischer Datensätze und die Kategorisierung biometrischer Daten im Bereich der Strafverfolgung.
- Biometrische Fernidentifizierung
Es ist auch unzulässig, biometrische Echtzeit-Fernerkennungssysteme im öffentlichen Raum zu Strafverfolgungszwecken einzusetzen. Die KI-Verordnung sieht jedoch bestimmte Situationen vor, in denen solche Aktivitäten zulässig sind. Dazu gehören die gezielte Suche nach bestimmten Opfern von Straftaten oder vermissten Personen, das Abwenden einer konkreten Gefahr oder eines Terroranschlags sowie das Aufspüren und die Identifizierung von Personen, die der Begehung besonders schwerer Straftaten verdächtigt sind.
Für wen sind Verbote verbindlich?
Die Bestimmungen der KI-Verordnung gelten sowohl für Anbieter, die KI-Systeme oder allgemeine KI-Modelle in Verkehr bringen oder in Betrieb nehmen (unabhängig davon, ob sie aus den EU-Ländern oder Nicht-EU-Ländern kommen), als auch für Betreiber von KI-Systemen mit Sitz in der EU, für Einführer und Händler von KI-Systemen oder für Anbieter oder Hersteller, wenn die von dem KI-System erzeugten Ergebnisse in der Europäischen Union verwendet werden.
Was sind die Folgen der Anwendung von verbotenen Praktiken im KI-Bereich?
Die KI-Verordnung sieht Geldbußen für die Missachtung des Verbots der bestimmten KI-Praktiken vor. Die Geldbuße kann von bis zu 35 Mio. EUR oder im Falle eines Unternehmens von bis zu 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres betragen, je nachdem, welcher Betrag höher ist.
Die EU-Mitgliedstaaten sind verpflichtet, Vorschriften betreffend Geldbußen einzuführen und alle erforderlichen Maßnahmen zu ergreifen, um deren ordnungsgemäße und wirksame Anwendung zu gewährleisten.
In Polen befindet sich der von dem Ministerium für Digitalisierung ausgearbeitete Gesetzentwurf über Systeme der künstlichen Intelligenz immer noch (März 2025) im Gesetzgebungsprozess.