Mit dem Stichtag 2. Februar 2025 müssen Unternehmen, die KI entwickeln oder einsetzen, ihre Systeme nach dem Risikograd bewerten und geeignete Maßnahmen ergreifen, um den gesetzlichen Anforderungen gerecht zu werden. Ziel der Verordnung ist nach Darstellung der KOM nicht nur der Schutz der Rechte der Bürgerinnen und Bürger. Man wolle auch sicherstellen, dass KI verantwortungsvoll eingesetzt werde.
Demnach ist in der EU die Anwendung von KI-Programmen verboten, die eine Bewertung nach sozialem Verhalten vornehmen (Social Scoring). Auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sowie manipulative KI-Systeme sind nicht erlaubt. Verboten sind außerdem KI-Systeme, die ungezielt aus dem Internet oder Videoüberwachungsanlagen Bilder von Gesichtern auslesen und damit Datenbanken aufbauen (Scraping). Bei Verstoß sind Geldbußen von bis zu 35 Mio. Euro oder sieben Prozent des weltweiten Jahresumsatzes eines Unternehmens vorgesehen.
Kurz nach Inkrafttreten der Vorschriften hat die KOM begleitende Praxis-Leitlinien präsentiert, welche die Verbote präzisieren. So werden unter manipulativen KI-Techniken solche Systeme verstanden, die unterbewusste Reize oder gezielte Täuschung einsetzen. Zum Verbot des „Social Scoring“ führt die KOM aus, dass KI persönliche Daten nicht aus unzusammenhängenden Kontexten nutzen darf, um Personen zu bewerten – beispielsweise Social-Media-Aktivitäten für Kreditbewertungen. Die Leitlinien sind nicht rechtsverbindlich, sollen aber eine einheitliche Auslegung in der EU sicherstellen. Sie richten sich an Unternehmen, Behörden und Marktüberwachungsstellen, die für die Einhaltung der Vorschriften verantwortlich sind.
Ebenfalls gültig sind nun die Vorschriften zur Definition von KI-Systemen und zur KI-Kompetenz: Anbieter und Betreiber von KI-Systemen müssen von nun an sicherstellen, dass alle Personen, die mit der Entwicklung oder dem Betrieb von KI-Systemen befasst sind, über ein ausreichendes Maß an Kompetenz im Umgang mit der Schlüsseltechnologie verfügen. Entsprechende Schulungen werden daher verpflichtend.
Weitere Informationen zu den neuen KI-Regelungen sind der Pressemitteilung der Vertretung der KOM in Deutschland zu entnehmen. (VS)