Neue Regeln für die Herstellung und den Betrieb von KI-Systemen
Vorschlag für europäische Regeln für Künstliche Intelligenz in Hochrisikoanwendungen

Mit ihrem Verordnungsvorschlag will die Kommission erstmals Regeln für die Herstellung, das Inverkehrbringen und die Nutzung von Künstlicher Intelligenz schaffen. Dabei beschränkt sie sich auf KI-Hochrisikoanwendungen, welche fortan einer Reihe von Standards entsprechen müssen. Besonders problematische Systeme werden pauschal verboten.

26.04.21

Am 21. April 2021 hat die Europäische Kommission ihren Entwurf für ein KI-Gesetz, den sogenannten „Artificial Intelligence Act“, vorgelegt. Der Verordnungsvorschlag widmet sich sogenannten KI-Hochrisikoanwendungen und schlägt Regeln für deren Herstellung, Inverkehrbringen und Nutzung vor.

Der Gesetzesvorschlag definiert eine Reihe an Anwendungsfeldern, in denen die Nutzung von KI ein besonders hohes Risiko mit sich bringt. KI-Systeme, die für Anwendungsfelder mit hohem Risiko entwickelt werden, müssten eine Reihe an Standards erfüllen, bevor sie auf den Markt gebracht werden dürften. Eine einschlägige und kommunalwirtschaftlich relevante Verwendung sind KI-Systeme, welche als sogenannte „Sicherheitskomponenten“ in wesentlichen öffentlichen Infrastrukturen wie der Versorgung mit Wasser, Gas, Wärme und Elektrizität eingesetzt werden.

So müssten beispielsweise die Daten, die zur Entwicklung der KI-Hochrisikoanwendung genutzt wurden, definierten Standards genügen und gewisse Dokumentationspflichten im Entwicklungsprozess eingehalten werden. Ebenso schlägt die Kommission vor, dass für KI-Hochrisikoanwendungen ein Risikomanagement durchgeführt und die Möglichkeit der menschlichen Überprüfung der Entscheidungsfindung des Systems gewährleistet werden. In diesem Zusammenhang soll auch die Entscheidungsfindung des KI-Systems über den gesamten Lebenszyklus hinweg konsistent bleiben, was insbesondere bei dynamisch lernenden Systemen wichtig ist.

Die Überprüfung dieser Standards könnte vor der Markteinführung des KI-Systems im Rahmen einer Selbstprüfung durch den Hersteller vorgenommen werden. Ausnahmen sollen bestimmte KI-Systeme, bei denen die Konformitätsprüfung durch unabhängige Dritte durchgeführt werden muss, bilden. Neben der Einhaltung und Prüfung der Standards will die Kommission Hersteller von KI-Systemen verpflichten, die KI-Hochrisikosysteme in ein einheitliches europäisches Register einzutragen, welches mit dem Verordnungsvorschlag geschaffen werden soll.

Für die Betreiber einschlägiger KI-Systemen sollen Aufsichts- und Sorgfaltspflichten im Betrieb der KI geschaffen werden. Betreiber von KI-Hochrisikoanwendungen sollen unter die schärferen Regeln für Hersteller von KI fallen, wenn sie KI-Systeme „signifikant modifizieren“ oder für einen anderen Zweck als den vom Hersteller vorgesehenen verwenden. Bei Verstößen gegen die Bestimmungen des Gesetzes könnten Bußgelder von bis zu 20 Millionen Euro oder vier Prozent des Jahresumsatzes verhängt werden.

Bestimmte KI-Anwendungen, wie solche zur Manipulation menschlichen Verhaltens, der systematischen Ausnutzung menschlicher Schwächen oder der Klassifikation von Menschen, will die Kommission pauschal verbieten. KI-Systeme zur biometrischen Gesichtserkennung in der Überwachung öffentlicher Plätze dürften nur in Ausnahmefällen durch nationale Behörden genutzt werden. Für die Nutzung von KI-Systemen in diesen verbotenen Anwendungsfeldern, oder Verstößen gegen die Anforderungen an die Daten zur Entwicklung der KI, könnten verschärfte Bußgelder von bis zu 30 Millionen Euro oder sechs Prozent des Jahresumsatzes verhängt werden.

Schlagworte