Chancen und Herausforderungen der neuen EU-Verordnung zur Regulierung von Künstlicher Intelligenz

Transformation trifft Datenschutz

Die neue EU-Verordnung zur Regulierung von Künstlicher Intelligenz (siehe [1]) stellt einen weiteren wichtigen Schritt zum bewussteren Umgang mit der KI-Nutzung dar. Sie setzt neue Regeln für Technologieunternehmen sowie Regierungen und letztendlich auch den Verbraucher. Die rasante Entwicklung der KI hat global für sehr viel Veränderung und Transformation gesorgt und markiert einen neuen Meilenstein im Bereich der Technologie und Ethik. Angefangen bei der Automatisierung von Produktionsprozessen bis hin zur Verbesserung medizinischer Diagnosen treibt die KI neue Lösungen an. Einhergehend mit diesen Fortschritten gibt es auch neue ethische Herausforderungen im Hinblick auf die Themen Datenschutz, Transparenz und Schutz vor Diskriminierung.

Die neue Verordnung wurde insbesondere dazu geschaffen, einen ausgewogenen Ansatz für den weiteren Umgang mit der KI zu entwickeln. So legt sie den Fokus auf KI-Nutzung in sogenannten Hochrisikobereichen wie z. B. Gesichtserkennung in Echtzeit, biometrische Identifikation und KI-Systeme in sicherheitskritischen Sektoren, wie Verkehr und Gesundheitswesen. KI-Verfahren in diesen Hochrisikobereichen unterliegen gemäß der geplanten Verordnung strengen Zertifizierungsprozessen, damit Sicherheit und Ethik bei der Nutzung der KI gewährleistet werden können.

Fehlerhafte Gesichtserkennung und Profiling

Insbesondere in der letzten Zeit wurden gehäuft Fälle bekannt, bei denen die fehlerhafte Gesichtserkennung die damit verbundene Verdächtigung von unschuldigen Personen weiterhin auch im privatwirtschaftlichen Sektor negativ beeinflusst hat. Da dies bei den Einlasskontrollen durch Gesichtserkennungssoftware im New Yorker Madison Square Garden häufig der Fall war, ist nun ein Gerichtsverfahren eingeläutet worden, in dem zur Debatte steht, ob der Einsatz von biometrischer Überwachung eine Gefahr für Bürgerinnen und Bürger darstellt. Beispielsweise habe KI auch eine hochschwangere Frau einer Straftat verdächtigt, die sie offensichtlich nicht begangen hat. Oft werden Menschen, deren Aussehen nicht einem weißen und männlichen Bild entsprechen, falsch erkannt und zu Unrecht verdächtigt. Da „Künstliche Intelligenz“ vereinfacht gesagt ein statistisches Modell darstellt, welches basierend auf Daten Wahrscheinlichkeitsvorhersagen macht, können (und werden) solche Fehler leider vorkommen. Der somit entstandene Vorwurf, dass KI-Systeme diskriminieren können, da Trainingsdaten von KI fast immer durch gesellschaftliche Ungleichheit verzerrt werden oder diskriminierende Stereotype produzieren könnten, sei somit legitim.

Um den weiteren Missbrauch von Daten sowie Datenschutzverletzungen zu verhindern, ist ein Verbot übermäßiger Überwachung in der Verordnung verankert, welches den Einsatz von KI einschränkt, die Menschen in der Öffentlichkeit überwachen und verfolgen könnte, um den weiteren Missbrauch von Daten sowie Datenschutzverletzungen aufzuhalten.

Forderung nach mehr Transparenz

Eine transparente und verständliche Gestaltung der KI-Systeme ist bei vielen Ansätzen technisch nicht möglich und schwer umzusetzen. Daher wird diese Anforderung von Unternehmen kaum erfüllt. Zudem wird dem Nutzer ein Einblick in die Entstehung von Entscheidungsprozessen erschwert.

Transparenz und Verständlichkeit würden nicht nur das Vertrauen in die KI fördern, sondern auch die Diskriminierung durch intransparente Algorithmen erschweren – jedoch ist dies in der Realität schwer umzusetzen.  Die Einführung der Verordnung unterstreicht somit die Verantwortung der EU, die Entwicklung und den Einsatz von KI-Technologien in Einklang mit ethischen und rechtlichen Normen zu bringen.

Neue EU-Verordnung setzt klares Zeichen

Die Neuregelung stellt ein starkes Signal an die internationale Gemeinschaft dar und setzt so einen Präzedenzfall für die Regelung von KI auf globaler Ebene und für andere Länder. Eine Herausforderung liegt in der Definition von „hochriskant“ und der Anpassung der Verordnung an den sich schnell verändernden KI-Sektor. Die enge Zusammenarbeit zwischen Unternehmen und den Regulierungsbehörden sowie der Zivilgesellschaft wird entscheidend sein, um neue Herausforderungen anzugehen.

Die neue EU-Verordnung markiert einen wichtigen Schritt in Richtung verantwortungsbewusster KI-Nutzung. Sie balanciert die Themen Innovation und Ethik und legt so den Grundstein für eine zukünftige, humanzentrierte Entwicklung von KI-Technologien. Eine Prognose, wie sich diese Verordnungen auf die KI-Landschaft auswirken und wie andere Länder ähnliche Regulierungsansätze übernehmen könnten, lässt sich noch nicht aufstellen, doch die Zukunft wird es zeigen.

Chat-GPT und seine Grenzen

Im April 2023 wurde ein offener Brief des „Future of Life Institute“ veröffentlicht. Die Unterzeichner, u.a. Elon Musk, fordern eine 6-monatige Pause bei großen KI-Experimenten sowie dem Training von KI-Systemen, deren Performance über das von der Chat-GPT-Initiatorin Open AI genutzte System GPT-4 hinausgeht. Laut dem offenen Brief von Musk und anderen Unterzeichnern bestehe eine weitverbreitete Angst hinsichtlich „KI-Governance“. Open AI und deren GPT-4 haben somit eine neue öffentliche Diskussion über KI und ihre Risiken entfacht. Musk steht natürlich im Verdacht, die Vermarktung von Chat-GPT beeinflussen zu wollen, weil seine Firmengruppe gegenwärtig selbst mit einem solchen Projekt beschäftigt ist. Klar ist jedoch auch, dass der offene Brief vor dem Hintergrund einer weitverbreiteten Skepsis in der öffentlichen Debatte zu sehen ist.

Die Entwicklung von standardisierten Sicherheitsmechanismen für die Entwicklung fortschrittlicher KI, die laufend von unabhängigen externen Experten geprüft und überwacht werden können, sollte nicht allein den KI-Laboren überlassen werden. Sie sollte alle Beteiligten in der Gesellschaft einbinden, von den Entwicklern über System-Betreiber bis zu allen natürlichen Personen, deren Persönlichkeits- und Selbstbestimmungsrechte von KI beeinträchtigt werden könnten. Die EU-Initiative hat vor allem Letzteres im Blick – ein hoher Anspruch. Ob sie diesem Anspruch gerecht wird, ist Gegenstand intensiver Debatten, die sicherlich auch dann andauern werden, wenn die Verordnung bereits verabschiedet sein wird.

Quellen

[1]  https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf