Das Gesetz der Europäischen Union über künstliche Intelligenz: Die Balance zwischen Sicherheit und Innovation

Künstliche Intelligenz (KI) integriert sich weiterhin rasant in alle Bereiche unseres Lebens. Während diese Integration und das Werden zu einem unverzichtbaren Bestandteil unseres Lebens einerseits große Erleichterungen und Innovationen bringen, wirft sie andererseits schwerwiegende Bedenken hinsichtlich Sicherheit und Ethik auf. Genau an diesem Punkt ist die Europäische Union mit ihrem Gesetz über künstliche Intelligenz endlich zum ersten Mal ernsthaft in das Spiel eingetreten, hat Haltung bezogen und versucht, den Rahmen abzustecken. Ich sage versucht, denn wenn es um KI geht, sind die Grenzen weit und die Bereiche, die sie berührt, zahlreich. Was beinhaltet dieses Gesetz also und wo verlaufen vorerst seine Grenzen?

Grundrechte und Freiheiten im Vordergrund

Auf den ersten Blick erscheint das Gesetz über künstliche Intelligenz der Europäischen Union wie ein nutzbringendes Gesetz, das darauf abzielt, die durch die Technologie gebotenen Chancen bestmöglich zu nutzen. Dennoch steht auch der Schutz der Rechte und Grundfreiheiten der Bürger im Mittelpunkt dieser Regulierung. Das Ziel des Gesetzes ist es, Hochrisiko-KI-Anwendungen unter Kontrolle zu bringen und einen Schutzschild gegen den Missbrauch dieser Technologien zu errichten. Das Wort „Hochrisiko“ ist hierbei äußerst kritisch, was bedeutet, dass das Gesetz durch die Einteilung von Risiken in Kategorien einen Ansatz verfolgt. Die erste Debatte beginnt daher genau am Punkt des „Risikos“ und der „Bewertung von Risikogrenzen“ (!).

Sanktionen aus Sicht der Sicherheitspolitik

Mit der neuen Regelung werden sensible Themen wie die Nutzung biometrischer Identifizierungssysteme durch Strafverfolgungsbehörden stark eingeschränkt. Die Nutzung dieser Systeme, insbesondere in „Echtzeit“, wird nur in ganz speziellen Ausnahmefällen (!) und auf der Grundlage vorheriger Genehmigungen möglich sein. Außer in Notfällen wie der Verhinderung von Terroranschlägen oder der Suche nach einer vermissten Person werden solche Anwendungen einer strengen Kontrolle unterliegen, um die Privatsphäre und die Rechte der Bürger nicht zu verletzen. (Bin ich eigentlich der Einzige, der hierbei an den Film „Minority Report“ denken muss?)

Unter Berücksichtigung der potenziellen Risiken künstlicher Intelligenz werden klare Verpflichtungen festgelegt, insbesondere für Hochrisikosysteme. KI-Systeme, die in vielen kritischen Bereichen von Gesundheitsdiensten bis zum Bankenwesen, von der Bildung bis zur Beschäftigung eingesetzt werden, müssen transparent, genau und für eine menschliche Aufsicht zugänglich sein. Dies zielt darauf ab, das Vertrauen der Nutzer in künstliche Intelligenzsysteme zu stärken. Darüber hinaus haben Bürger das Recht, Beschwerden über diese Systeme einzureichen und aussagekräftige Erklärungen zu Entscheidungen zu erhalten, die ihre Rechte betreffen.

Social Scoring Anwendung ist für Europa vorerst weit entfernt

Eines der bemerkenswertesten Themen in den Debatten über künstliche Intelligenz ist das soziale Bewertungssystem (Social Scoring) und Manipulation. Die Haltung des Gesetzes an diesem Punkt ist überaus klar: Unethische Praktiken, die die Sicherheitslücken von Menschen ausnutzen, ihre Gefühle manipulieren oder Systeme wie Social Scoring, werden strikt verboten. Dieser Schritt wird sicherstellen, dass Einzelpersonen nicht bloß als Datenpunkte, sondern als Menschen mit Rechten gesehen werden. (Es ist unerlässlich geworden, Chinas eingeführtes „Sozialkredit-System“ in einem anderen Artikel separat zu behandeln.)

Unterstützung von Start-ups und kleinen bis mittleren Unternehmen angestrebt

Dieses Gesetz zielt auch darauf ab, Innovationen zu fördern. Damit kleine und mittlere Unternehmen (KMU) im Bereich der künstlichen Intelligenz eine aktivere Rolle übernehmen können, werden unterstützende Maßnahmen wie regulatorische Sandkästen (Regulatory Sandboxes) und Tests unter realen Bedingungen (Real-World Testing) eingeführt. (In diesem Umfeld können Unternehmen und Gründer ihre Produkte und Dienstleistungen, die normalerweise rechtlichen und regulatorischen Einschränkungen unterliegen würden, für einen bestimmten Zeitraum unter realen Bedingungen testen. Die Regulierungsbehörden gewähren in diesem Prozess unter Berücksichtigung der potenziellen Vorteile von Innovationen gewissen Spielraum.) Dadurch soll das Überwinden von Hindernissen unterstützt werden, auf die diese Unternehmen bei der Entwicklung neuer Technologien stoßen.

Selbstverständlich wird dieses Gesetz auch strafrechtliche Sanktionen haben

Dem Gesetz zufolge werden „KI-Systeme mit allgemeinem Verwendungszweck“ (GPAI) hohen Transparenzanforderungen unterworfen. Insbesondere manipulative Inhalte wie Deepfakes müssen eindeutig gekennzeichnet werden. Die Sensibilität der EU in dieser Hinsicht zielt darauf ab, Fehlinformationen und die Irreführung der Gesellschaft zu verhindern. Zudem wird es verpflichtend sein, die in den Trainingsprozessen dieser Modelle verwendeten Daten klar anzugeben. Dies wird sowohl den Schutz ethischer Werte als auch die Steigerung der Zuverlässigkeit der Systeme gewährleisten. Wie Sie wissen, waren ethische Debatten im Bereich der künstlichen Intelligenz und des maschinellen Lernens in den letzten Jahren häufig Thema, und es wurde festgestellt, dass Systemen auch vorsätzlich Fehlinformationen oder Vorurteile beigebracht wurden.

Obwohl der Schritt der EU den Geist der EU widerspiegelt, die als Verfechter humanitärer Werte bekannt ist, sendet er auch einige Signale an die sich unaufhaltsam schnell entwickelnde Technologiewelt. In einer Zeit, in der Gesetzgeber nicht mit der Geschwindigkeit der Technologie Schritt halten konnten, haben große Initiativen hinter verschlossenen Türen bedeutende Durchbrüche erzielt und auf Kosten einer gewissen Zerstörung eine REVOLUTION herbeigeführt, wodurch die KI ein bestimmtes Niveau erreicht hat. Dieselben Unternehmen haben kurz vor dem Inkrafttreten des EU-Gesetzes und ähnlicher Regelungen ihre Bemühungen zur Produkt- und Technologieentwicklung mit einem letzten Zwischenspurt beschleunigt. (Es ist sicher, dass wir vor dem neuen Gesetz nacheinander viele neue Produkte und Anwendungen kennenlernen werden, als gelte es, zu retten, was zu retten ist.) Während auf der einen Seite Unternehmen Freiheit und Rentabilität fordern, auf der anderen Seite Strafverfolgungsbehörden den Drang verspüren, jeden zu kontrollieren, und auf wieder einer anderen Seite die Befürchtung real ist, dass die Freiheitsräume der Einzelnen bedroht sind, werden aus diesem Bild in der kommenden Zeit noch viele Debatten hervorgehen.

Das heißt…

Das Gesetz der Europäischen Union über künstliche Intelligenz präsentiert sich als eine umfassende Verordnung, die technologische Entwicklungen fördern und gleichzeitig die Sicherheit und die Rechte der Bürger schützen möchte. Während dieses Gesetz Europas digitale Zukunft gestaltet, zielt es darauf ab, eine Struktur auf der Grundlage von Ethik und Recht zu schaffen. Europas Wunsch, seine Führungsrolle in diesem Bereich zu behaupten, ist offensichtlich; jedoch wird in diesem Prozess auch der Beitrag aller gesellschaftlichen Schichten benötigt. Die Entwicklungen und Regulierungen an den Fronten der eigentlichen Hauptakteure in diesem Bereich, den USA und China, werden die eigentlichen Bestimmungsfaktoren für unser aller gemeinsame Zukunft sein.

Mal sehen, wie lange Europa wird widerstehen können…