Seit 2022 hat die Einführung von KI durch globale Organisationen stark zugenommen. 56 % der Unternehmen integrieren KI in verschiedene Funktionen. Während KI beispiellose Möglichkeiten bietet, bleibt die öffentliche Unsicherheit in Bezug auf Fehlinformationen, Vertrauenswürdigkeit und Fairness bestehen.
Als Reaktion auf diese Herausforderungen werden die Regulierungsbehörden aktiv, wie die Einführung des KI-Gesetzes der EU zeigt.
In diesem Blog betrachten wir die Bedeutung des Gesetzes und untersuchen, wie die Einführung gesetzlicher Rahmenbedingungen dazu beiträgt, das digitale Vertrauen in KI zu fördern.
Was ist das KI-Gesetz der EU?
Das KI-Gesetz der EU ist auf dem besten Weg, ein bahnbrechendes Gesetz im Bereich der KI-Regulierung zu werden. Es unterstreicht das Engagement der EU, digitales Vertrauen zu schaffen und dem gesellschaftlichen Wohlergehen Vorrang einzuräumen.
Das Gesetz legt einen umfassenden Rahmen fest, der ethische, leistungsbezogene und Transparenzanforderungen für die Markteinführung eines KI-Systems regelt, und enthält gleichzeitig detaillierte Bestimmungen zum Schutz der Grundrechte.
Der Fokus auf menschenzentrierte und ethische KI zielt darauf ab, einen verantwortungsvollen Einsatz von KI in ganz Europa zu gewährleisten. Das Gesetz betont den Einsatz von Risikomanagementsystemen und fördert die proaktive Bewertung und Minderung potenzieller Risiken.
In dem Gesetz werden vier Risikokategorien für KI-Systeme definiert. Für jede Kategorie gibt es ein bestimmtes Maß an Kontrolle und Verpflichtungen. Sie lauten wie folgt:
- Inakzeptable oder verbotene KI-Systeme.
- Hochriskante KI-Systeme.
- KI-Systeme, die nur begrenzte Risiken bergen.
- KI-Systeme, die als unbedenklich gelten.
Ziel des KI-Gesetzes der EU
Mit dem KI-Gesetz der EU sollen sowohl Innovation als auch Regulierung gefördert werden. Durch die Einhaltung eines systematischen und vorhersehbaren Rechtsrahmens soll das Gesetz eine verantwortungsvolle KI-Entwicklung und -Einführung fördern und so den potenziellen wirtschaftlichen und gesellschaftlichen Nutzen erschließen.
Gleichzeitig betont das Gesetz den Schutz der Grundrechte durch umfassende Vorschriften, die eine Beeinträchtigung des Wohlergehens und der Gesundheit der Nutzer verhindern. Im Wesentlichen unterstreicht das KI-Gesetz der EU die parallele Rolle des technologischen Fortschritts und des Risikomanagements und zielt darauf ab, potenzielle Risiken zu mindern und gleichzeitig Innovationen zu fördern.
Hochriskante KI-Systeme
Für KI-Systeme mit hohem Risiko gelten besondere Bestimmungen des KI-Gesetzes und verstärkte Kontrollen. Um ein solches System zu identifizieren, gibt es im Gesetz eine Reihe von Hinweisen darauf, was als hohes Risiko angesehen werden kann. So gelten beispielsweise KI-Systeme, die in Medizinprodukte eingebaut sind, gemäß Anhang II des Gesetzes als hochriskant.
Umsetzung des KI-Gesetzes
Am 14. Juni 2023hat das Europäische Parlament seine Verhandlungsposition zum KI-Gesetz angenommen. Diese Position wird zusammen mit der Position des Rates Gegenstand eines Trilogs zwischen dem EU-Parlament, dem Rat der Europäischen Union und der Europäischen Kommission sein.
Das KI-Gesetz führt die Verfügbarkeit von sogenannten „Sandboxes“ ein, die von verschiedenen nationalen Stellen für die Entwicklung, Erprobung und Validierung von KI-Systemen bereitgestellt werden. Im Jahr 2022 hat die spanische Regierung eine Pilot-Sandbox initiiert. Darüber hinaus enthält das Gesetz eine Reihe von Bestimmungen für klein- und mittelständische Unternehmen, um die Belastung durch die spezifischen regulatorischen Anforderungen zu verringern.
Warum Regulierung für KI wichtig ist
KI ist bereits tief in unsere digitalen Interaktionen integriert und hat die Macht, die Informationen, auf die wir online zugreifen, zu verändern. Diese Auswirkungen können von Algorithmen in sozialen Medien bis hin zu personalisierter Werbung und Online-Banking-Erfahrungen reichen.
Dieser Gesetzestext für KI wird eine entscheidende Rolle bei der Steuerung ihrer Entwicklung spielen und gleichzeitig den Schutz der Nutzer gewährleisten. Ähnlich wie die Datenschutz-Grundverordnung (DSGVO), die 2018 zum weltweiten Standard wurde, hat auch das EU-Gesetz über künstliche Intelligenz das Potenzial, als globaler Maßstab zu dienen.
Da KI immer mehr Einzug in unser Leben hält, beobachtet BSI aufmerksam die Auswirkungen der bevorstehenden Verabschiedung des KI-Gesetzes der EU, das in eine Verordnung umgewandelt werden soll. Dieser Gesetzestext wird nicht nur die Regulierung solcher Systeme beeinflussen, sondern auch die Entwicklung und Annahme von Best Practice Standards unterstützen, um das wesentliche Fundament des digitalen Vertrauens zu schaffen.
Dieses Vertrauen ist für die breite Akzeptanz und positive Nutzung von KI-Systemen in der Gesellschaft von entscheidender Bedeutung.
