Studie zu KI-Regulierung: EU-Regeln stellen Unternehmen vor große Hürden / Digitalministerin Gerlach: Innovation nicht durch Überregulierung ausbremsen

28. März 2023

Laut einer neuen und bislang einzigartigen Studie stellt die aktuell geplante KI-Verordnung der Europäischen Union Unternehmen in Bayern vor große Hürden. Deutlich mehr als die Hälfte der von den Unternehmen entwickelten KI-Anwendungen könnten demnach in den Hochrisikobereich fallen, was für die Betroffenen einen erheblichen finanziellen und personellen Mehraufwand bedeuten würde. So könnten für die Unternehmen deutlich mehr als 350.000 Euro an Zusatzkosten entstehen. Diese Mehrkosten setzen sich zusammen aus dem Aufbau eines notwendigen Qualitätsmanagements im Zusammenhang mit dem Zertifizierungsprozess (ca. 250.000 - 330.000 Euro) und zusätzlichen Konformitätskosten pro entsprechendem Anwendungsfall (ca. 40.000 - 60.000 Euro pro Anwendung). Ändert sich eine bereits zertifizierte Anwendung, beispielsweise durch eine Weiterentwicklung, fallen erneut Kosten für eine entsprechende Rezertifizierung bzw. Konformität an.

Die Studie kommt zu dem Ergebnis, dass 18 % der über 100 untersuchten KI-Systeme der Hochrisiko-Klasse und 42 % der Klasse mit geringem Risiko zuzuordnen wären. Bei etwa 40 % der untersuchten Anwendungen ist eine Klassifizierung derzeit nicht zweifelsfrei möglich, was bedeutet, dass möglicherweise knapp 60 % aller Anwendungen in den Hochrisikobereich mit den entsprechend hohen Anforderungen und Zertifizierungspflichten fallen könnten.

Staatsministerin Judith Gerlach: „Die Studie zeigt: Der Entwurf der KI-Verordnung der EU ist zu risikofixiert und an zu vielen Stellen noch unklar. Ein solches Regelwerk funktioniert in der Praxis nicht und bringt unnötige Hürden für die Wirtschaft. Die Unternehmen brauchen Klarheit und Planungssicherheit für den Einsatz und die Entwicklung von Technologien.“

Insbesondere angesichts der rasanten Entwicklungen im Bereich Künstliche Intelligenz dürfe Deutschland nicht zurückfallen. Man müsse KI-Knowhow aufbauen, weil dies die Grundlage dafür sei, dass Ideen und Innovationen die besten Chancen auf Umsetzung in unserem Land haben, so die Ministerin. Man brauche Gestalter und müsse ihnen die nötigen Freiräume geben, anstatt sie durch Übernormierung zu blockieren.

Aktuell wird der internationale Wettbewerb im Bereich KI von großen Tech-Unternehmen insbesondere aus den USA und China bestimmt. „Statt uns in technologische Abhängigkeiten zu begeben, müssen wir selbstbestimmt unser freiheitlich-demokratisches Wertesystem in die digitale Welt tragen“, so Gerlach. „Wir müssen zu den Gestaltern modernster Technologien wie ChatGPT werden, anstatt reine Konsumenten zu bleiben.“

Im Januar hat der Chatbot ChatGPT nach Angaben seines Entwicklers OpenAI innerhalb von nur vier Wochen die Marke von 100 Millionen aktiven Nutzern geknackt. Dies ist die schnellste Verbreitung einer neuen Technologie in der Geschichte.

Die einseitig risikofixierte Diskussion innerhalb der EU ist deshalb so problematisch, weil sich durch derartige Anwendungen völlig neue Einsatzmöglichkeiten für Technologien bieten – beispielsweise im Bildungsbereich.

Auch Dr. Andreas Liebl, Managing Director appliedAI, wirbt für eine Überarbeitung der Regeln zur Risikoklassifizierung: „Während wir definitiv eine gute Regelung für den Einsatz riskanter KI-Systeme brauchen, dürfen wir nicht die Vorteile dieser Systeme vergessen und uns einseitig auf das Risiko fokussieren. Dazu kommt, dass jede Art von Unsicherheit in Kombination mit hohen Strafen dazu führt, dass Unternehmen übervorsichtig entscheiden werden und womöglich viel zu viele Anwendungen ausschließen.“

Der derzeit vorliegende Entwurf der KI-Verordnung verfolgt er einen risikobasierten Ansatz, wonach KI-Systeme einer Risikoklasse zugeordnet werden und Hochrisiko-Systeme strengere Anforderungen erfüllen müssen als KI-Systeme in einer niedrigen Risikoklasse.

Außerdem diskutiert die EU aktuell, ob auch Programme wie ChatGPT standardmäßig als hochriskant klassifiziert werden müssten.

Mit der gemeinsamen und bislang einzigartigen Studie mit dem Titel „AI Act: Klassifizierung von KI-Anwendungen aus der Praxisperspektive“ wollen Digitalministerin Gerlach und die appliedAI Initiative GmbH den verhandlungsführenden Personen in Brüssel die konkreten Auswirkungen der Regulierung auf die europäischen Unternehmen aufzeigen. Die Studie macht erstmals aus der Praxisperspektive deutlich, welchen Einfluss die EU-Regeln für die Risikoklassifizierung auf KI-Innovationen in Unternehmen haben.

Zu den konkreten Empfehlungen der Studie an die europäischen Entscheidungsträger gehören:

• Der Aufbau eines zentralen europäischen Portals für eine verbindliche und schnelle Beantwortung bei Fragen in Bezug auf unklare Klassifizierung.
• Die Beschleunigung bei der Entwicklung von Standards und Leitfäden, die die Anforderungen der KI-Verordnung spezifizieren, um Unsicherheit und Unklarheit für die Unternehmen zu beseitigen.
• Ein starker Aufbau von Kompetenzen innerhalb der zuständigen Stellen auf Bundes- und Landesebene, um bei der Konformitätsbewertung nicht zu Flaschenhälsen zu werden.
• Die Vereinheitlichung von Definitionen, da inkonsistente Definitionen Aufwände bedeuten, ohne einen Mehrwert zu schaffen.

Bayern baut seine KI-Kompetenzen weiter aus. Dazu gehören nicht zuletzt die 100 KI-Lehrstühle im Zuge der Hightech-Agenda Bayern, das bayerische KI-Netzwerk baiosphere oder der erst kürzlich vorgestellte Digitalplan von Ministerin Gerlach.

Das Digitalministerium unterstützt bayerische KMU bei der Implementierung von KI in den Unternehmen mit dem Projekt „KI-Transfer Plus“, das zusammen mit appliedAI umgesetzt wird.