28.02.22 - KI-Verordnung

Umsetzung der KI-Verordnung in Deutschland

Ein Diskussionsbeitrag zur Umsetzung der KI-Verordnung der EU in Deutschland

Anita Klingel

Senior Consultant, PD - Berater der öffentlichen Hand GmbH und Co-Leiterin der NExTcommunity: Digitale Ethik

Aus der NExTcommunity: Digitale Ethik heraus entstand die Idee eines neuen Werkstücks: Wir wollten gemeinsam ein Papier erstellen, das die operativen Ableitungen aus der KI-Verordnung für die Verwaltung beleuchten soll. Dabei wollten wir nicht auf das politische Ob eingehen, sondern das administrative Wie sauber und konsequent durchdenken: Was bedeutet diese Verordnung für uns als öffentliche Hand? Welche Aufgaben kommen auf uns zu, welche Kompetenzen und Ressourcen benötigen wir dazu?

Ein Diskussionsbeitrag zur Umsetzung der KI-Verordnung der EU in Deutschland. Unsere Überlegungen zur KI-Verordnung der EU – Was die öffentliche Hand jetzt braucht, um sie sinnvoll umzusetzen.

Mit unserem Diskussionspapier zur „Umsetzung der KI-Verordnung der EU in Deutschland“ leisten wir einen Beitrag dazu, wie die KI-Verordnung in ihrer voraussichtlichen Form wirksam umgesetzt werden kann.

Im April 2021 verabschiedete die Europäische Kommission einen Vorschlag zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz. Dieser Vorschlag wurde von der breiten Öffentlichkeit in Deutschland grundsätzlich positiv aufgenommen und wird inzwischen auch außerhalb der EU als Blaupause für die regulative Rahmung künstlicher Intelligenz verwendet. Die Herausforderung dieses Rahmens ist, eine Balance zu finden zwischen gesellschaftlichem Gemeinwohl einerseits und innovativer Freiheit andererseits. Während wirtschaftliche und technische Perspektiven im öffentlichen Diskurs über die KI-Verordnung stark diskutiert werden, kommt eine Stimme bisher relativ selten vor: Die derjenigen, die für die tägliche Umsetzung dieser Verordnung in der öffentlichen Hand zuständig sein werden.

Das wollen die Autor:innen des Diskussionspapiers ändern, das im Rahmen der NExTwerkstatt: KI-Verordnung über alle Ebenen und Strukturen der öffentlichen Hand hinweg gemeinsam erarbeitet wurde. Die Autor:innen machen hierbei konkrete, konstruktive Vorschläge zur operativen Umsetzung der KI-Verordnung: Von der Frage, wie das von der Verordnung vorgegebene strukturelle Rahmenwerk aus notifizierender Behörde, notifizierten Stellen und Konformitätsbewertungsstellen (KBS) in die bestehende föderal und sektoral differenzierte Verwaltungslandschaft in Deutschlandintegriert werden kann, über die nötige Qualifizierung und Gewinnung von Fachkräften bis hin zu Rahmenbedingungen für transparente, verlässliche und gemeinwohlorientierte Prüfprozesse, behandelt das Papier eine Reihe von operativen Aspekten, die bisher wenig beachtet wurden.

Für jede dieser Fragen werden konkrete Ideen vorgestellt: Die Etablierung von Landesprüfstellen, um insbesondere kleinen und mittleren Kommunen den Zugriff auf die nötige Prüfexpertise zu ermöglichen. Die Verankerung sektoraler Leitprüfstellen, die aus den allgemeingültig vorgegebenen Standards und Kriterien für den jeweiligen Sektor nutzbare und für alle KBS dieses Sektors verbindliche Prüfprozesse ableiten und so die Ausnutzung regulativer Unterschiede zwischen einzelnen KBS vermindern. In vielen Fällen können hierbestehende Aufsichtsbehörden erweitert werden – müssen dann aber auch über die erforderlichen Ressourcen verfügen. Die Definition von KI-spezifischen Kompetenzarten und –tiefen, um über Behörden hinweg Qualifikationen einheitlich beschreiben zu können. Und nicht zuletzt die Einrichtung eines bundesweiten Transparenzregisters, in dem alle Akteure jederzeit nachvollziehen können, welches algorithmische System („KI“) sich aktuell bei welcher Prüfstelle in welchem Prüfstadium befindet.

Diese konkreten Vorschläge werden in vier Handlungsfeldern gebündelt:

  1. Klare Zuständigkeiten und übergreifende Zusammenarbeit
  2. Sektorale Prozessverantwortung
  3. Breite, auswirkungsorientierte Definition von KI
  4. Ressourcen, um zu handeln

Um dieses Potenzial für die öffentliche Hand als Anbieterin algorithmischer Systeme zu nutzen, aber auch ihrer Verantwortung als Prüferin derselben gerecht zu werden, „brauchen wir mehr als nur geduldiges Papier“ – so das Fazit der Autor:innen.

Lies unsere ausführlichen Überlegungen zum Ansatz jetzt im Diskussionspapier „Umsetzung der KI-Verordnung der EU in Deutschland“, das hier zum kostenlosen Download zur Verfügung steht.

Downloads

Download

Diskussionspapier: KI-Verordnung

Unser Diskussionspapier zur Umsetzung der KI-Verordnung in Deutschland

pdf
Mailbox an Tür neben tropischen Pflanzen

Registriere Dich für den Newsletter!

Erhalte unseren regelmäßigen Newsletter mit aktuellen Informationen aus dem NExTnetzwerk und unseren Veranstaltungshinweisen. Melde Dich jetzt an.