Foto: @iStockphoto

Was sind die möglichen Vorteile und Herausforderungen einer gesetzlichen Regulierung von künstlicher Intelligenz?

KI-basierte Anwendungen verändern die Welt in immer kürzeren Innovationsschritten. Ob oder wie die Gesetzgebung darauf reagieren könnte, dazu nehmen Experten aus Wissenschaft und Forschung Stellung.

Eva Gfrerer,
Founder & CEO von Morphais, Berlin
© Morphais

“Die Regulierung von KI ist ein zweischneidiges Schwert. Einerseits ist es wichtig, Urheberrechte zu schützen und ethische Standards zu etablieren. Andererseits dürfen europäische Start-ups nicht durch einen ungleich höheren Entwicklungs- und Bürokratieaufwand benachteiligt werden, da dies zur Abwanderung von Talenten und verlorenen Potenzialen in Europa führen wird. Zudem zeigt sich oft, dass Regulierungen nicht mit der raschen Technologieentwicklung Schritt halten können, sodass veraltete Vorschriften Unternehmen vor zusätzliche Herausforderungen stellen.”

„Die Regulierung der Basis- und Schlüsseltechnologie KI steht vor mindestens drei Herausforderungen: der praktisch endlosen Menge möglicher Anwendungen, der Geschwindigkeit der technischen Entwicklung und der Vagheit der Begrifflichkeiten. Hinzu kommt, dass viele der mit der Regulierung befassten Institutionen und Akteure selbst kaum Erfahrung mit der Technologie haben und es für solch eine Wissens- und Kommunikationstechnologie praktisch keine historischen Vorbilder gibt, an denen man sich orientieren könnte. Der Vorsatz, neben den Risiken auch die vielfältigen Chancen zu betrachten, ist ein Gemeinplatz in Sonntagsreden und auch in fast jedem journalistischen Beitrag, etwa über den EU AI Act. Allerdings hört und liest man über die regulierten Chancen dann meist eher wenig: Dazu könnte beispielsweise ein Recht auf KI-Hautkrebsvorsorge als Kassenleistung gehören, ebenso wie das Versprechen, bestimmte Behördenleistungen mithilfe von KI zu beschleunigen – etwa Steuerprüfungen oder Solaranlagen-Anmeldungen. Angesichts des enormen Fachkräftemangels wäre das ein anschauliches Beispiel für die nationale Umsetzung des AI Act.“

Aljoscha Burchardt,
Principal Researcher, Research Fellow und stellvertretender Standortsprecher des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI GmbH) in Berlin
© DFKI

Dr. Benjamin Seibel,
Direktor CityLAB Berlin
© Florian Reimann

„Wenn sie richtig gemacht wird, kann eine Regulierung Sicherheit bieten und Bedenken aus dem Weg räumen. Vor allem im öffentlichen Sektor, aber auch bei vielen Unternehmen erlebe ich aktuell noch Zurückhaltung beim Einsatz von KI, obwohl der Bedarf eigentlich da ist. Grund ist fast immer die Unklarheit, wie sich KI rechtssicher einsetzen lässt. Ich finde, wir sollten Regulierung nicht in erster Linie als Verhinderung denken, sondern als Ermöglichung: Sie muss die Grundlagen schaffen, damit wir unkomplizierter in die Anwendung kommen können. Wichtig finde ich, dass die Regulierung des Digitalen nicht in überbordender Papierbürokratie mündet, denn die ist insbesondere für kleinere Akteure und Start-ups kaum noch zu bewältigen. Wir brauchen vielmehr ein schlankes, lernfähiges und digitalaffines Vorgehen, das offen für Neues bleibt und Impulse aus der Praxis aufnehmen kann.“

„Durch den rasanten Fortschritt und die zunehmende Integration von KI in unseren Alltag ist es ganz zentral, dass eine Regulierung zeitnah stattfindet. Ein wesentlicher Punkt ist aus meiner Sicht, KI-generierte Inhalte klar von echten zu unterscheiden. Das schützt vor Täuschung und fördert das Vertrauen der Nutzer, was wiederum die gesellschaftliche Akzeptanz und Eingliederung von KI fördert. Gleichzeitig sollte die Regulierung so flexibel sein, dass sie Innovation nicht behindert, sondern idealerweise fördert. Eine weitere Herausforderung sehe ich darin, dass es mit einer einmaligen Regulierung nicht getan sein wird. Man muss dranbleiben, die technologische Entwicklung im Auge behalten und darauf flexibel reagieren – nicht gerade die Stärke einer Demokratie. Eine weitere große Herausforderung ist mit Sicherheit die internationale Abstimmung. Was bringt eine Erkennung von KI-generierten Inhalten, wenn nur deutsche oder europäische Unternehmen sie umsetzen müssen? Allen Herausforderungen zum Trotz sehe ich massive Vorteile einer Regulierung. Klare rechtliche Rahmenbedingungen können dafür sorgen, dass der Einsatz von KI-Systemen ethischen Normen entspricht und frei von Diskriminierung bleibt. Packen wir es an!“

Phillip Schulte,
Geschäftsführer P&M Agentur Software + Consulting
GmbH, Hamburg
© P&M

Dr. Sebastian Hallensleben,
Head of Digitalisation and AI, VDE Verband der Elektrotechnik Elektronik Informationstechnik e. V., Vorsitzender des CEN-CENELEC JTC AI
© Uwe Nölke / VDE

“Die Regulierung von KI, insbesondere durch den AI Act, schafft ein ‚level playing field‘ für alle Anbieter und Betreiber von KI in Europa. Das Abwägen zwischen innovationsfreundlichen Freiräumen einerseits und Vorschriften zur Limitierung von Risiken andererseits erfolgte dabei im demokratischen Diskurs der europäischen Institutionen, einschließlich des Europaparlaments. Genau dort gehört dieses Abwägen auch hin – und nicht in das Ermessen einzelner Unternehmen, die immer in einem Interessenkonflikt zwischen ethischem Handeln und kommerziellen Zielen stehen. Es wird sich jedoch zeigen müssen, wie sich die Regulierung in der Praxis bewährt und wo eventuell nachgesteuert werden muss. Eine praktische, rechtssichere Umsetzungshilfe liefern dabei die ‚harmonisierten Standards‘, die derzeit im Konsens aller relevanten Stakeholder entwickelt und bis zum Inkrafttreten des AI Act zur Verfügung stehen werden.“

Das könnte Sie interessieren:

Zwischen den Kategorien denken

Von der Lower East Side Manhattans zurück nach Berlin: Seit September 2023 ist Jenny Schlenzka Direktorin am Gropius Bau in Kreuzberg. Sie will diese Institution weiterentwickeln. Und weiß genau, wie.

Ein gesunder Nährboden

Berlin ist die Gesundheitshauptstadt Deutschlands. Das spiegelt sich in der prosperierenden Medtech-Start-up-Szene wider. Die Protagonisten der neuen Generation junger Unternehmen gehen vermehrt den körpereigenen Prozessen auf die Spur – damit die Menschen lange leben.

In dieser Folge von „Einblick“ erläutert Magnus Andres, Leiter Immobilien & Finanzierungen, die zunehmende Bedeutung des Themas Nachhaltigkeit für den Immobilienbereich. Sein Team ist gut aufgestellt, um die Kundinnen und Kunden der Weberbank in alle Richtungen – Kauf, Verkauf und Sanierung – zu beraten

i