Der Einsatz von smarten Daten, Algorithmen und Modellen wirft zahlreiche juristische Fragen auf und offenbart Lücken im bestehenden Rechtssystem. Der Europäische Gesetzgeber will einspringen, steht aber vor dem Problem, wie man etwas reguliert, das nach landläufiger Meinung intelligenter ist als der Mensch.
Ein bisschen unheimlich ist diese Künstliche Intelligenz (KI) nach wie vor. Viel ist vom Nutzen der Technologie die Rede, gleichzeitig wird aber vor Risiken und Gefahren gewarnt. Nicht nur die Bevölkerung, auch die Wirtschaft hat bei diesem Thema ein großes Sicherheitsbedürfnis, dem die Europäische Union (EU) nun Rechnung tragen will. Sie plant eine EU-KI-Verordnung und hat einen ersten Entwurf vorgelegt, der den Spagat versucht zwischen dem Fördern der Entwicklung und Nutzung von KI und dem Eindämmen möglicher Gefahren. Die Ziele, die man mit dem weltweit ersten Rechtsrahmen für KI verfolgt, sind hochgesteckt: Europa soll das globale Zentrum für vertrauenswürdige Künstliche Intelligenz werden. KI-Systeme, die die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen bedrohen, sollen demnach verboten werden. Über alle anderen KI-Systeme entscheidet ein risikobasierten Ansatz. „Das ist positiv hervorzuheben, denn somit müssen nicht alle KI-Systeme in der EU die strengen Auflagen erfüllen“, sagt Guido Reimann, KI-Spezialist beim Verband Deutscher Maschinen- und Anlagenbau (VDMA). „Dass allerdings KI-Systeme, die bereits in einem regulierten Umfeld wie zum Beispiel der Maschinenrichtlinie zum Einsatz kommen, als Hoch-Risiko-System betrachtet werden, ist absurd.“ Hier bestehe gerade für den Mittelstand das Risiko, dass zu hohe Hürden für den Einsatz von KI geschaffen würden, moniert Reimann. „Dabei können KI-Lösungen wie die vorausschauende Wartung, die automatische Wareneingangskontrolle, die Optimierung der Produktionssteuerung, die Lageroptimierung, der Einsatz von fahrerlosen Transportsystemen oder kollaborative Roboter durchaus für den Mittelstand interessant sein.“
Auch Rechtsanwalt Matthias Hartmann, Fachanwalt für IT-Recht in der Berliner Kanzlei HK2 Rechtsanwälte, bemängelt den Ansatz der vorgeschlagenen Verordnung: „Damit bremst sich die EU trotz hervorragender Startvoraussetzungen im Rennen um die zentrale Basis-Technologie der Zukunft aus.“ Statt der dringend erforderlichen Ausnahmeerlaubnisse zur Nutzung von Daten gebe es mehr Regulierung, selbst für „triviale Software“, so Hartmann.
Als minimal riskant gelten nach den EU-Plänen allenfalls Anwendungen wie KI-gestützte Videospiele oder Spamfilter, ein geringes Risiko bescheinigt man etwa Chatbots. Wird es etwas komplexer, kommt man schnell zu Hoch-Risiko-Einstufungen, die dann unter die vorgeschlagene Verordnung fallen. Solche künstliche Intelligenzen müssten strenge Vorgaben erfüllen, bevor sie auf den Markt gebracht werden (siehe Kasten).
Eigentumsfragen nach geltendem Recht
Die Verordnung würde nach Inkrafttreten unmittelbar in allen EU-Mitgliedstaaten gelten. Doch sie beantwortet nicht alle juristischen Fragen, die sich bei künstlicher Intelligenz stellen. Denn auch Eigentumsfragen, etwa das Recht am geistigen Eigentum oder Nutzungsrechte, spielen in der Praxis eine große Rolle, ebenso Haftungsfragen sowie der Datenschutz.
Das deutsche Recht kennt nur materielles Eigentum (an einer Sache) und geistiges Eigentum (etwa an einem Patent oder am geschriebenen Wort). Daten jedoch sind weder nur das eine, noch nur das andere, ein Eigentum an Daten gibt es nach deutschem Recht gar nicht. Wer Daten erhebt, ist noch lange nicht deren Eigentümer, vielmehr stellt sich die Frage: Wer ist berechtigter Nutzer und Verwerter von Daten und in welchem Umfang? Denn generierte Daten sind keineswegs vogelfrei, sondern bedürfen des Schutzes, wie ihn die Datenschutzgrundverordnung gewährleistet.
KI basiert auf dem System des selbstständigen Lernens, das KI-Modell benötigt eine große Zahl an Trainingsdaten, aus denen es lernen kann. Für diese Trainingsdateien müssen entsprechende Nutzungsrechte vorliegen und für ihre Verwendung Vertraulichkeit zugesichert sein. „Soll eine KI beim Kunden weiter lernen – wie beim Machine-Learning , ist zu regeln, wem die Ergebnisse zustehen“, rät Hartmann.
Schutz von Know-how und geistigem Eigentum
Auch der Schutz von Urhebern und deren geistiges Eigentum wird von KI-Anwendungen womöglich tangiert. „Oft wird übersehen, dass Datensätze nicht nur dem Datenschutz unterliegen“, erläutert Rechtsanwalt Hartmann. „Sind darin Texte, Bilder, Designs oder anderes ‚geistiges Eigentum‘ enthalten, sind Drittrechte abzuklären, auch vor der Verwendung als Lerndatei.“ Das Trainieren von KI mit geistigem Eigentum Dritter müsse dringend gesetzlich erlaubt werden, fordert der Experte.
Wer KI-Modelle, etwa zum Machine-Learning, entwickelt, dem ist zu raten, unter dem Stichwort „AI Compliance“ interne Prozesse zu etablieren und Maßnahmen zu dokumentieren, die sowohl für eine verordnungskonforme KI sorgen als auch das eigene Know-how schützen. Hier hilft das neue Gesetz zum Schutz von Geschäftsgeheimnissen, das seit rund zwei Jahren in Kraft ist. Es verbietet unter anderem das unbefugte Kopieren von elektronischen Dateien, die ein Geschäftsgeheimnis enthalten oder darstellen.
Den Anwender und die Öffentlichkeit interessieren immer wieder Haftungsfragen rund um die Künstliche Intelligenz. Fachanwalt Hartmann relativiert: „Die Diskussion zur Haftung steht außer Verhältnis zu den wirklichen Herausforderungen.“ Er weist darauf hin, dass KI ihre Ergebnisse nur mit einer „gewissen Wahrscheinlichkeit“ auswerfe. „Eine KI ist daher nicht mangelhaft, wenn sie mal falsch liegt.“ Dieses Risiko müsse dem Anwender einer KI bewusst sein, wenn er mit dem Hersteller in Vertragsverhandlungen einsteigt.
Statt die Fehler beim KI-Produzenten zu suchen, sollte der Kunde zunächst dafür sorgen, dass er selbst Daten in hervorragender Qualität zur Verfügung stellt. „Die Algorithmen der KI werden sowieso immer besser, ausschlaggebend sind die Lern- und Anwendungsdaten“, so Hartmann. „Deren Qualität, Quantität und Verfügbarkeit entscheidet letztlich über die Ergebnisse der KI.“ Unerkannte Muster in den Daten, mangelnde Aktualität, inkompatible Datenhaltungen im Unternehmen, nicht aufbereitete oder gar unbekannte Daten können ganz schnell zum Wettbewerbsnachteil werden. Der IT-Rechtler empfiehlt: „Wer mit der Datenhaltung abwartet, bis KI etabliert ist, kommt zu spät. Unternehmen sollten jetzt ihre Daten angehen.“
Die Autorin: Anja Falkenstein,
Rechtsanwältin, Karlsruhe
Vorgaben für Hoch-Risiko-KI
Für KI-Systeme mit hohem Risiko sollen laut der geplanten EU-Verordnung strenge Vorgaben gelten, die erfüllt sein müssen, bevor sie auf den Markt gebracht werden dürfen:
- Angemessene Risikobewertungs- und Risikominderungssysteme
- Hohe Qualität der Datensätze, die in das System eingespeist werden, um Risiken und diskriminierende Ergebnisse so gering wie möglich zu halten
- Protokollierung der Vorgänge, um die Rückverfolgbarkeit von Ergebnissen zu ermöglichen
- Ausführliche Dokumentation mit allen erforderlichen Informationen über das System und seinen Zweck, damit die Behörden seine Konformität beurteilen können
- Klare und angemessene Informationen für die Nutzer
- Angemessene menschliche Aufsicht zur Minimierung der Risiken
- Hohes Maß an Robustheit, Sicherheit und Genauigkeit
Serie Einkaufsrecht
RA Anja Falkenstein stellt aktuelle und einkaufsrelevante Rechtsthemen vor.
