In den Fach- und Einkaufsabteilungen im ganzen Land wird derzeit überlegt: Soll Künstliche Intelligenz (KI) angeschafft werden und wenn ja, was soll sie können? Wo soll man sie einkaufen und wie soll man sie gewinnbringend einsetzen? Eine Umfrage des Digitalverbands Bitkom vom Juni 2023 offenbart: 72 Prozent der befragten Unternehmen gehen davon aus, dass Künstliche Intelligenz eine große Bedeutung für die Wettbewerbsfähigkeit der deutschen Wirtschaft haben wird – aber nur 15 Prozent setzen sie bereits ein. Als Faktor dafür, was die Nutzung digitaler Technologien momentan noch hemme, benennen 54 Prozent die Politik, die den Einsatz eher verhindere als fördere. 46 Prozent sagen, in ihren Unternehmen werde mehr über die Risiken geredet als über die Chancen.
Europa als globales KI-Zentrum
Die Europäische Union (EU) will dieser Stimmung entgegenwirken und hat sich zum Ziel gesetzt, den weltweit ersten Rechtsrahmen für Künstliche Intelligenz zu schaffen. Der geplanten EU-KI-Verordnung soll der Spagat zwischen dem Fördern der Entwicklung und Nutzung von KI und dem Eindämmen möglicher Gefahren gelingen. Die Ziele sind hochgesteckt: Europa soll nicht weniger als das globale Zentrum für vertrauenswürdige Künstliche Intelligenz werden. Zu diesem Zwecke hat sich das EU-Parlament nun auf den Text der Verordnung geeinigt. Damit geht es jetzt in die Feinabstimmung mit den einzelnen Mitgliedstaaten – was dauern kann. Selbst optimistische Prognosen gehen nicht von einem Inkrafttreten vor dem Jahr 2026 aus.
Wer sich aktuell also mit der Anschaffung und Funktionalität von KI-Systemen beschäftigen muss, muss auf das geltende nationale Recht zurückgreifen, wenn sich juristische Fragestellungen ergeben. Und diese beginnen nicht erst dann, wenn etwas nicht richtig funktioniert, sondern bereits beim Vertragsschluss.
Verschiedene Vertragstypen denkbar
„Wie die Anschaffung von KI-Lösungen vertragsrechtlich einzuordnen ist, hängt von der Form der Leistung ab, in der der Vertragspartner KI-bezogene Leistungen für ein Unternehmen erbringt“, erklärt Rechtsanwalt Dr. Arno Malcher von der Münchner Kanzlei Wallberg & Cie. Nur wenn eine bereits vorbestehende KI-Lösung angeschafft und in eigener Verantwortung auf den eigenen Systemen betrieben wird, könne man von einem reinen Kaufvertrag sprechen. „Ein wohl eher seltener Fall“, merkt der Fachanwalt für IT-Recht an.
Das andere Extrem stellt es dar, wenn eine individuelle, auf die speziellen Bedürfnisse des Unternehmens abgestimmte KI-Lösung bei einem Softwarehaus oder Programmierer in Auftrag gegeben wird. Für das maßgeschneidertes Werk gilt dann Werkvertragsrecht.
Die dritte Möglichkeit stellt eine Miete der KI dar. Experte Malcher erklärt: „Wenn ich eine KI-Lösung anschaffe, die der Anbieter auf seiner eigenen Infrastruktur betreibt und mir als Cloud-Lösung zum vorübergehenden Gebrauch zur Verfügung stellt, dann wird diese Art der Leistungserbringung einen mietvertraglichen Charakter haben und nach Mietrecht zu beurteilen sein.“ Dies stellt einen Unterfall von Software-as-a-Service (SaaS) dar, nämlich KI-as-a-Service (KIaaS), also die nicht dauerhafte Gebrauchsüberlassung einer KI-Anwendung via Datenfernübertragung.
Mangel und Gewährleistung
Die geplante EU-Verordnung beschreibt präzise und ausführlich, was einzelne KI-Produkte zu leisten haben und wofür die Anbieter haften sollen. Zwar gibt es ähnlich detaillierte, neue Regelungen auch im deutschen Recht, sie gelten im Sinne des Verbraucherschutzes jedoch nur, wenn ein Unternehmer KI für Verbraucher bereitstellt, also im B2C-Bereich. Für B2B sind sie nicht anwendbar.
Hier muss man auf den allgemeinen kaufrechtlichen Mangelbegriff in § 434 des Bürgerlichen Gesetzbuchs (BGB) zurückgreifen. Dieser stellt – nach einer Gesetzesänderung im vergangenen Jahr – erstmalig auch auf die Funktionalität, Kompatibilität und Interoperabilität der gekauften Sache ab, die Käufer und Verkäufer vereinbart haben. Doch die Regelung bleibt allgemein und sehr abstrakt, denn sie gilt für alle Kaufobjekte gleichermaßen, ob digital oder analog.
„Vereinfacht gesagt, ist ein KI-Produkt dann mangelfrei, wenn es den subjektiven und objektiven Erwartungen an seine Beschaffenheit genügt“, erläutert Rechtsanwältin Dr. Kristina Schreiber vom Kölner Büro der Kanzlei Loschelder die Rechtslage. „Zur Frage, wann ein lernendes, intelligentes System mangelhaft ist, kommt es ganz maßgeblich auf den konkreten Zuschnitt an. Der Anbieter muss sich daran messen lassen, was er versprochen hat.“ Maßgeblich sei dabei, für welche Verwendung die KI vertraglicherseits eingesetzt werden soll. „Ist sie dazu geeignet? Sind eventuell besondere Beschaffenheiten vereinbart und weicht die KI negativ davon ab? Welche Trainingsleistungen muss der Anbieter auch nach Überlassung noch bereitstellen, welche Ergebnisse werden erwartet?“, fasst die Expertin im Vertragsrecht für digitale Produkte zusammen.
Wenn tatsächlich ein Mangel vorliegt, greift das Gewährleistungsrecht wie bei analogen Produkten. Die Details unterscheiden sind nach Kauf-, Miet- und Werkvertragsrecht, generell gilt aber: Der Anbieter muss/darf nacherfüllen, also seine Leistung nochmal erbringen. Gelingt das nicht, kann der Käufer den Preis mindern, vom Vertrag zurücktreten oder diesen kündigen. „Wurden Schäden schuldhaft verursacht, sind auch diese zu ersetzen“, ergänzt Anwältin Schreiber.
Service-Level-Agreements beachten
Um die Pflichten des Anbieters zu konkretisieren, ist der Abschluss von Service-Level-Agreements (SLA) bei der Beschaffung von KI-Lösungen ganz besonders sinnvoll. Hier sollte das Maß der Verfügbarkeit der KI festgelegt werden sowie, in welchem Umfang und innerhalb welcher Fristen der Anbieter Mängel in der Anwendung beheben muss und welche Rechtsfolgen eintreten sollen, wenn er die vereinbarte Verfügbarkeit nicht einhalten kann. Rechtsanwalt Malcher weist darauf hin, „dass der Anbieter einer KI-Lösung in der Regel weder in einem SLA noch im Vertrag eine Erfolgsverantwortung für richtige Vorhersagen seiner KI-Anwendung übernehmen wird.“ Dies hänge zum einen damit zusammen, dass nach dem heutigen Stand der Technik KI-Anwendungen lediglich Vorhersagen zur Wahrscheinlichkeit einer Fragestellung treffen, jedoch keine Aussagen im Sinne von richtig oder falsch. Zudem sei die Qualität von Vorhersagen einer KI ganz wesentlich von der Menge und Qualität der Daten des Kunden abhängig, die in die KI eingespeist werden.
Trainingsdaten besonders absichern
Bevor die KI fleißig gefüttert wird, sollte man den Schutz besonders relevanter Daten vertraglich absichern. Dies kann etwa geschehen durch vertragsstrafenbewehrte Vertraulichkeitsregelungen, eine Verpflichtung zur unwiederbringlichen Löschung der Daten nach Vertragsbeendigung und ein Audit-Recht des Kunden, um die Nutzung der Daten beim Anwender überprüfen zu können. Kommen dagegen nur ubiquitäre Rohdaten ohne besonderen wirtschaftlichen Wert zum Einsatz, könne man den Regelungen in den Standardverträgen zustimmen, nach denen der Anbieter auch nach Vertragsbeendigung die Daten des Kunden zu Trainingszwecken einsetzen darf, so Malcher. „Hier sollte man jedoch darauf achten, dass die Nutzung anonymisiert und aggregiert erfolgt und keine Rückschlüsse auf den Kunden zulässt“, lautet der dringende Rat des Anwalts.
Die Autorin: Anja Falkenstein,
Rechtsanwältin, Karlsruhe
Recht im Einkauf
Die Serie „Rechtsprechung für die Beschaffung“ behandelt juristische Probleme rund um den Einkauf. Sie schafft ein Verständnis für den aktuellen Stand der Rechtsprechung, ersetzt aber nicht die anwaltliche Beratung im Einzelfall.
