Lawblog

Informationen und Neuerungen aus der Rechtsberatung

Die EU-Verordnung über künstliche Intelligenz (AI-Act) führt zu grundlegenden Veränderungen im Handels- und Gesellschaftsrecht. Als unmittelbar geltendes Recht wird sie die Unternehmensführung und -organisation maßgeblich beeinflussen. Die Verordnung sieht einen risikobasierten Ansatz vor, der sich in den gesellschaftsrechtlichen Pflichten der Unternehmensorgane widerspiegelt.

Pflichten der Unternehmensleitung
Die Geschäftsleitung muss im Rahmen ihrer allgemeinen Leitungspflicht nach § 76 AktG bzw. § 35 GmbHG ein Klassifizierungssystem für KI-Anwendungen implementieren. Dieses muss die in der Verordnung vorgesehenen Risikoklassen (verbotene Praktiken, Hochrisiko-KI-Systeme und sonstige KI-Systeme) abbilden. Die Einordnung bestimmt die weiteren Handlungspflichten der Unternehmensleitung.

Organisatorische Anforderungen
Bei der Verwendung von Hochrisiko-KI-Systemen im Sinne der Verordnung ergeben sich aus der allgemeinen Organisationspflicht der Geschäftsleitung konkrete Handlungserfordernisse. Hierzu gehören die Einrichtung eines Qualitätsmanagementsystems, die Erstellung technischer Dokumentationen und die Gewährleistung der menschlichen Aufsicht über das KI-System. Diese Pflichten konkretisieren die allgemeinen gesellschaftsrechtlichen Sorgfaltspflichten.

Auswirkungen auf die Corporate Governance
Die Corporate Governance muss um spezifische KI-Kontrollmechanismen erweitert werden. Der Aufsichtsrat muss im Rahmen seiner Überwachungspflicht nach § 111 AktG die Einhaltung der Verordnung durch den Vorstand kontrollieren. Dies umfasst insbesondere die Prüfung, ob angemessene Systeme zur Risikoerkennung und -steuerung für KI-Anwendungen implementiert wurden.

Berichtspflichten und Transparenz
Die handelsrechtlichen Berichtspflichten werden durch die Transparenzanforderungen der Verordnung erweitert. Im Lagebericht nach § 289 HGB müssen künftig Angaben über den Einsatz von KI-Systemen, insbesondere von Hochrisiko-KI-Systemen, gemacht werden. Dies umfasst Informationen über Risikomanagement, Kontrollsysteme und wesentliche Veränderungen in der KI-Nutzung.

Haftungsregime
Die Verordnung etabliert ein spezifisches Haftungsregime für KI-Systeme, das mit den allgemeinen gesellschaftsrechtlichen Haftungsnormen in Einklang gebracht werden muss. Die Business Judgment Rule nach § 93 Abs. 1 Satz 2 AktG findet weiterhin Anwendung, jedoch müssen Organmitglieder nachweisen können, dass sie die spezifischen Anforderungen der Verordnung bei ihrer Entscheidungsfindung berücksichtigt haben.

Konsequenzen für den Konzern
Im Konzernverbund müssen die Anforderungen der Verordnung in die bestehenden Compliance-Strukturen integriert werden. Die Konzernleitung ist verpflichtet, ein konzernweites System zur Überwachung von KI-Anwendungen zu implementieren und die einheitliche Umsetzung der Verordnung sicherzustellen.

Registrierungspflichten
Für Hochrisiko-KI-Systeme sieht die Verordnung eine Registrierungspflicht in einer EU-Datenbank vor. Dies kann Auswirkungen auf die handelsrechtliche Offenlegung haben und muss in den gesellschaftsrechtlichen Dokumentations- und Berichtspflichten berücksichtigt werden.

Fazit
Die EU-Verordnung über künstliche Intelligenz bringt erhebliche handels- und gesellschaftsrechtliche Änderungen mit sich. Die praktische Umsetzung wird viele Unternehmen vor neue Herausforderungen stellen. Bei Fragen zur Implementierung der Verordnung in Ihrem Unternehmen stehen wir Ihnen gerne zur Verfügung.

30.01.2025 von RA Philipp Dietz

Die EU-Kommission hat eine neue Produktsicherheitsverordnung (GPSR) entworfen, die am 13.12.2024 in Kraft tritt. Sie gilt unmittelbar in den EU-Mitgliedstaaten; einer nationalen Umsetzung bedarf es nicht.

Die Verordnung gilt für alle neuen, gebrauchten, reparierten oder wiederaufgearbeiteten Produkte, die in Verkehr gebracht oder auf dem Markt bereitgestellt werden, soweit es keine spezifischen Bestimmungen über die Sicherheit der betreffenden Produkte gibt, mit denen dasselbe Ziel verfolgt wird, vgl. Art. 2 Abs. 1 S. 1 GPSR. Produkte, die vor dem 13.12.2024 in Verkehr gebracht wurden, dürfen weiterhin ohne Beachtung der GPSR betrieben werden, soweit sie mit den Vorgaben der vorherigen Richtlinie zur Produktsicherheit (RiLi 2001/95/EG) vereinbar sind.

Wichtigsten Änderungen:

  • Hersteller (Art. 3 Nr. 8 GPSR) müssen ausnahmslos für jedes Produkt eine interne Risikoabwägung durchführen und technische Unterlagen erstellen. Eine Bagatellgrenze gibt es nicht. Als Hersteller gilt auch derjenige, der ein Produkt physisch oder digital so verändert, dass sich die Änderung auf die Sicherheit des Produkts auswirkt.
  • Hersteller sind weiterhin verpflichtet, Produktunfälle – ab Kenntnis – den zuständigen Behörden des Mitgliedstaates, in dem sich der Unfall ereignet hat, über das „Safety-Business-Gateway“ zu melden, Art. 20 GPSR.
  • Händler müssen kontrollieren, dass Hersteller und Einführer ihre jeweiligen Pflichten nach der GPSR erfüllen. Sie sind außerdem verpflichtet, Informationen über den Namen des Herstellers des Produktes, dessen Postanschrift und elektronische Adresse im Fernabsatzhandel eindeutig und gut sichtbar bereitzustellen. 
  • Der Anwendungsbereich der GPSR erweitert sich auf Fulfillment-Dienstleistern und auf Anbieter von Online-Marktplätzen. Fulfillment-Dienstleister sind natürliche und juristische Personen, die im Rahmen einer Geschäftstätigkeit mindestens zwei der folgenden Dienstleistungen anbieten: Lagerhaltung, Verpackung, Adressierung und Versand von Produkten, an denen sie kein Eigentumsrecht haben.
  • Anbieter von Online-Marktplätzen müssen sich bei einem „Safety-Gate-Portal“ registrieren und Angaben zu ihrer zentralen Anlaufstelle hinterlegen. Es besteht nämlich eine Transparenzpflicht über die Herkunft des Produktes, wobei eine Zusammenarbeit mit den Behörden gefordert ist. Soweit der Anbieter von Online-Marktplätzen einen EU-Importeur nicht benennt, liegt die direkte Verantwortung für das Produkt bei ihm. Allgemein gilt, dass ein Produkt aus einem Nicht-EU-Land nur in Verkehr gebracht werden kann, wenn ein Verantwortlicher in der EU benannt ist.
  • Die Angaben von Warnhinweisen und Sicherheitsinformationen müssen auf dem Produkt oder der Produktverpackung angebracht oder in Begleitunterlagen beigefügt werden. Sie müssen in allen Amtssprachen der EU-Mitgliedstaaten ausformuliert sein.
  • Wirtschaftsakteure und Anbieter von Online-Marktplätzen sind von nun an verpflichtet im Falle eines Produktsicherheitsrückrufs oder bei Sicherheitswarnungen die betroffenen Verbraucher zu ermitteln und diese direkt und unvermittelt zu unterrichten, Art. 35 GPSR.
    In solch einem Fall sind sie zudem verpflichtet, dem Verbrauer eine wirksame, kostenfreie und zeitnahe Abhilfe anzubieten.

Die GPSR sieht selbst keine unmittelbaren Sanktionen für Verstöße vor. Die EU-Kommission hat die Sanktionierung den nationalen Gesetzgebern überlassen, Art. 44 GPSR. Der deutsche Gesetzgeber wird bis zum 13.12.2024 entsprechende Regelungen und Maßnahmen treffen müssen.

Die EU-Kommission sieht jedoch Beschränkungen für das Inverkehrbringen eines Produktes oder seine Bereitstellung auf dem Markt vor sowie seine Rücknahme vom Markt oder seinen Rückruf. Es ist ausdrücklich geregelt, dass durch vorgenanntes eine Haftung der betreffenden Partei durch nationales Recht nicht ausgeschlossen ist.

11.12.2024 von RA Martin Giepen

Neue BSG-Rechtsprechung birgt Prüfungsbedarf für vermeintlich „sichere“ Gestaltungen

Im Rahmen von Betriebsprüfungen stellt die Deutsche Rentenversicherung Bund zunehmend fest, dass vermeintlich selbständige Tätigkeiten tatsächlich als abhängige Beschäftigung zu qualifizieren sind. Dies hat üblicherweise schmerzliche Folgen für den Auftraggeber, der das Risiko der Haftung für nicht gezahlte Sozialversicherungsbeiträge und Säumniszuschläge trägt.

Selbstständig ist im Allgemeinen jemand, der unternehmerische Entscheidungsfreiheit genießt. Solche Personen tragen ein unternehmerisches Risiko, arbeiten auf eigene Rechnung im eigenen Namen, nehmen unternehmerische Chancen wahr und können für ihre Tätigkeit Eigenwerbung betreiben. Der Erfolg des finanziellen und persönlichen Einsatzes ist dabei ungewiss und hängt nicht von anderen Beteiligten und deren Vorgaben ab. Selbstständige gestalten ihre Tätigkeit im Wesentlichen frei und bestimmen selbst ihre Arbeitszeit und ihren Arbeitsort. Bei Scheinselbstständigen ist das nicht der Fall. Das BSG stellt bei der Beurteilung des Vorliegens einer (nicht)selbständigen Tätigkeit auf das Gesamtbild der Leistungserbringung im Einzelfall anhand der genannten Kriterien ab.

Ein bislang taugliches Mittel, eine Scheinselbständigkeit zu umgehen, war eine Auftragserteilung nicht an eine natürliche Person als „Selbständigen“, sondern an eine von diesem gegründete Ein-Personen-Kapitalgesellschaft, in der dieser als 100% beteiligter Gesellschaftergeschäftsführer tätig ist. Ein unmittelbares Vertragsverhältnis zwischen Auftraggeber und dem „Selbständigen“ als natürliche Person ist dann nicht gegeben.

Die Problematik des Gesellschaftergeschäftsführers, der die Gesellschaft nicht beherrscht, ist damit umschifft (vgl. etwa BSG, Urt. B 12 KR 37/19 vom 01.02.2022). Jedoch ist die genannte Gestaltung des 100% Gesellschaftergeschäftsführers in der Ein-Personen-Kapitalgesellschaft keine sichere Gestaltung (mehr) gegen eine, regelmäßig ungewollte, Sozialversicherungspflicht.

Auch in den zuletzt entschiedenen Fällen (vgl. BSG, Urteile B 12 BA 1/23, B 12 R 15/21 R und B 12 BA 4/22 R vom 20.07.2023) verwies das BSG auf das Gesamtbild der Tätigkeit der natürlichen Person. Es stellt fest, dass ein abhängiges Beschäftigungsverhältnis nicht zwingend dadurch ausgeschlossen ist, dass eine Vertragsbeziehung zwischen dem Auftraggeber und einer Ein-Personen-Kapitalgesellschaft besteht, wenn der Gesellschaftergeschäftsführer die Tätigkeit persönlich erbringt. Vielmehr seien auch in diesen Konstellationen für die Abgrenzung einer abhängigen von einer selbstständigen Tätigkeit die jeweiligen konkreten tatsächlichen Umstände der Tätigkeit nach einer Gesamtabwägung anhand der genannten Kriterien maßgeblich.

Die Deutsche Rentenversicherung Bund wird von dieser höchstrichterlichen Rechtsprechung umfassend Gebrauch machen. Eine rechtssichere Feststellung, ob eine abhängige, oder selbständige Tätigkeit vorliegt, lässt sich daher auch in solchen Konstellationen nur nach Durchführung eines Statusfeststellungsverfahrens treffen.

13.09.2024 von RA Philipp Dietz