Welche rechtlichen Rahmenbedingungen beim Einsatz von KI relevant sind – und wie wir damit umgehen.
Warum dieses Thema wichtig ist
KI ist kein rechtsfreier Raum. Wer KI in operative Geschäftsprozesse einbaut, bewegt sich in einem regulatorischen Umfeld, das sich gerade schnell entwickelt. EU AI Act, DSGVO, Haftungsfragen, Urheberrecht – die Themen sind vielfältig und für viele Unternehmen neu.
Wir sind keine Anwälte. Dieses Dokument ersetzt keine Rechtsberatung. Aber wir arbeiten jeden Tag mit KI im Unternehmenskontext und denken rechtliche Rahmenbedingungen von Anfang an in unsere Architektur ein. Hier geben wir einen Überblick über die wichtigsten Themenfelder – und wie wir in unseren Projekten damit umgehen.
Der EU AI Act
Die EU hat mit dem AI Act das weltweit erste umfassende Regelwerk für Künstliche Intelligenz geschaffen. Für Unternehmen, die KI einsetzen, ist das relevant – auch im Mittelstand.
Der AI Act klassifiziert KI-Systeme nach Risikostufen. Je höher das Risiko, desto strenger die Anforderungen. Die meisten KI-Anwendungen, die wir für unsere Kunden entwickeln – operative Entscheidungsunterstützung, Automatisierung, Datenanalyse – fallen voraussichtlich nicht in die Hochrisiko-Kategorie. Aber die genaue Einordnung hängt vom konkreten Einsatzbereich ab.
Was wir tun: Wir beobachten die Entwicklung des AI Act und seiner Durchführungsbestimmungen aufmerksam. Bei der Architektur neuer Systeme berücksichtigen wir die Anforderungen, die sich bereits abzeichnen – insbesondere in Bezug auf Transparenz, Dokumentation und menschliche Aufsicht. Für eine verbindliche rechtliche Einordnung empfehlen wir, im Einzelfall juristischen Rat einzuholen.
DSGVO und KI
Die DSGVO gilt uneingeschränkt auch für KI-gestützte Systeme. Überall dort, wo personenbezogene Daten verarbeitet werden – und das ist in operativen Systemen fast immer der Fall – gelten die bekannten Grundsätze: Zweckbindung, Datenminimierung, Transparenz, Betroffenenrechte.
Was wir tun: Unsere Systeme werden so architekturiert, dass KI-Komponenten nur auf die Daten zugreifen, die sie für ihre Aufgabe benötigen. Wir dokumentieren, welche Daten von welcher KI-Komponente verarbeitet werden. Und wir stellen sicher, dass personenbezogene Daten nicht in externen KI-Modellen landen, ohne dass die datenschutzrechtlichen Voraussetzungen dafür geschaffen wurden.
Transparenz
Eine zunehmend relevante Frage: Muss offengelegt werden, dass KI im Einsatz ist? Die Antwort hängt vom Kontext ab. Der EU AI Act sieht für bestimmte Anwendungen Transparenzpflichten vor – etwa wenn KI direkt mit Endnutzern interagiert oder Inhalte generiert.
Was wir tun: Wir empfehlen unseren Kunden grundsätzlich einen transparenten Umgang mit KI-Einsatz. Nicht nur weil es in vielen Fällen rechtlich geboten ist – sondern weil Transparenz Vertrauen schafft. Bei Mitarbeitern, bei Kunden, bei Partnern. In unseren Systemen ist nachvollziehbar, wo KI wirkt und wo menschliche Entscheidungen getroffen werden.
Haftung
Wer haftet, wenn eine KI-gestützte Entscheidung falsch ist? Diese Frage beschäftigt viele Unternehmen – und die rechtliche Landschaft dazu entwickelt sich noch. Grundsätzlich gilt: Die Verantwortung für geschäftliche Entscheidungen liegt beim Unternehmen, nicht bei der Software.
Was wir tun: Wir gestalten KI in unseren Systemen als Entscheidungsunterstützung – nicht als autonomen Entscheider. Kritische Prozesse behalten eine menschliche Kontrollinstanz. Die KI liefert Analysen, Empfehlungen und Prognosen. Die Entscheidung trifft der Mensch. Diese Architektur ist nicht nur rechtlich sinnvoll – sie ist auch operativ die bessere Lösung.
Urheberrecht
Wem gehört, was KI generiert? Texte, Analysen, Code – die urheberrechtliche Einordnung von KI-generierten Inhalten ist noch nicht abschließend geklärt. Die Rechtslage entwickelt sich und variiert je nach Rechtsordnung.
Was wir tun: In unseren Projekten ist klar geregelt, dass alle Arbeitsergebnisse – unabhängig davon, ob KI an der Erstellung beteiligt war – dem Kunden gehören. Die Software, der Code, die generierten Inhalte. Wie wir das vertraglich regeln, besprechen wir offen zu Beginn jeder Zusammenarbeit.
KI und Arbeitsrecht
KI verändert Arbeitsplätze. Aufgaben verschieben sich, Rollen entwickeln sich weiter, Prozesse verändern sich. Das kann arbeitsrechtliche Fragen aufwerfen – etwa in Bezug auf Mitbestimmung, Betriebsvereinbarungen oder den Umgang mit KI-gestützter Leistungsauswertung.
Was wir tun: Wir entwickeln Systeme, die Menschen unterstützen – nicht überwachen. Unsere Architektur ist darauf ausgelegt, operative Last zu reduzieren, nicht Mitarbeiter zu kontrollieren. Wenn KI-Funktionen Berührungspunkte mit arbeitsrechtlichen Themen haben, weisen wir unsere Kunden darauf hin, damit sie die nötigen internen Abstimmungen führen können.
Unser Ansatz: Recht von Anfang an mitdenken
Rechtliche Anforderungen lassen sich nicht nachträglich in eine fertige Software einbauen. Deshalb behandeln wir sie wie Datenschutz und Sicherheit: als Architekturprinzip, nicht als Nachgedanken.
Das bedeutet konkret:
| 🏗️ | Regulatorische Anforderungen fließen in die Systemarchitektur ein – von Anfang an |
| 📋 | KI-Komponenten werden dokumentiert: welche Daten, welcher Zweck, welche Logik |
| 👤 | Menschliche Kontrolle bleibt bei kritischen Entscheidungen erhalten |
| 🔍 | Nachvollziehbarkeit ist eingebaut – was die KI tut, ist transparent und überprüfbar |
| 🤝 | Wir weisen proaktiv auf rechtliche Berührungspunkte hin und empfehlen bei Bedarf juristischen Rat |
Die rechtliche Landschaft rund um KI entwickelt sich schnell. Wir erheben nicht den Anspruch, jede Frage abschließend beantworten zu können. Aber wir stellen sicher, dass die Systeme, die wir bauen, auf einem soliden Fundament stehen – technisch und regulatorisch.