Inhaltsüberblick
- KI-Ethik als neues juristisches Handlungsfeld
- Der AI Act und seine Folgen für den Rechtsmarkt
- Datenschutz und KI: Die DSGVO-Dimension
- KI als Co-Pilot: Verantwortungsteilung zwischen Mensch und Maschine
- Tech-Readiness und Innovationsanreize
- Antworten auf 12 Fragen aus der Praxis
- Konkrete Tipps unserer Experten aus dem Podcast
KI und Recht: Wie Künstliche Intelligenz Ethik und Datenschutz verändert
Der Einsatz Künstlicher Intelligenz im Rechtsmarkt wirft fundamentale Fragen auf, die weit über technische Effizienz hinausgehen. Ethik, Datenschutz und Verantwortlichkeit stehen im Zentrum einer Debatte, die die Zukunft des Rechtsstaats berührt. Wer entscheidet, wenn ein Algorithmus urteilt? Wer haftet für KI-generierte Rechtsauskünfte? Und wie sichern wir den Schutz persönlicher Daten in einer Welt, in der KI-Systeme immer tiefer in juristische Prozesse eindringen?
KI-Ethik als neues juristisches Handlungsfeld
Die Frage nach der Ethik des KI-Einsatzes im Recht ist nicht abstrakt – sie hat unmittelbare praktische Relevanz. Wenn KI-Systeme bei der Strafzumessung, der Risikoanalyse oder der Vertragsbewertung eingesetzt werden, müssen grundlegende ethische Standards gewährleistet sein: Transparenz, Erklärbarkeit, Fairness und menschliche Überprüfbarkeit. Charlotte Schmitt-Leonardy und Jürgen Bering analysieren in Episode 244 den Einsatz von Palantir und HessenData in Strafverfahren – ein Praxisbeispiel, das die Spannungen zwischen Effizienz und Grundrechtsschutz eindrucksvoll verdeutlicht.
Der AI Act und seine Folgen für den Rechtsmarkt
Mit dem europäischen AI Act hat die EU den weltweit ersten umfassenden Rechtsrahmen für Künstliche Intelligenz geschaffen. Für den Rechtsmarkt hat das weitreichende Konsequenzen: KI-Systeme, die in der Rechtspflege eingesetzt werden, fallen potenziell in die Kategorie der Hochrisiko-Systeme mit entsprechenden Anforderungen an Dokumentation, Transparenz und menschliche Aufsicht. Dirk Hartung ordnet in Episode 207 ein, was Juristen über generative KI wissen müssen, um die regulatorischen Anforderungen richtig einzuordnen.
Datenschutz und KI: Die DSGVO-Dimension
Die DSGVO stellt den Einsatz von KI in der juristischen Praxis vor erhebliche Herausforderungen. Wenn KI-Systeme personenbezogene Daten aus Mandantenakten verarbeiten, greifen strenge Anforderungen an Einwilligung, Zweckbindung und Datensicherheit. Inka Knappertsbusch beleuchtet in Episode 306 die arbeitsrechtlichen Aspekte der KI-Einführung – ein Thema, das auch Datenschutzfragen umfasst, etwa bei der Überwachung von Mitarbeitenden durch KI-Systeme.
KI als Co-Pilot: Verantwortungsteilung zwischen Mensch und Maschine
Das Modell von KI als Co-Pilot hat sich als pragmatischer Ansatz für ethisch vertretbaren KI-Einsatz etabliert. Myriam Baars-Schilling diskutiert in Episode 215, wie KI als Co-Pilot in der Kanzlei helfen kann, ohne die menschliche Letztverantwortung aufzugeben. Michael Dorner beschreibt in Episode 320 aus Perspektive des Rechtsabteilungsleiters bei Microsoft, wie Copilot und Legal AI in der Praxis einer Technologie-Rechtsabteilung eingesetzt werden.
Tech-Readiness und Innovationsanreize
Die ethische Dimension von KI erfordert auch strukturelle Antworten in Kanzleien und Rechtsabteilungen. In Episode 334 wird analysiert, wie Tech-Readiness in Kanzleien aufgebaut und Anreize für verantwortungsvolle Innovation geschaffen werden können. Der Einfluss von KI auf Geschäftsmodelle muss mit klaren Governance-Strukturen begleitet werden, die ethische Standards verbindlich machen.
Karriereperspektiven: KI-Ethik als Spezialisierung
Für Juristen entsteht an der Schnittstelle von KI, Ethik und Datenschutz ein wachsendes Berufsfeld. Ob als Beraterin für AI Compliance, als Datenschutzbeauftragter mit KI-Expertise oder als Wissenschaftler im Bereich algorithmischer Fairness – die Nachfrage nach Juristen, die technologische Entwicklungen ethisch und rechtlich einordnen können, steigt rasant. Wie Hariolf Wenzler in Episode 213 und Episode 217 zeigt, beeinflussen diese Themen bereits heute die Kanzleistrategie und das Business Development maßgeblich.
Fragen & Antworten
12 Antworten aus Podcast-Episoden
KI schreibt heute den ersten Entwurf. Gefragt sind deshalb Urteilskraft, Prompt-Kompetenz und die Fähigkeit, Ergebnisse kritisch zu überprüfen. Wer logisch denkt, Normen sicher beherrscht und technische Tools kreativ einsetzt, bleibt abrechenbar. Nachwuchs sollte lernen, Maschinen anzuleiten statt von ihnen ersetzt zu werden.
Aus Episode #333
IMR333: Strittige Verfahren, KI-Vorschläge kritisch prüfen, Teamaufbau in der Wirtschaftskanzlei, Vergleichsverhandlungen, Prozessrisikoanalyse
mit Christina Valdini
Das sagen unsere Experten
„KI in Strafverfahren – Palantir und HessenData – zeigt, wie schnell technologische Möglichkeiten mit Grundrechten kollidieren können. Wir brauchen Juristen, die beide Welten verstehen: die technische Funktionsweise und die verfassungsrechtlichen Grenzen.“
„Als Rechtsabteilungsleiter bei Microsoft erlebe ich täglich, wie KI als Copilot die juristische Arbeit verändert. Die Verantwortung für ethischen Einsatz liegt dabei immer beim Menschen. Legal AI kann unterstützen, aber die Letztentscheidung muss menschlich bleiben.“
„Die Einführung von KI-Tools in der Kanzlei hat eine arbeitsrechtliche und datenschutzrechtliche Dimension, die viele unterschätzen. Mitbestimmung, Überwachungspotenzial, Datensicherheit – wer als Anwalt KI-Systeme empfiehlt, muss auch die Risiken für Betroffene kennen und adressieren.“
„Tech-Readiness in Kanzleien aufzubauen bedeutet auch, klare ethische Leitlinien für den KI-Einsatz zu etablieren. Ohne Governance-Strukturen, die Transparenz und Verantwortlichkeit sicherstellen, kann Innovation schnell zum Reputationsrisiko werden.“
„Ransomware-Verhandlungen zeigen, wie KI sowohl als Bedrohung als auch als Verteidigungswerkzeug wirkt. Die ethische Verantwortung von Juristen erstreckt sich auf beide Seiten: Wir müssen verstehen, wie KI-gestützte Angriffe funktionieren, und gleichzeitig sicherstellen, dass unsere Verteidigungsstrategien rechtskonform bleiben.“
Über den Autor
Marc Ohrendorf
Gründer, Irgendwas mit RechtMarc ist Gründer von Irgendwas mit Recht und hat als Jurist und Podcaster mit über 350 Episoden einzigartige Einblicke in die juristische Berufswelt gesammelt. Für die Karriere-Artikel recherchiert er aktuelle Entwicklungen und spricht mit Expertinnen und Experten aus Kanzleien, Unternehmen und dem öffentlichen Dienst.
Passende Episoden
16 relevante Podcast-Folgen
IMR339: KI verändert Pricing, Technologie und zweites Staatsexamen, Kanzleien als Plattform
mit Dr. Hariolf Wenzler
Hariolf Wenzler vom CLP der Bucerius Law School und Marc erörtern, wie KI Pricing, Geschäftsmodelle und Teamstrukturen verändert und warum Golfsets das bessere Bild liefern als Tennisschläger. Das Gespräch zeigt Wege für Studierende, Referendare und junge Anwälte, zusätzliche Skills zu erwerben und interdisziplinär zu arbeiten. Wie entsteht eine vertrauensvolle Plattform für Project Management, Marketing und Finance? Bleibt das zweite Examen unverzichtbar? Antworten auf diese und viele weitere Fragen erhaltet Ihr in dieser Folge von IMR. Viel Spaß!
IMR244: KI in Strafverfahren, Palantir, HessenData (Re-Live vom Deutschen Anwaltstag 2024)
mit Prof. Dr. Charlotte Schmitt-Leonardy
In der 244. Episode von Irgendwas mit Recht begrüßt Marc Prof. Charlotte Schmitt-Leonardy (Uni Bielefeld) und Jürgen Bering von der Gesellschaft für Freiheitsrechte (GFF). Die drei diskutieren live vom Anwaltstag in Bielefeld über das Thema Künstliche Intelligenz (KI) in Strafverfahren, insbesondere im Zusammenhang mit der umstrittenen Software Palantir. Jürgen erklärt die Bedenken der GFF und deren Verfassungsbeschwerde gegen den Einsatz von Palantir, die das Bundesverfassungsgericht in weiten Teilen bestätigte. Sie beleuchten, wie die Software große Datenmengen kombiniert und sensible Daten verarbeitet, was zu Diskriminierung und mangelnder Transparenz führen kann. Charlotte betont die Risiken und Unwägbarkeiten von KI, insbesondere die Gefahr von Verzerrungen und die Bedeutung der menschlichen Entscheidung im Strafverfahren. Die Diskussion behandelt ebenso die Frage, wie der Rechtsmarkt auf diese Herausforderungen reagieren sollte. Viel Spaß!
IMR306: Einführung von KI-Tools aus arbeitsrechtlicher Sicht, Business Development als Anwältin, Promotion neben dem Job
mit Dr. Inka Knappertsbusch
Marc spricht mit Dr. Inka Knappertsbusch von CMS Hasche Sigle in Köln darüber, wie sie bereits als Schülerin den Entschluss fasste, Juristin zu werden, warum sie nach Stationen in Konstanz und Bonn sowie einem Referendariat im OLG-Bezirk Düsseldorf zielstrebig den Weg ins Arbeitsrecht einschlug und welche Parallelen sie dabei zum Auftreten einer Staatsanwältin sieht. Die Folge beleuchtet, wie Inka neben dem Kanzleialltag in nur anderthalb Jahren zum Datenschutz promovierte, welche Rolle ein London-Secondment dabei spielte und weshalb sie früh auf das Thema KI im Arbeitsverhältnis setzte. Konkrete Einblicke liefert ihr Praxisbeispiel zum Microsoft Copilot, in dem sie erklärt, welche Mitbestimmungsrechte der Betriebsrat hat, wie eine Betriebsvereinbarung aufgebaut sein muss und warum ohne klare Regelung zu Leistungs- und Verhaltenskontrolle schnell eine Einigungsstelle droht. Daneben geht es um die Herausforderungen bei Speicherdauern von Bewerbungsdaten, Grenzen von Einwilligungen, die Pflicht zur KI-Kompetenzschulung nach AI-Act und ihr Business-Development-Konzept, das ihr über 70 Vorträge und zahlreiche Publikationen pro Jahr beschert. Wie schafft man es, Chancen wie implantierte NFC-Mikrochips für die eigene Expertise zu nutzen? Welche Fähigkeiten sucht ein arbeitsrechtliches Team bei wissenschaftlichen Mitarbeitenden und Referendarinnen wirklich? Und weshalb kann ein mutiger Schritt in ein Nischenthema zum Karrierebeschleuniger werden? Antworten auf diese und viele weitere Fragen erhaltet Ihr in dieser Folge von IMR. Viel Spaß!
IMRechtsmarkt006 (x Bucerius CLP): Wie kann KI als Co-Pilot in der Kanzlei helfen?
mit Myriam Baars-Schilling
IMRechtsmarkt Impuls Nummer 6, erneut von und mit Myriam Baars-Schilling: Wie stehen wir aktuell in Sachen KI in der Kanzlei? Werden Kanzleien eigene Foundation Models bauen oder Technologie einkaufen? Welche Auswirkungen hat der more for less-Trend auf die anwaltliche Psyche? Viel Spaß!