Internationales Projekt beleuchtet KI-Einsatz in Strafverfolgung und Strafverfahren

In welchem Maß darf KI helfen, Spuren auszuwerten, Straftäter zu überführen, ihre Taten vor Gericht nachzuweisen und zu verurteilen? Wo drohen Gefahren für Rechte der Beschuldigten und für den Rechtsstaat? Aus der vergleichenden Perspektive unterschiedlicher Rechtssysteme geht das internationale Forschungsprojekt CrimAI den Auswirkungen von KI auf Strafverfolgung und Strafverfahren auf den Grund. Den deutschen Part leitet Professor Dominik Brodowski von der Universität des Saarlandes.

Künstliche Intelligenz kann auch einem vermummten Straftäter anhand seiner Körperhaltung oder seiner Bewegungen auf die Schliche kommen. Mit KI-gestützten Sprachprotokollen könnten Richterinnen und Richter in Aussagen von Zeugen und Angeklagten vor Gericht einzelne Sätze gezielt suchen. Die neuen KI-Methoden haben das Potenzial, Strafverfolgung und Strafverfahren tiefgreifender zu revolutionieren als alle bisherigen Technologien zuvor, einschließlich der DNA-Analyse. Mit smarten Werkzeugen lassen sich riesige Datenmengen im Nu auswerten. „Künstliche Intelligenz kann die Arbeit von Polizei- und Justizbehörden erleichtern, Abläufe beschleunigen und verbessern“, sagt der Spezialist für Europäisierung, Internationalisierung und Digitalisierung von Strafrecht und Strafverfahren Professor Dominik Brodowski von der Universität des Saarlandes. „KI-Methoden sind hierzulande bereits heute im Einsatz. Ein Beispiel ist die Bilderkennung illegaler Inhalte, also etwa, ob sich auf Fotos und Videos Darstellungen von sexuellem Kindesmissbrauch befinden“, erklärt der Jurist, der in einem Expertenteam zusammen mit der Justiz von Nordrhein-Westfalen daran mitgewirkt hat, solche Aufnahmen schneller zu entdecken und die Täter zur Verantwortung zu ziehen.

Mit Massendaten und Erfahrung trainierte, „tief lernende“ neuronale Netze können Polizei und Justiz auf verschiedenste Weise unterstützen, Verbrechen aufzuklären, Straftäter zu ermitteln oder auch Verdächtige zu entlasten. Dadurch können Verfahren auch schneller über die Bühne gehen. Die technologischen Möglichkeiten reichen von Bildanalysen und Gesichtserkennung über Suchmaschinen und Sprachübersetzer bis hin zu mehr oder weniger autonomen virtuellen Gerichts- und Polizei-Assistenten, die helfen, das Strafmaß zu finden, Wiederholungsgefahren einzuschätzen oder sogar Urteile zu schreiben. Roboter als die rechte Hand des Strafrichters? Spätestens hier wird klar: Es müssen Grenzen gezogen werden.

„In diesem sensiblen Bereich tun sich erhebliche Risiken für Grundrechte und Verfahrensrechte auf. Künstliche Intelligenz ist nicht wirklich intelligent. Sie ist oft auch nicht verlässlich genug, um rechtsstaatlichen Ansprüchen zu genügen. Daher benötigen wir klare rechtliche Standards, wozu, in welchem Umfang und unter welchen Rahmenbedingungen maschinelle Lerntechnologien im Strafverfahren verwendet werden dürfen“, sagt Dominik Brodowski, der auf diesem Gebiet forscht. Das neue EU-Gesetz zur Künstlichen Intelligenz, der AI Act, der den KI-Einsatz in Europa regelt, erhebt strenge Anforderungen für solch „risikoreiche“ Anwendungen.

Die Fragen, die KI in Strafverfolgung und Strafverfahren in rasanter Entwicklung aufwirft, stellen sich über Landesgrenzen hinweg weltweit. „Der Einsatz Künstlicher Intelligenz in Strafverfahren ist eine grenzüberschreitende Herausforderung für strafprozessuale Grundsätze und die Rechtsstaatlichkeit. Die Grundproblematiken stellen sich in allen Ländern gleichermaßen, egal in welchem Rechtssystem“, erklärt Dominik Brodowski. Daher geht das internationale Forschungsprojekt CrimAI der Problematik aus der Perspektive verschiedener Rechtsordnungen auf den Grund. Beteiligt am Projekt CrimAI, das der Saarbrücker Jurist von deutscher Seite leitet, sind Forscherinnen und Forscher aus Deutschland, Luxemburg, Frankreich, Großbritannien, den Niederlanden, der Schweiz und den USA. Die Gesamtleitung liegt an der Universität Luxemburg bei Strafrechtsprofessorin Katalin Ligeti.

„Es ist sehr aufschlussreich, die Entwicklungen in den verschiedenen Ländern zu vergleichen und sich darüber auszutauschen, wie die Fragen andernorts gehandhabt werden. Der Blickwinkel aus einer anderen Rechtsordnung ist hochinteressant – durch den Perspektivwechsel kann man die Problematik mitunter intensiver durchdringen und gelangt auch zu neuen Erkenntnissen“, erläutert Dominik Brodowski. Im Rahmen des CrimAI-Projekts klopfen die Wissenschaftlerinnen und Wissenschaftler seit nunmehr zweieinhalb Jahren ab, wo KI in Strafverfolgung und an den Gerichten ihrer Länder bereits im Einsatz ist. „Es geht darum, zu ergründen und auch Bewusstsein dafür zu schaffen, wo im Alltagsgeschäft eine Anwendung problematisch werden kann, etwa weil sie die menschliche Entscheidungsfindung unterbewusst beeinflusst. Die Werkzeuge, die der Rechtsstaat verwendet, müssen hohen rechtsstaatlichen Standards entsprechen und die Fairness des Verfahrens gewährleisten“, erklärt der Jurist und Spezialist für Digitale Forensik, ein Gebiet, auf dem er auch Polizeibeamtinnen und -beamte in einem weiterbildenden Masterstudiengang an der Hochschule Albstadt-Sigmaringen ausbildet.  

Die internationalen Forscherinnen und Forscher befassen sich damit, was rechtsstaatliche Standards erfordern und wie die neuen Technologien angepasst werden müssen, damit sie rechtmäßig zum Einsatz kommen können. So beleuchten sie zum Beispiel KI-Analysen vor Gericht und ergründen, welche auf KI-basierenden oder mit KI aufbereiteten Beweismittel vor Gericht verwendet werden können, wie dabei ein faires Verfahren gesichert werden kann und welche Beteiligungsrechte der Verteidigung zustehen müssen, um eine angemessene Verteidigung zu gewährleisten. Auch mögliche Fehlerquellen beim Einsatz von KI sind ein Thema. „Dies ist von entscheidender Bedeutung, um Zukunftsszenarien für einen rechtsstaatskonformen Einsatz dieser neuen Technologie entwickeln zu können“, erklärt Dominik Brodowski.

Viele Menschenrechte, Grundrechte und sonstige Rechte können durch den KI-Einsatz betroffen sein: vom Recht auf Nichtdiskriminierung über den Schutz personenbezogener Daten bis hin zum Recht auf ein faires Verfahren. „Der Einsatz von Künstlicher Intelligenz muss transparent, nachvollziehbar, datenschutz- und grundrechtskonform sein und muss das Strafverfahren gerechter machen“, fasst Dominik Brodowski zusammen und betont: „KI-Tools dürfen menschliche Richterinnen und Richter nie ersetzen und auch keine endgültigen Entscheidungen an ihrer Stelle treffen.“

CrimAI steht für „Criminal Proceedings and the Use of AI: Challenges for Common Criminal Procedure Principles and the Principles of the Rule of Law“. Die Gesamtleitung liegt bei Strafrechtsprofessorin Katalin Ligeti von der Universität Luxemburg. Von deutscher Seite leitet das Projekt Professor Dominik Brodowski. Weiteres Mitglied der Expertengruppe von der Universität des Saarlandes ist der Rechtsinformatiker Professor Christoph Sorge. Gefördert wird die Forschung durch den Luxembourg National Research Fund.

Die internationale Gruppe von Forscherinnen und Forschern diskutiert auch im Rahmen von Konferenzen, die abwechselnd in den beteiligten Ländern stattfinden. Im März 2024 fand das Treffen auf dem Saarbrücker Campus statt. 
Am 7. und 8. November werden die Partnerinnen und Partner in Luxemburg im Rahmen einer Konferenz Ergebnisse des Projektes beraten und Empfehlungen an Justiz und Politik richten (The Advent of AI: Reshaping Criminal Procedure;
7 November, 8.30 Uhr – 8 November, 13.15 Uhr, Weicker Building, 4 rue Alphonse Weicker, 2721, Luxembourg).
Link zur Konferenz am 7. und 8.11.24: https://www.uni.lu/fdef-en/events/the-advent-of-ai-reshaping-criminal-procedure

Weitere Informationen:
https://www.uni-saarland.de/lehrstuhl/brodowski.html
https://aiandcriminaljustice.uni.lu/

Fragen beantwortet:
Prof. Dr. Dominik Brodowski, Lehrstuhl für Europäisierung, Internationalisierung und Digitalisierung von Strafrecht und Strafverfahren
Tel.: 0681/302-4950; E-Mail: dominik.brodowski@uni-saarland.de
https://www.uni-saarland.de/lehrstuhl/brodowski.html

Hintergrund:
Die Rechtswissenschaftliche Fakultät der Universität des Saarlandes zählt mit dem Institut für Rechtsinformatik und dem Zentrum für Recht und Digitalisierung zu den führenden Standorten auf dem Gebiet des Rechts der Digitalisierung und der Rechtsinformatik. Jedes Jahr tagt auf dem Saarbrücker Campus der größte deutsche Fachkongress zum elektronischen Rechtsverkehr und der Rechtsinformatik, der Deutsche EDV-Gerichtstag. IT-Recht und Rechtsinformatik sind ein Schwerpunkt der juristischen Forschung und auch der juristischen Ausbildung in Saarbrücken. Auf diesem Gebiet können sich Jura-Studierende hier früh spezialisieren mit dem Schwerpunktstudium IT und Recht als Teil auch des juristischen Staatsexamens, außerdem einem Zertifikat "IT-Recht und Rechtsinformatik" sowie einem weiterbildenden Masterstudiengang „Informationstechnologie und Recht“.