Das KI-⁠Manifest von Ckvens

Die Rechtspflege ist im Kern menschlich. Rechtsanwendung erfordert Wissen, aber auch Erfahrung, Urteilsvermögen und Verständnis für die betroffenen Menschen und Interessen. Der Anwalt muss einen Mandanten beraten und unterstützen können, der Staatsanwalt eine eigenständige und objektive Prüfung vornehmen und der Richter ein faires Verfahren leiten und für die Entscheidung einstehen. KI verändert die Arbeitsweisen, macht diese menschlichen Rollen aber nicht überflüssig.

KI bietet große Chancen und erhebliche Gefahren. Wie die Technologie entwickelt und eingesetzt wird, entscheidet darüber, was sie für den Rechtsstaat bedeutet. Für uns als Entwickler und Anbieter solcher Werkzeuge bringt das eine große Verantwortung mit sich. Ckvens verpflichtet sich daher, die folgenden Prinzipien einzuhalten:

  1. 1.KI soll die Grundlage juristischer Arbeit stärken.

    Die großen Vorteile von KI liegen bei arbeitsintensiven Aufgaben wie Dokumentenprüfung, Extraktion, Zusammenstellung und Kontrolle. KI kann zu einer vollständigeren Tatsachengrundlage beitragen, Lücken und Widersprüche sichtbar machen und relevantes Material leichter zugänglich machen. Sie kann Organisationen auch dabei helfen, wichtige Schranken und Grundsätze konsequenter einzuhalten.

  2. 2.Der Jurist muss den Fall verstehen und die Beurteilungen selbst vornehmen.

    KI kann Analysen, Argumente und Schlussfolgerungen vorschlagen. Dennoch muss der Jurist ausreichend Einblick in Sachverhalt und Rechtslage haben, um die Vorschläge eigenständig zu prüfen. Menschliche Kontrolle muss stets eine echte fachliche Prüfung bedeuten. Die Freigabe einer Antwort, die man nicht beurteilen kann, bietet wenig Schutz.

  3. 3.Die Werkzeuge müssen Kontrolle ermöglichen.

    Nutzer müssen nachvollziehen können, auf welchen Quellen eine Angabe beruht, ob die Quellen die Darstellung stützen und welches Material geprüft wurde. Unsicherheit, fehlende Abdeckung und Widersprüche müssen offengelegt werden. Eine gut formulierte Antwort darf niemals für sich genommen als Garantie für Richtigkeit oder Vollständigkeit erscheinen.

  4. 4.Effizienz darf niemals auf Kosten der Qualität gehen.

    Eingesparte Zeit kann zu schnellerer Bearbeitung und geringeren Kosten führen, sollte aber auch Kapazität für gründlichere Prüfungen, bessere Vorbereitung und mehr Kontakt mit Mandanten und Beteiligten freisetzen. Wir müssen besonders auf Anwendungen achten, die die Kenntnis des Juristen vom Fall verringern oder die Arbeit oberflächlicher machen. Wir müssen uns dafür einsetzen, die lokale juristische Sprachtradition zu bewahren.

  5. 5.Eigenständiges und grundsätzliches Denken muss erhalten bleiben.

    Juristische Arbeit umfasst, etablierte Auffassungen zu hinterfragen, Grenzen auszuloten und Folgen über den Einzelfall hinaus zu erkennen. Ein unkritischer Einsatz von KI kann diese Fähigkeit schwächen und damit die Rechtsentwicklung hemmen. Die Werkzeuge sollten daher Gegenargumente, alternative Auslegungen und offene Fragen sichtbar machen und Raum dafür lassen, dass Nutzer die Prämissen infrage stellen.

  6. 6.Wir müssen Grenzen dafür setzen, was der KI überlassen wird.

    Endgültige Beurteilungen und Entscheidungen müssen bei Menschen liegen, die eine eigenständige Grundlage dafür haben und dafür verantwortlich sein können. Je größer die möglichen Folgen für den Einzelnen, desto strenger müssen die Anforderungen an die Kontrolle sein. Wo eine verantwortbare Kontrolle nicht möglich ist, müssen wir auf den Einsatz oder das Angebot von KI verzichten.

  7. 7.Anbieter müssen Transparenz und Mitwirkung ermöglichen.

    Als Anbieter tragen wir die Verantwortung dafür, die Prinzipien hinter unseren Lösungen, ihre wesentlichen Eigenschaften und ihre Grenzen zugänglich und verständlich zu machen. Nutzer müssen Einblick erhalten können, worauf die Werkzeuge beruhen, wie sie Informationen verarbeiten und darstellen und welche Entscheidungen die Ergebnisse beeinflussen. Wir müssen es Nutzern, Fachkreisen und anderen Betroffenen ermöglichen, die Prämissen infrage zu stellen, Verbesserungen vorzuschlagen und die Entwicklung von Ckvens mitzugestalten.

  8. 8.Verschwiegenheitspflicht, Sicherheit und Unabhängigkeit müssen gewahrt werden.

    Verschwiegenheitspflicht, Datenschutz und Informationssicherheit müssen die Grundlage dafür bilden, wie die Lösungen entwickelt, betrieben und eingesetzt werden. Nutzer müssen kontrollieren können, wer Zugang zu den Informationen des Falls erhält und zu welchen Zwecken die Informationen verwendet werden. Wir müssen uns außerdem für größtmögliche Unabhängigkeit von Akteuren einsetzen, die politischer Einflussnahme unterworfen werden könnten, sodass weder die Informationen noch die Werkzeuge von außen kontrolliert werden können.

Wir wissen noch nicht, welche Folgen KI langfristig für die Gesellschaft haben wird. Gerade deshalb müssen wir klar benennen, welche Werte und gesellschaftlichen Funktionen wir bewahren wollen. Wir wollen nicht zu einer Gesellschaft beitragen, in der die Rechtspflege vollständig automatisiert wird und menschliches Urteilsvermögen, menschliche Präsenz und Verantwortung wegfallen. Eine solche Entwicklung wäre eine ernste Bedrohung sowohl für die tatsächliche als auch für die wahrgenommene Rechtsstaatlichkeit und ist daher in einem Rechtsstaat nicht akzeptabel.

Als Anbieter von KI-Diensten für die Rechtspflege tragen wir eine besondere Verantwortung dafür, welche Richtung die Entwicklung nimmt. Diese Verantwortung teilen wir mit den Berufsständen, den Organisationen, die die Technologie einsetzen, und den Behörden. Das bedeutet, klare Grenzen für die Automatisierung zu ziehen und sicherzustellen, dass menschliche Beurteilung und Kontrolle real bleiben. Die Verantwortung umfasst die Lösungen, die wir entwickeln, die Nutzung, die wir ermöglichen, und die Erwartungen, die wir wecken.

Unser Anspruch ist, dass KI Juristen besser in die Lage versetzt, ihrer Verantwortung gerecht zu werden. Dazu müssen Technologie, Schulung und Arbeitsorganisation fachliches Verständnis, Eigenständigkeit und menschliches Urteilsvermögen unterstützen.

Bereit, Ihren Fall klar zu sehen?

Erstellen Sie ein Konto, um zu beginnen. Für Enterprise schreiben Sie an contact@ckvens.com.

Kostenlos starten

Sie haben bereits ein Konto? Anmelden