Was kanadische Staatsanwälte auf Bundes- und Provinzebene über KI bei der Beweismittelprüfung wissen müssen

Staatsanwälte (Crown Counsel) nehmen in der Diskussion um künstliche Intelligenz eine schwierige Position ein. Das Datenvolumen ist ebenso groß wie in komplexen Wirtschaftsverfahren, die Offenlegungspflichten sind strenger und die Fehlertoleranz liegt nahe bei Null. Gleichzeitig können Prozessbevollmächtigte des öffentlichen Sektors ein Tool nicht einfach deshalb einführen, weil es nützlich erscheint. Vergabevorschriften, IT-Sicherheitsprüfungen des Ministeriums und eine wachsende Zahl von Richtlinien des Bundes zur verantwortungsvollen Nutzung von KI stehen zwischen der Idee und der Implementierung.

Das Ergebnis ist der bekannte Stillstand. Jeder stimmt darin überein, dass eine manuelle Durchsicht von mehreren hunderttausend Dokumenten weder verhältnismäßig noch realistisch ist. Niemand möchte jedoch die Person sein, die ein KI-Tool genehmigt hat, ohne eine fundierte Antwort auf die darauf folgenden Fragen zu haben. Es folgt ein praktischer Leitfaden für diese Fragen und die bereits existierenden Antworten.

Die Offenlegungspflicht ist der Ausgangspunkt, nicht die Technologie

Staatsanwälte führen Review-Technologien nicht ein, weil sie modern sind. Sie führen sie ein, weil Offenlegungspflichten in Strafsachen verfassungsrechtlich verankert und in Zivilsachen anspruchsvoll sind – und weil diese Pflichten innerhalb begrenzter Budgets und gesetzlicher Fristen erfüllt werden müssen.

Diese Perspektive ist entscheidend. Wenn die Entscheidung für eine Review-Technologie den Genehmigungsverantwortlichen im Ministerium als Innovationsinitiative präsentiert wird, wirft dies Fragen nach Neuartigkeit und Risikobereitschaft auf. Wird dieselbe Entscheidung jedoch als Verhältnismäßigkeitsmaßnahme zur Erfüllung einer bestehenden rechtlichen Verpflichtung dargestellt, bewegt man sich in vertrautem Terrain. Die Sedona Canada Principles liefern hierfür bereits die Begriffe. Wir haben bereits darüber geschrieben, wie Sedona Canada die KI-gestützte Überprüfung zur vertretbaren Baseline und nicht zur riskanten Ausnahme macht. Diese Analyse gilt gleichermaßen für Prozessbevollmächtigte des öffentlichen Sektors. Verhältnismäßigkeit und Kooperation sind keine Privilegien des privaten Sektors. Sie sind die Standards, die ein Gericht an den Staat ebenso anlegen wird wie an jeden anderen.

Die praktische Konsequenz ist, dass sich für ein staatliches Prozessteam nicht die Frage stellt, ob eine KI-gestützte Überprüfung zulässig ist. Es geht vielmehr darum, ob das konkrete Tool und der damit verbundene Workflow erklärt und begründet werden können.

Was die Richtlinie für automatisierte Entscheidungsfindung abdeckt und was nicht

Prozessbevollmächtigte des Bundes werden in dieser Diskussion unweigerlich auf die Richtlinie des Treasury Board zur automatisierten Entscheidungsfindung (Directive on Automated Decision-Making) stoßen, die oft als Einwand vorgebracht wird. Hier ist Präzision in Bezug auf den Anwendungsbereich gefragt, denn Ungenauigkeiten verhindern an dieser Stelle gute Projekte.

Die Richtlinie regelt automatisierte Systeme, die zur Entscheidungsfindung oder zur Unterstützung von Verwaltungsentscheidungen über Bürger eingesetzt werden – also Entscheidungen, die über Rechte, Privilegien oder Ansprüche einer Person bestimmen. Sie schreibt algorithmische Folgenabschätzungen (Algorithmic Impact Assessments), Benachrichtigungspflichten und Begründungsanforderungen vor, die auf die jeweilige Auswirkungsstufe des Systems abgestimmt sind.

Eine KI-gestützte Dokumentenprüfung fällt offensichtlich nicht unter diese Definition. Ein Tool, das ein Dokument liest und einem Anwalt einen Vorschlag für Relevanz oder Vertraulichkeit zur Annahme oder Ablehnung vorlegt, trifft keine Verwaltungsentscheidung über einen Bürger. Es handelt sich um ein System zur Entscheidungsunterstützung, das ausschließlich innerhalb des analytischen Prozesses des Anwalts agiert. Konzeptuell ist es mit einem Suchindex oder einem Stichwortfilter vergleichbar, wenn auch wesentlich leistungsfähiger. Der Anwalt bleibt der Entscheidungsträger, und das Urteil des Anwalts ist das, was in der Akte festgehalten wird.

Dennoch sollten Sie diese Analyse durch die interne KI-Governance-Stelle Ihrer Behörde bestätigen lassen, anstatt sich auf die Aussagen eines Anbieters zu verlassen. Der sicherere Ansatz besteht darin, die Richtlinie als Maßstab für die Werte zu betrachten, die Ihr Ministerium erwartet – Transparenz, Rechenschaftspflicht, menschliche Aufsicht und Überprüfbarkeit – und dann nachzuweisen, dass Ihr Review-Workflow diese Werte erfüllt, unabhängig davon, ob die Richtlinie im strengen Sinne anwendbar ist. Ein Workflow, der einer algorithmischen Folgenabschätzung standhalten würde, ist ein Workflow, für den Sie sich nie rechtfertigen müssen.

Wo die Daten verbleiben: Die Frage, an der die meisten Beschaffungen scheitern

Nach unserer Erfahrung scheitern die meisten Evaluierungen im öffentlichen Sektor an einer einzigen Frage: der Datenresidenz. Staatsanwälte arbeiten mit geschützten, teilweise als Verschlusssache eingestuften, häufig der gesetzlichen Geheimhaltungspflicht unterliegenden und stets politisch sensiblen Daten. Ein Tool, das Dokumente an ein US-amerikanisches Rechenzentrum sendet oder ministerielle Inhalte zur Verbesserung eines kommerziellen Modells nutzt, wird die Sicherheitsprüfung nicht bestehen – und das aus gutem Grund.

An dieser Stelle ersetzt eine klare Architektur-Antwort langwierige Verhandlungen. Die kanadische Instanz von Claira läuft in der Region northamerica-northeast1 von Google Cloud in Montreal, ohne regionenübergreifende Replikation und ohne regionenübergreifenden Abfluss von Kundeninhalten. Modell-Anfragen sind an Endpunkte in derselben Region gebunden. Kundeninhalte werden pro Anfrage verarbeitet und nicht zum Training von Claira-eigenen Modellen verwendet. Betriebliche Ereignisse werden protokolliert, um Audits und die Fehlerbehebung zu unterstützen. Diese Details sowie die Verschlüsselungs- und Zugriffskontrollmechanismen sind im Claira Datenschutz- und Sicherheitsreferenzdokument dokumentiert, anstatt in Verkaufsgesprächen unterzugehen. Genau das benötigt ein Sicherheitsprüfer im Ministerium.

Es geht nicht darum, dass eine bestimmte Architektur die einzig richtige ist. Es geht darum, dass es auf diese Fragen konkrete, dokumentierte Antworten gibt und dass ein Beschaffungsprozess zügig voranschreitet, sobald diese vorliegen.

Die Plugin-Architektur ist die Abkürzung im Beschaffungsprozess, die zu selten genutzt wird

Technologie-Stacks im öffentlichen Sektor werden nur langsam genehmigt und ungern geändert. Viele Rechtsabteilungen des Bundes und der Provinzen nutzen bereits Nuix Discover. Diese bestehende Freigabe ist ein wertvolles Gut, das routinemäßig zu wenig genutzt wird.

Ein Tool, das als Erweiterung innerhalb von Nuix Discover läuft und nicht als separate Plattform, auf die Dokumente erst exportiert werden müssen, bietet eine wesentlich geringere Angriffsfläche für die Beschaffungs- und Sicherheitsprüfung. Es muss kein neues Dokumenten-Repository geprüft werden. Es gibt keine zusätzliche Kopie von Beweismitteln, die nachverfolgt, gesichert und schließlich vernichtet werden muss. Die Chain of Custody bleibt dort, wo sie bereits ist. Die Prüfer arbeiten in der Benutzeroberfläche, in der sie bereits geschult sind, und die von ihnen erstellten Codierungen fließen direkt in die Nuix-Felder ein, auf die sich das Prozessteam bereits verlässt.

Die Darstellung einer KI-Review-Funktion als Ergänzung zu einer bereits genehmigten Plattform und nicht als neue Plattform ist kein rhetorischer Trick. Es ist die präzise Beschreibung eines tatsächlich geringeren Risikoprofils und die Darstellung, die eine ministerielle Architekturprüfung am ehesten erfolgreich durchläuft.

Menschliche Aufsicht ist ein Kernmerkmal, kein Zugeständnis

Jedes glaubwürdige Regelwerk für den Einsatz von KI im öffentlichen Sektor und jede Richtlinie der Rechtsanwaltskammern, an die ein Staatsanwalt gebunden ist, läuft auf dieselbe Anforderung hinaus: Ein Mensch muss für das Ergebnis verantwortlich bleiben.

Dies ist keine Einschränkung, um die man mühsam herumplanen muss. Es ist der Workflow, der in der Praxis tatsächlich funktioniert. Claira liest den gesamten Dokumentensatz und schlägt Codierungen inklusive Begründung vor. Der Anwalt prüft, akzeptiert, korrigiert und dokumentiert diesen Vorgang. Die KI übernimmt das Lesen. Der Anwalt übernimmt das Urteil, und die Akte spiegelt dies wider.

Wo man anfangen sollte

Fangen Sie klein an. Wählen Sie ein abgeschlossenes Verfahren oder ein Verfahren mit geringer Sensibilität, führen Sie eine überwachte Überprüfung im Vergleich zu den bereits von Ihrem Team vorgenommenen Codierungen durch und messen Sie die Übereinstimmung. Dieses Vorgehen liefert genau das Ergebnis, das ein Genehmigungsverantwortlicher im Ministerium sehen möchte: Belege aus Ihrer eigenen Arbeitsumgebung statt Werbeversprechen eines Anbieters.

Wenn Sie die für Ihr Ministerium spezifischen Sicherheits- und Beschaffungsfragen gemeinsam durchgehen möchten, buchen Sie einen Arbeitstermin mit uns. Wir haben diese Gespräche bereits geführt, und es geht schneller, als Sie erwarten.