Qu'est-ce qu'une piste de preuve d'IA ?

Dans le cadre du travail juridique, une piste de preuve générée par l'IA désigne la documentation qui démontre comment un système d'IA est parvenu à un résultat donné. Plutôt que d'accepter une classification ou un résumé d'emblée, cette piste permet à un réviseur de remonter du résultat jusqu'aux documents sources et aux instructions qui l'ont produit.

Ce qu'une piste utile contient généralement

• L'instruction ou le critère fourni au modèle

• Le document ou le passage sur lequel le modèle s'est appuyé, idéalement sous forme de citation

• Le résultat lui-même, y compris toute décision de codage qui y est rattachée

• Le modèle ou la version du modèle utilisé, ainsi que la date d'exécution

• La décision du réviseur humain concernant le résultat : accepté, rejeté ou escaladé

Pourquoi c'est important

La partie adverse, un organisme de réglementation ou un tribunal peut demander comment une révision a été effectuée. Un processus de travail qui se limite à affirmer « l'IA l'a signalé » est difficile à défendre; un processus capable de présenter le critère, le texte cité et la vérification humaine est beaucoup plus facile à expliquer. Les directives de plusieurs barreaux traitent désormais du devoir de compétence technologique, ce qui, en pratique, signifie être en mesure de décrire ce qu'un outil a fait et comment il a été supervisé.

Une piste de preuve est également un outil de contrôle de la qualité. Lorsque vous pouvez voir quel passage a motivé une décision, vous pouvez repérer les critères trop larges, détecter si un modèle a lu la mauvaise section d'un document et corriger l'instruction avant qu'elle n'affecte des milliers de dossiers.

Lecture complémentaire : Leçons tirées de l'affaire Zhang c. Chen examine ce qui peut se produire lorsque les résultats de l'IA sont versés au dossier sans vérification.

Claira est une plateforme de preuve électronique (eDiscovery) propulsée par l'IA, conçue pour les travaux de révision qui doivent résister à un examen minutieux – vous pouvez réserver une démonstration pour voir comment elle gère la révision de documents.