IA y revisión judicial: nuevos desafíos para el control de decisiones automatizadas

Valeur des informations & solidité de l’argumentation

La valeur de cette intervention réside dans la clarification conceptuelle des différents modes d’intervention de l’IA dans la décision administrative, ainsi que dans l’identification du phénomène de ‘validation automatique’ qui est rarement théorisé. L’argumentation est solide : elle part de cas concrets sanctionnés par les tribunaux pour extrapoler vers les risques dans l’administration publique, en raisonnant par analogie. Elle soulève des questions fondamentales comme la localisation juridique de la décision, la responsabilité en cas d’erreur et l’insuffisance de la simple supervision humaine. Toutefois, le propos reste centré sur le droit administratif et ne propose pas de solutions pratiques ou techniques pour améliorer la transparence ou l’explicabilité. L’argumentation est toutefois structurée autour d’une gradation qui donne de la profondeur sans verser dans un simple catalogue d’anecdotes.

Rigueur scientifique, qualité des sources, adéquation du titre

L’intervention cite explicitement deux décisions de justice américaines (Douglas v. Deutsche Bank, affaire Shields) et la recommandation de l’UNESCO sur l’IA et la justice, mais ne fournit ni références bibliographiques ni liens dans la description. Les cas sont toutefois présentés avec suffisamment de détails pour sembler authentiques. La rigueur théorique est bonne : l’autrice distingue des niveaux d’intervention avec une clarté pédagogique. Le titre reflète parfaitement le contenu et n’est pas trompeur.

Le titre correspond exactement au contenu : la conférence aborde les défis du contrôle juridictionnel des décisions automatisées, incluant des exemples et une analyse approfondie.

8/10

L'analyse s'appuie sur des cas jurisprudentiels réels (Douglas v. Deutsche Bank, affaire Shields) et une gradation méthodique des niveaux d'intervention de l'IA. L'autrice, magistrat en contentieux administratif, ancre son propos dans une pratique concrète. Toutefois, aucun lien vers les sources primaires n'est fourni, et le propos reste essentiellement théorique et illustratif.

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

• 00:00Introduction et présentation de la conférencière pour le séminaire de l'Institut péruvien.
• 02:00Question initiale : un juge peut-il contrôler une décision s'il ne comprend pas sa production ?
• 05:00Rappel du schéma classique de la décision administrative et introduction de l'intelligence artificielle.
• 12:00Présentation du cas Douglas v. Deutsche Bank : fausses jurisprudences générées par IA.
• 18:00Discussion sur la responsabilité partagée des avocats et l'absence de déplacement vers l'IA.
• 25:00Étapes de l'administration : traditionnelle, électronique, algorithmique, automatisée.
• 29:00Présentation des quatre niveaux d'intervention de l'IA : outil, assistance, élément déterminant, décision automatique.
• 35:00Analyse de la validation passive et de l'illusion de la supervision humaine.
• 40:00Exemple concret de la caisse noire algorithmique avec un chatbot municipal à Quito.
• 45:00Conséquences pour le contrôle judiciaire et nécessité de repenser le droit administratif.

• Douglas v. Deutsche Bank National Trust Company (2026, District of Columbia Court of Appeals) — Cas américain cité pour illustrer la production d'inexactitudes juridiques par l'IA générative.
• Case before the Second Circuit (Elliot Shields, métro de New York) — Second cas montrant la confiance aveugle d'un avocat dans une alucination juridique produite par IA.
• UNESCO Guide on AI and Justice — Référence mentionnée pour les recommandations internationales sur l'usage de l'IA dans les systèmes de justice.