Pendant plusieurs semaines, des élèves de première année de BTS management commercial opérationnel du lycée Lapérouse ont fait des heures sup afin de préparer le procès fictif de l’année. Sur le banc des accusés, Thot, une intelligence artificielle (IA). Nous sommes à la fin des années 2020 et l’intelligence artificielle est partout. Initialement utilisée dans les logiciels comptables pour automatiser les tâches, Thot a permis de redynamiser l’économie grâce à d’importants gains de productivité. Au fil du temps, l’intelligence s’est toutefois imposée comme un patron tyrannique.

Ce procès fictif, organisé en partenariat avec la société XL Prog, spécialisée dans le développement des logiciels comptables intégrant l’IA, peut paraître un peu surréaliste aujourd’hui, mais pose la question éthique du recours à l’automatisation et, en creux, celle du remplacement de l’être humain par des machines. Une problématique complexe qui peut paraître décalée aujourd’hui, mais qui s’imposera à relativement court terme puisque l’intelligence artificielle est d’ores et déjà une réalité.

Pour Jean-Luc Zaffran, l’enseignant qui a accompagné le projet sur le plan pédagogique, ce type d’expérience permet aux élèves de mieux appréhender les éléments du programme, comme le règlement général sur la protection des données, plus connu sous son acronyme de RGPD. Et pour immerger encore davantage les élèves, le tribunal administratif s’est volontiers prêté au jeu en acceptant de présider les débats.

« L’intelligence artificielle est un algorithme qui permet de cibler des critères. L’IA et le choix des critères peuvent avoir des conséquences comme de remplacer des postes dans des entreprises. Mais les critères, ce sont bien les hommes qui les choisissent », explique Marine, une des étudiantes qui a assuré le rôle d’avocat. « L’intelligence artificielle est le reflet de ce que nous sommes », ajoute Thomas.

« C’est une manière de sensibiliser par rapport aux réseaux sociaux, souligne également Jessica. Il n’y a pas vraiment de vie privée et l’on ne fait pas toujours attention aux données personnelles. Cela a un impact sur la société. Ce n’est jamais gratuit. Quand c’est gratuit, en général, ce sont les utilisateurs le produit ». Alors que la connexion internet est devenue presque vitale pour une partie de la population aujourd’hui et qu’on parle de plus en plus de digitalisation de la société, ces réflexions sont d’autant plus importantes

Comme le pointe Marion, « la technologie nous bouffe, mais on ne peut pas vivre sans. C’est comme tout, il faut trouver le juste équilibre, bien définir les critères et s’interroger sur le but de ces technologies ».