Re: [SENSIBILISATION] Explication succincte du danger « Décisions prises par les machines » (case 4 du plateau du Jeu du Gnou)

[Elsa Pottier <epottier AT april.org>]

Salut,

Le 30/10/2020 à 18:56, Isabella Vanni a écrit :
> Pour l'explication succincte du danger « Décisions prises par les machines » (case 4 du 
> plateau du Jeu du Gnou), un débat s'est déroulé lors de la réunion sensibilisation de 
> jeudi 29/10 autour de l'opportunité de traiter séparément les algorithmes et les 
> "apprentissages" par les machines.
>
> L'explication actuelle :
>
> https://pad.chapril.org/p/Jeu-Gnou_descriptif-cases, paragraphe 1.3.3.
>
> Des propositions alternatives pour la phrase qui clôture l'explication sont 
> juste en-dessous.
>
> Quel est votre avis ?


Je suis une adoratrice passionnée de la précision et de l'utilisation des 
mots justes :) Ceci dit, pour vous aider à trouver la bonne phrase, j'ai 
envie de vous demander: quelle est l'intention, ici?

        - alerter sur un danger liberticide que le grand public n'aura pas eu 
nécessairement à l'esprit, en permettant un 1er pas de côté une machine est 
programmée par un humain, avec tous les biais qui lui sont propres, donc une 
machine n'est pas neutre)

        - Instruire le grand public sur la complexité de ce qui se cache 
derrière a programmation de la machine, en lien avec ce fait qu'elle est 
programmée par un humain et donc biaisée?

En fait, la façon dont je formule mes questions sur l'intention est biaisée 
par ma propre compréhension du jeu (intention 1) combinée à mon 
incompréhension de l'explication donnée pour l'instant: je ne comprends tout 
simplement pas à quoi fait référence la notion d'apprentissage dans ce 
contexte, qu'ils soient programmés, déterminés, réalisés, etc.:)

En totale ignare, et me basant sur ma compréhension de l'objectif du jeu du 
Gnou, j'ai tendance à penser que parler de règles suffit amplement si l'idée 
est d'alerter du danger. Rentrer dans la complexité et le vocabulaire 
(algorithme, apprentissage+qualificatif) qui va avec est passionnant, mais 
est-ce pertinent à cet endroit?
Pour moi l'utilisation simplement du mot "règle" est suffisant.
Utiliser un autre mot appelle plus de questionnements supplémentaires que 
d'explications. Ca peut être l'objectif, mais du coup je crois qu'il devient 
compliqué de répondre à tous les questionnement suscités :)

Ce qui donnerait "De plus, sa décision est établie à partir de règles programmées 
par des humains avec tous leurs préjugés".


Autre remarque (désolée, je vais vous complexifier la tâche!):

pour moi la phrase entre crochets (donc pas nécessairement retenues, encore?) 
serait intéressante avec une nuance supplémentaire:
[; elle ne possédera jamais la subtilité d'un interlocuteur humain]. > qqch comme "elle ne 
possédera jamais la subtilité que pourrait avoir un interlocuteur humain" (je crois qu'il y a 
pas mal d'humains malheureusement qui ont une adoration non consciente pour les cases, et/ou des 
biais non conscientisés), ou encore, "elle ne possédera jamais, [pour trancher] le 
libre-arbitre d'une personne humaine" (je vais trop loin?).

J'espère n'avoir pas contribué trop "à  côté"...
Je relirai demain voir si autre chose surgit.

Bon début de semaine à tout le monde,
Elsa.