IA : Biais de l’intelligence artificielle¶
Les questions que l’on se pose dans cette activité sont les suivantes :
Biais
Quelle est la différence entre le biais des données et le biais sociétal ?
Quels dangers et risques comportent ces biais ?
Intelligence artificielle. Biais de l’intelligence artificielle
Thème :
Enjeux sociaux II(Thèmatique Economie du numérique)Niveau :
facileDurée : 1 période ou 45 minutes
Objectifs pédagogiques : Comprendre ce qui crée les biais en intelligence artificielle. Différencier le biais des données et le biais sociétal.
Modalité :
branchéMatériel : des écouteurs sont conseillés, mais pas indispensables
Prérequis : aucun
Déroulement¶
Étape |
Durée |
Phase de l’activité |
|---|---|---|
20 min |
Apprentissage |
|
10 min |
Discussion |
|
10 min |
Apprentissage et discussion |
|
5 min |
Objectivation |
Jeu sérieux¶
Durée : 20 min
Sur ordinateur, faire le jeu sérieux « Les biais de l’intelligence artificielle » sur le lien :
ou
https://mi.hepl.ch/projects/ia/biais.html
Les élèves qui terminent en avance peuvent lire les articles proposés dans les hyperliens du jeu.
Biais de données et biais sociétal¶
Durée : 10 min
Quelle est la différence entre le biais de données et le biais sociétal ? [discussion de groupe]
La différence entre ces deux biais se situe au niveau de leur origine. Le biais de données, comme son nom l’indique, est un biais qui arrive lorsqu’on n’a pas observé assez de données. Le biais sociétal est un biais déjà présent dans la société et qui se retrouve amplifié dans les solutions proposées par l’algorithme d’intelligence artificielle.
Dangers et risques¶
Durée : 10 min
Quels dangers et risques comportent ces biais ? [lecture de ressources et discussion de groupe]
Citer des risques que comportent ces biais et identifier le type du biais. On peut compléter les exemples du jeu avec les exemples suivants :
chatbot Tay : dgxy.link/tay [biais sociétal]
voitures autonomes à Halloween : dgxy.link/hwn [biais des données]
la traduction automatique : dgxy.link/trd [biais sociétal]
Peut-on faire confiance ?¶
Durée : 5 min
Peut-on faire confiance à l’intelligence artificielle ? [discussion de groupe]
Même si les algorithmes d’intelligence artificielle sont performants, ils peuvent se tromper. Il ne faut pas hésiter à remettre en question les solutions que les algorithmes d’intelligence artificielle nous proposent.