IA : Biais de l’intelligence artificielle


Les questions que l’on se pose dans cette activité sont les suivantes :

Biais

  • Quelle est la différence entre le biais des données et le biais sociétal ?

  • Quels dangers et risques comportent ces biais ?


Intelligence artificielle. Biais de l’intelligence artificielle

  • Thème : Enjeux sociaux II (Thèmatique Economie du numérique)

  • Niveau : facile

  • Durée : 1 période ou 45 minutes

  • Objectifs pédagogiques : Comprendre ce qui crée les biais en intelligence artificielle. Différencier le biais des données et le biais sociétal.

  • Modalité : branché

  • Matériel : des écouteurs sont conseillés, mais pas indispensables

  • Prérequis : aucun

Déroulement

Étape

Durée

Phase de l’activité

Jeu sérieux

20 min

Apprentissage

Biais de données et biais sociétal

10 min

Discussion

Dangers et risques

10 min

Apprentissage et discussion

Peut-on faire confiance ?

5 min

Objectivation

Jeu sérieux

Durée : 20 min

Sur ordinateur, faire le jeu sérieux « Les biais de l’intelligence artificielle » sur le lien :

dgxy.link/I4eYh

ou

https://mi.hepl.ch/projects/ia/biais.html

Les élèves qui terminent en avance peuvent lire les articles proposés dans les hyperliens du jeu.

Biais de données et biais sociétal

Durée : 10 min

Quelle est la différence entre le biais de données et le biais sociétal ? [discussion de groupe]

La différence entre ces deux biais se situe au niveau de leur origine. Le biais de données, comme son nom l’indique, est un biais qui arrive lorsqu’on n’a pas observé assez de données. Le biais sociétal est un biais déjà présent dans la société et qui se retrouve amplifié dans les solutions proposées par l’algorithme d’intelligence artificielle.

Dangers et risques

Durée : 10 min

Quels dangers et risques comportent ces biais ? [lecture de ressources et discussion de groupe]

Citer des risques que comportent ces biais et identifier le type du biais. On peut compléter les exemples du jeu avec les exemples suivants :

Peut-on faire confiance ?

Durée : 5 min

Peut-on faire confiance à l’intelligence artificielle ? [discussion de groupe]

En règle générale oui, mais les algorithmes d’intelligence artificielle peuvent se tromper. Il ne faut pas hésiter à remettre en question les solutions que les algorithmes d’intelligence artificielle nous proposent.

Ressources complémentaires

https://www.rts.ch/info/sciences-tech/technologies/11684864-lalgorithme-de-facebook-est-sexiste-pour-les-offres-demploi.html

https://www.lebigdata.fr/algorithme-google-raciste

https://siecledigital.fr/2021/02/11/des-chercheurs-tirent-la-sonnette-dalarme-sur-les-deviances-de-gpt-3/