%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
% Les questions et le barème sont :
% écrits par Louis Paternault (https://snt.ababsurdo.fr)
% publiés sous licence Creative Commons by-sa 4.0.
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

% Pour compiler :
%$ lualatex $basename

\documentclass[10pt]{article}

\usepackage{2526-pablo}
\usepackage{2526-pablo-paternault}

\usepackage[
  a5paper,
  headsep=3mm,
  margin=5mm,
  includehead,
]{geometry}

\usepackage{2526-pablo-header}
\fancyhead[L]{\textsc{Snt > Informatique embarquée > Enjeux}}
\fancyhead[R]{\textsc{Racisme}}

\usepackage{numprint}

\usepackage{podcast}

\begin{document}

\begin{consignes}{Pourquoi des personnes qui ne sont pas discriminantes (ni racistes, ni sexistes, etc.) peuvent créer des systèmes discriminants ? Quelles solutions permettraient d’éviter ce genre de problèmes ?}
    \item Décrire le fonctionnement normal du distributeur de savon et de la voiture autonome.
    \item Décrire le fonctionnement problématique (observé ou supposé), décrit dans les articles.
    \item Pourquoi peut-on affirmer que le distributeur de savon et la voiture connectée ont un comportement raciste ?
    \item Ce comportement raciste traduit-il le racisme des ingénieurs et ingénieures ayant conçu le produit ?
    \item Donner d’autres exemples de comportement discriminants observés dans des objets technologiques.
    \item Proposer des solutions pour que ce genre d’objets racistes ne soient plus construits à l’avenir. 
\end{consignes}

\pagebreak

\begin{extrait}{\textbf{%
      Tom Hale, IFLScience!,
      \emph{This Viral Video Of A Racist Soap Dispenser Reveals A Much, Much Bigger Problem}
      (traduit par Louis Paternault),
      18 août 2017.
    }}{\url{https://www.iflscience.com/technology/this-racist-soap-dispenser-reveals-why-diversity-in-tech-is-muchneeded/}}
Chukwuemeka Afigbo, un nigérien travaillant dans la technologie, a twitté une courte vidéo d’un distributeur de savon « raciste », qui donne du savon dans la main d’une personne blanche, mais pas dans celle d’une personne noire. \ellipse

Ce problème simple aurait été évité si le distributeur avait été testé sur différents teints de peaux. \ellipse

Il existe beaucoup d’exemples similaires. \ellipse Par le passé, Flickr et Google avaient tous les deux été obligé de présenter leur excuses lorsque leurs systèmes automatiques de reconnaissance d’images classaient des photos de personnes noires comme « singe » ou « gorille ». \ellipse

Une étude scientifique a aussi mis en lumière le problème des applications de reconnaissance vocale beaucoup plus efficaces pour comprendre les voix masculines plutôt que les féminines. La raison étant que le logiciel avait été entraîné principalement avec les voix d’hommes. \ellipse

De prime abord, ces petites bourdes comme le distributeur de savon peuvent paraître drôles : comment une machine sans conscience pourrait-elle être raciste ? Mais en réalité, elles montrent simplement pourquoi la diversité est si importante. Après tout, l’entreprise derrière le distributeur n’était probablement pas volontairement raciste. Néanmoins, elle a été indélicate.
\end{extrait}

\vfill

\begin{extrait}{\textbf{%
      Sophie Kloetzli, Usbek \& Rica,
      \emph{Les personnes noires auraient plus de risques de se faire renverser par une voiture autonome},
      4 mars 2019.
    }}{\url{https://usbeketrica.com/article/personnes-noires-chances-renverser-voitures-autonomes}}
Des chercheurs du Georgia Institute of Technology à Atlanta aux États-Unis ont mis en évidence les biais racistes des systèmes de reconnaissance. La détection de piétons à la couleur de peau foncée serait moins précise que pour les personnes blanches.

\ellipse

C'est du moins la conclusion d'un nouveau rapport publié le 21 février par une équipe de chercheurs américains. Ceux-ci ont confronté huit systèmes de reconnaissance (sans préciser lesquels) à plusieurs dizaines de milliers d'images de piétons prises à New York, Berkeley, San Francisco et San Jose, et dans diverses conditions météorologiques. Les résultats indiquent que les algorithmes de détection existants sont généralement moins performants lorsqu'il s'agit d'identifier des personnes noires. 

« Les erreurs faites par les voitures autonomes pourraient être inégalement réparties dans les différents groupes démographiques », alertent-ils. Autrement dit, ces véhicules pourraient avoir plus de faciliter à détecter, et donc à esquiver, les piétons blancs que les piétons noirs. 

\ellipse

« La base de données d’apprentissage contient environ 3,5 fois plus d’exemples de piétons des catégories 1 à 3 [à la peau claire, NDLR] », détaillent les chercheurs. Cette disparité serait ainsi à leurs yeux la raison principale des biais racistes des systèmes de détection. Une base de données plus fournie et plus inclusive conduisent logiquement à une reconnaissance plus fine des individus.
\end{extrait}

\end{document}
