Humanité numérique – contrôle social / outils libres; table ronde biennale 2019

Quelques pistes pour un possible débat à la Biennale de l’Éducation nouvelle

Actuellement la tendance va vers le tout numérique, les algorithmes, l’intelligence artificielle. Au-delà du sentiment de toute puissance et de vitesse que les machines procurent, une première question est de savoir pourquoi ce moderne engouement. Pourquoi « ce tout numérique » ? Avec quels outils conceptuels l’aborder ? Où situer le curseur, entre les espoirs et les craintes que suscitent ces technologies, entre une consommation passive (échelon 1) et une co-création participative (échelon 5) ?

Nos craintes :

La société et le numérique. Toujours connectés (mails, réseaux sociaux, infos…), nous sommes pistés, chiffrés, soumis à un contrôle social intrusif sous couvert de numérique. Le chiffrement de l’humain est en marche à l’échelle planétaire. À l’heure où on parle d’humanité numérique, est-ce bien de l’humanité dont il s’agit encore ? Les GAFAs, et au-delà une myriade de sociétés, nous analysent, leurs algorithmes anticipent nos « envies », à travers des chiffres jugés « incontestables » parce que « chiffres ». Devenus puissants parce qu’émergeant de modèles opaques, impossible à remettre en question par les citoyens qui ne les comprennent pas. Ainsi même quand les modèles veulent notre bien, ils deviennent dangereux quand ceux-ci ne sont pas régulés en permanence.

Lorsqu’ils annoncent une vie meilleure, ils réduisent actuellement souvent nos vies à un « bien » de consommation monnayable, mettent en péril les notions de vrai et de faux, propagent les rumeurs, réduise le savoir à une collection d’opinions à prendre ou à laisser. Et aujourd’hui, ont tendance à défavoriser ceux qui le sont déjà, les exclus, les opprimés, tout en rendant les riches encore plus riches. Car dans sa mise en œuvre, l’intelligence artificielle reflète nos valeurs, notre société, les idéaux de ceux qui conçoivent ses déclinaisons.

Si l’on veut espérer que l’intelligence artificielle puisse servir les hommes, et en particulier les enfants et la jeunesse, nous avons aujourd’hui, dit Cathy O’Neil, un premier devoir : dénoncer tous les modèles nocifs. Qu’elle nomme « Armes de Destruction Mathématique » (ADM). 

Plusieurs questions s’ouvrent alors et interrogent l’Éducation nouvelle  

  • Celle de la propagation et du financement dans les écoles des logiciels, des tablettes, des outils, … créant ainsi la demande chez les futurs adultes. Pourquoi ne pas militer pour la mise en place des outils du « libre » plus éthiques, plus humains, plus collaboratifs ? 
  • Celle de notre propre formation de citoyen et professionnel de l’éducation : comment nous former à une analyse pertinente, critique des modèles numériques de l’intelligence artificielle, à ces nouveaux outils? Avec qui nous cultiver sur le sujet, nous ouvrir aux nouveautés positivement tout en demeurant critiques?
  • Celle des savoirs à aborder pour nous repérer dans l’industrie des données qui favorisent actuellement les inégalités en échappant à tout contrôle. Ainsi quels savoirs acquérir pour nous repérer dans les prises de données et leurs dérives (ainsi dans les questions d’évaluation des écoles, des lieux de formation, de nos élèves, des profs).
  • Celle de la formation à offrir aux élèves et étudiants pour comprendre les utilisations diverses des algorithmes : ce qu’ils sont, à quoi et à qui ils servent. Pour leur permettre de se repérer dans les moteurs de recherches, savoir qui est derrière un site, comment sont faits les choix des faits défilant dans les fils d’actualité de certains sites, Si nous nous savons à peu près comment travailler les pièges du net (une rumeur, une théorie du complot, un plagiat) apprendre à reconnaître les algorithmes dangereux, ceux qui, cachés influent sur le moral des gens, leurs émotions ?
  • Celle des dispositifs pédagogiques : dans lesquels et comment l’humain, le citoyen, l’éducateur peut-il reprendre le pouvoir sur le numérique, rester inventif, créateur avec lui ? Ainsi  non seulement éviter les dérives du numérique, mais le placer au service de nos valeurs de l’Éducation nouvelle. 
  • Celle de nos « résistances » pour ne pas freiner ce que le numérique peut apporter au service de l’Éducation nouvelle 

Bibliographie :

• Margarida Romero: https://www.youtube.com/watch?v=i6ZOQ70lbAM

• Pour en savoir plus sur les logiciels libres : http://www.apitux.org/index.php?Ethique

• Cathy O’Neil (2018) Algorithmes. La bombe à retardement. Éd. Les Arènes.

• Enki Bilal, Laurence Devillers, Gilles Dowek, Jean-Gabriel Ganascia, Yann LeCun, Cédric Villani. Intelligence artificielle. Enquête sur ces technologies qui change nos vies. Éd. Champsactuel.

Version Framapad


 Actuellement la tendance va vers le tout numérique, les algorithmes, l’intelligence artificielle. Au-delà du sentiment de toute puissance et de vitesse que les machines procurent, une première question est de savoir pourquoi ce moderne engouement ? Puis de rechercher avec quels outils conceptuels l’aborder ? Et où situer le curseur, entre les espoirs et les craintes que suscitent ces technologies, entre une consommation passive (échelon 1) et une co-création participative (échelon 5) ? Pour les apprentissages en particulier.


 Des questions nous touchent de près en Éducation nouvelle :
  – Comment dominer  le numérique  pour le mettre au service  de nos valeurs, nos pratiques, des apprentissages ?
  – De quels savoirs nous munir pour faire face  avec lucidité à cette humanité numérique en train de se construire ?
  – Comment analyser, choisir les outils numériques  ? Doit-on militer pour « les logiciels  libres » ?
  – Comment nous former à repérer les modèles nocifs, opaques, que Cathy O’Neil nomme « Armes de Destruction Mathématique » (ADM) ?
  – Face au chiffrement planétaire  de l’humain, comment veiller au chiffrage  des lieux éducatifs, des personnes qui les habitent, des moyens qu’elles  se donnent pour éduquer au mieux?
  – etc…

Laissez un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *