91Â鶹¹ú²ú¾«Æ·×ÔÅÄ

L’être humain a besoin d’informations pour prendre des décisions. Que se passerait-il si nous étions parfaitement informés, c’est-à-dire si nous disposions de toutes les informations nécessaires pour prendre des décisions au bon moment ? Toutes les informations dont nous avons besoin pour prendre des décisions complexes ne sont pas toujours disponibles au moment nécessaire ; le cerveau ne peut pas non plus traiter en même temps toutes les informations requises. Certains acteurs pensent que les technologies informatiques telles que l’intelligence artificielle (IA) peuvent nous fournir des informations parfaites. Pour l’instant, cela n’est toutefois ni humainement ni technologiquement faisable. 

En collectant, en stockant, en traitant et en analysant des données et en prenant des décisions ou en nous aidant à les prendre, l’IA est néanmoins le moteur d’un grand nombre de nos utilisations les plus courantes des technologies. L’IA n’est pas un outil unique, mais un système collectif de logiciels, de machines, d’algorithmes, de réseaux, etc.  Les algorithmes font partie des principaux moteurs des systèmes d’IA. Au sens le plus simple du terme, un algorithme peut être considéré comme un ensemble de règles ou comme une liste d’instructions pour effectuer une tâche ou résoudre un problème. En ce sens, une recette peut être considérée comme un algorithme. Dans le contexte des technologies numériques, les algorithmes indiquent aux ordinateurs les étapes à suivre pour effectuer des tâches prédéterminées ou pour traiter des données, mais aussi pour prendre des décisions sur la base de certaines données. Les algorithmes sont écrits par des programmeurs informatiques. Lorsqu’un grand nombre d’algorithmes sont combinés en un seul système, ils peuvent effectuer des tâches relativement complexes ou résoudre des problèmes.

L’IA peut être utilisée dans de nombreux domaines, des diagnostics médicaux aux systèmes de communication. Des assistants virtuels sont disponibles en ligne et sont intégrés à des outils technologiques pour donner des réponses sélectionnées à un grand nombre de nos questions, et nous fournir par exemple un itinéraire ou une traduction. Les robots deviennent omniprésents. En cas de catastrophe, les applications reposant sur l’IA peuvent aider les organismes humanitaires à ravitailler les personnes qui en ont le plus besoin. Les scientifiques tire profit de la vitesse à laquelle l’IA convertit les données en informations pour résoudre des problèmes complexes et faire des découvertes, telles que le séquençage du génome humain, en beaucoup moins de temps qu’auparavant. L’IA étant intégrée à un nombre croissant de solutions technologiques, elle est considérée comme une technologie à usage général, un outil puissant qui a un impact majeur sur tous les aspects de notre vie. La grande question est de savoir qui en contrôle le développement et le déploiement, et à quelles fins. Jusqu’à présent, ce sont les pays et les industries les plus puissants qui, logiquement, visent à protéger et à promouvoir leurs propres intérêts et perspectives, lesquels ne sont pas nécessairement ceux des autres. Par ailleurs, l’IA n’est jamais neutre : elle est conçue à des fins spécifiques par des êtres humains aux caractéristiques démographiques et aux relations professionnelles particulières, et les algorithmes et les ensembles de données sont toujours biaisés d’une manière ou d’une autre. La plupart des assistants virtuels se voient attribuer un genre particulier, et les réponses programmées qu’ils donnent reflètent certains points de vue et préjugés sur le monde. Les outils de traduction intègrent les langues dominantes, non menacées, tandis que les robots sont destinés à un usage privé plutôt que public.

Les systèmes d’IA démontrent généralement au moins certaines des capacités suivantes associées à l’intelligence humaine : planification, apprentissage, raisonnement, résolution de problèmes, représentation des connaissances, perception, mouvement, manipulation et, dans une moindre mesure, intelligence sociale et créativité (Nick Heath | Managing AI and ML in the Enterprise). Les systèmes d’IA sont pilotés par des algorithmes ou des ensembles d’instructions qui peuvent être conçus par des humains ou des machines. Il existe de nombreux types d’IA différents, et aucune définition unique. Ce module décrit les différentes dimensions de l’IA, dont l’apprentissage automatique, l’analyse des mégadonnées, la reconnaissance des formes et les systèmes cognitifs, ainsi que la différence entre IA « faible » et IA « générale ». 

Pourtant, le fait que des ordinateurs puissent être programmés pour imiter des « comportements intelligents » et prendre des décisions indépendantes est une véritable source de préoccupations et soulève des questions sur le contrôle. Ces questions en appellent d’autres sur le pouvoir d’action des êtres humains et la protection de droits fondamentaux tels que le droit du travail et la liberté d’expression et d’association. Les gens s’inquiètent de savoir s’ils vont perdre davantage leur liberté de choisir les types de contenus qu’ils veulent voir, si l’IA va encore renforcer les bulles de filtrage et les silos d’informations et, en fin de compte, limiter la diversité et la pluralité des voix et des contenus.

La publication de l’UNESCO, , attire l’attention sur certaines de ces questions. Cette ressource propose des directives politiques pour s’attaquer à la persistance et à la gravité de la fracture entre les genres dans les compétences numériques et examine le « paradoxe de l’égalité des genres dans le domaine des TIC ». L’UNESCO constate en effet que c’est dans les pays les plus proches de l’égalité des genres que la proportion de femmes qui poursuivent des études supérieures en informatique et dans des disciplines connexes est la plus faible. La publication souligne également, par exemple, que le choix des développeurs de produits d’utiliser des voix de jeunes femmes dans les assistants vocaux d’IA perpétue des préjugés sexistes nuisibles, et propose des recommandations pour contrer et inverser le creusement des inégalités entre les genres dans et par l’IA. Bien que certains de ces assistants vocaux soient de moins en moins stéréotypés, ils ne proposent encore qu’un nombre limité de langues parlées.

L’affaire « Cambridge Analytica » illustre le potentiel impact de la modération et de la conservation de contenus via l’IA sur les systèmes démocratiques. À l’origine de ce scandale, l’utilisation des mégadonnées dans le but d’influencer les électeurs à leur insu. Dans certains contextes, l’IA est considérée comme un outil de surveillance de masse. Les réseaux sociaux et d’autres entreprises de communication numérique utilisent beaucoup l’IA. Les réseaux sociaux offrent une occasion d’étudier l’impact de l’apprentissage automatique avancé sur la création de contenus générés par les utilisateurs et sur les décisions de marketing et d’achat, avec des répercussions négatives et positives. Dans le domaine de l’éducation, l’application de l’analyse des données pour le profilage des apprenants est également perçue comme ayant des répercussions négatives et positives. 

En parallèle, le manque général de transparence au sujet de la conception des algorithmes et des données auxquelles ils ont accès continue de poser problème.

Le mouvement Ethical by Design, qui prône le respect de l’éthique dès la conception, vise à améliorer la conception de l’IA de manière à lutter contre les biais des algorithmes. Par le passé, cela a renforcé les stéréotypes et entraîné le profilage des personnes, par exemple sur la base de facteurs tels que l’origine ethnique, le genre ou la langue. « Mes données m’appartiennent » est une autre coalition qui cherche à aider les consommateurs et les détenteurs de droits à reprendre le contrôle et la propriété de leurs données à caractère personnel. 
Les opportunités offertes par l’IA, associées à des préoccupations éthiques et sociales complexes, soulignent la nécessité d’équilibrer l’innovation dans ce domaine en appliquant une approche centrée sur l’humain reposant sur des normes éthiques et des objectifs sociaux clairement énoncés. Elles soulèvent par ailleurs la question des types de connaissances, d’aptitudes et d’attitudes nécessaires pour interagir de manière volontaire et critique avec les systèmes d’IA. Ces compétences comprennent à la fois des compétences numériques techniques comme la programmation/le codage et des compétences générales directement liées à l’EMI, telles que la réflexion critique et l’engagement civique. 

Ce module vise à aider le lecteur à acquérir une compréhension de base des opérations techniques et des applications des systèmes d’IA, ainsi que du contexte économique et social. Il montre également comment les compétences en EMI peuvent permettre une utilisation plus optimale de l’IA dans les sociétés.