Dans les articles précédents nous avons essentiellement axé notre réflexion sur les enjeux en termes de formation et d’apprentissage avec de gros plans sur ChatGPT dans la mesure où cette « machine » a envahi la sphère publique et fait l’objet de nombreux débats.

Dans cet article et le suivant nous allons essayer de mettre en lumière quelques-uns des risques et des dangers qui pointent à l’horizon.

Oui, il faut bien le reconnaitre l’Intelligence Artificielle, cette fameuse IA, suscite des angoisses et des craintes, en grande partie rationnelles, mais aussi quelques craintes imaginaires ou irrationnelles.

Il est difficile de faire le tri entre ce qui relève de l’analyse froide des risques et ce qui relève des craintes subjectives de ces mêmes risques.

En référence au passé, on constate que les révolutions technologiques ont toujours suscité des craintes et généré des mythes. L’IA serait-elle le mythe du XXIème siècle ? La question mérite d’être posée.

Ces inquiétudes ne sont plus le fruit de personnes conservatrices et rétives au progrès technique. Désormais les inquiétudes face aux effets potentiellement dangereux de l’IA sont exprimées par des scientifiques et des concepteurs de cette même IA.
Ainsi, le 23 mars 2023 une lettre ouverte initiée par des scientifiques et diffusée par Future of Life Institute a été signée pas des milliers de personnes. Cette pétition réclame la mise en place à l’échelle planétaire d’un moratoire sur les développements de l’IA en attendant d’y voir plus clair. En effet, nul ne sait comment l’IA se développe et le risque de perte de contrôle pourrait potentiellement menacer gravement notre civilisation et brouiller nos repères.

Nos canaux de communication pourraient être très rapidement inondés d’informations de toutes sortes et de manipulations en tous genres.

Les plus éminents spécialistes de l’IA donnent l’alerte au moins sur un point à savoir que nul ne sait comment fonctionnent certains algorithmes à l’œuvre dans l’IA, et nul ne sait comment s’assurer de les contrôler par l’intelligence naturelle des humains mais aussi comment les déployer de manière éthique.

En appelant à un moratoire de 6 mois, les signataires espèrent que dans ce laps de temps le mystère de ce succès inattendu de l’IA sera résolu et que l’intelligence naturelle des humains parviendra à anticiper les effets potentiellement dangereux de l’IA.

Mais un moratoire de 6 mois semble être si peu de chose par rapport aux accélérations fulgurantes auxquelles nous assistons y compris dans nos vies quotidiennes. De plus ce laps de temps sera-t-il suffisant quand bien même cette requête serait entendue ?

Tout a été si vite. En 2012 le connexionnisme en intelligence artificielle a permis la naissance du deep learning c’est-à-dire l’apprentissage automatique basé sur des réseaux de neurones artificiels. En 2017 on change de paradigme et la porte s’ouvre à la machine pour reproduire le comportement humain dans ce qu’il a de singulier à savoir le raisonnement, la planification et la créativité. Ce cap a été franchi et ses résultats vont bien au-delà de ce qu’avaient prévu les concepteurs de l’IA. Le résultat a dépassé et de loin les attentes des concepteurs.
Immédiatement cela a suscité une inquiétude et ouvert une voie : la prochaine étape sera la capacité conférée à la machine d’avoir des émotions et une subjectivité.

ChatGPT et les nombreux instruments qui lui ressemblent ne sont que la partie émergée de l’iceberg. Lâchés dans la nature ces instruments sont désormais utilisés par des millions d’individus dans le monde. Les usages à des fins honnêtes sont incontestablement un remarquable progrès mais les usages à des fins malhonnêtes et à des fins de manipulations sont le revers de cette médaille.

On pourrait se rassurer en disant que les concepteurs pourraient empêcher les mauvais usages de ces instruments par un codage spécifique. Et c’est à ce niveau que le bât blesse, car les concepteurs avouent ne pas savoir comment fonctionnent réellement leur création. Le fonctionnement de ce golem des temps actuels n’est connu qu’aux environs des 2/3. Les spécialistes comprennent parfaitement comment les informations en circulation sont stockées et restituées de manière précise et cohérente ; c’est de l’ordre de la logique. Mais ce que personne ne comprend c’est comment cette intelligence artificielle arrive à adopter un point de vue autonome sur un sujet donné et faire preuve de créativité. Faire preuve d’esprit logique c’est ce qui était attendu de la machine, or voilà qu’elle prend son autonomie en faisant preuve d’imagination et en exprimant son propre point de vue.

C’est l’un des risques majeurs qui sera développé dans l’article suivant.