Réflexions sur notre avenir : L’IA au centre d’un programme phare du Thessaloniki Doc Festival 2025
Réussir à créer l’Intelligence Artificielle constituerait la plus grande avancée de l’histoire de l’humanité. Malheureusement, ce pourrait aussi être la dernière – Stephen Hawking
Cette année, le Festival du documentaire de Thessalonique a consacré une large place à l’un des sujets les plus épineux de notre époque : l’IA. Dimitris Kerkinos a compilé un programme de courts métrages et de documentaires comprenant 17 œuvres abordant ce sujet sous différents angles. Nous en retiendrons deux.
La vision la plus menaçante d’une fin apocalyptique pour l’humanité est sans doute l’interaction émergente entre les systèmes d’armes et l’IA. L’analyse de la situation actuelle par Daniel Andrey Wunderer dans son documentaire de 2025 Flash Wars : Autonomous Weapons, A.I. and the Future of Warfare commence par une référence aux escadrons de drones autonomes et interconnectés , qui, du fait du nombre de leurs drones, sont quasiment impossibles à intercepter. Autonomes, ces systèmes, une fois activés, ne dépendent plus des instructions ni des confirmations des militaires qui les ont lancés et suivent automatiquement leur programmation pour détecter et détruire les cibles ennemies. Ce faisant, toute proportionnalité éthique entre pertes humaines et menace réelle disparaît. Parallèlement, ces systèmes gagnent en efficacité grâce à l’exploitation de toutes les données, y compris privées, circulant sur Internet, y compris les messages sur les réseaux sociaux. Là encore, en outre, l’influence potentielle des pirates informatiques ne peut être exclue.
Un danger encore plus grand du piratage peut être résumé par la formule « pirater les esprits ». La manipulation n’est pas nouvelle, comme la propagande systématique et de la fabrication de fausses informations, mais l’analyse de plus en plus sophistiquée des besoins et des attentes des consommateurs d’information permet de créer des faux messages de plus en plus efficaces, non seulement sous forme de messages individuels, mais aussi sous forme de bulles cohérentes d’information. Les gens voient et entendent ce qu’ils veulent voir et entendre, grâce à une technologie perfectionnée de « deep fake » qui facilite la falsification d’identité. Non seulement les visages peuvent être échangés, mais ces visages peuvent également être synchronisés avec des textes prononcés avec leur voix, mais qu’ils n’ont jamais prononcés. Aujourd’hui, une analyse approfondie peut encore révéler ces falsifications. Bientôt, cependant, cela ne sera plus possible. De plus, ajoutons-nous, l’importance et le statut du film documentaire sont réduits à néant.
Le film soulève un autre problème: il vient du fait que, même si les agents militaires conservent leur pouvoir de décision, ils ne sont plus en mesure de contrôler la richesse des données fournies par les ordinateurs. Pourtant, ils doivent réagir rapidement, ce qui peut être décisif pour l’issue d’une guerre. Depuis des années, l’industrie elle-même, ainsi que les militants et les scientifiques, réclament en vain que les responsables politiques intègrent des mécanismes de sécurité aux systèmes d’armes autonomes. Or, cela semble illusoire et impossible, car ces systèmes de sécurité entraîneraient inévitablement des retards importants et, par conséquent, des pertes militaires.
Le scénario devient particulièrement menaçant face aux armes nucléaires, lorsque seuls les ordinateurs réagissent entre eux. La stratégie de dissuasion, fondée sur l’idée que chaque attaque pourrait être repoussée avec une puissance destructrice équivalente, atteint ses limites en raison de la sophistication des capteurs et des capacités avancées de l’IA.
Daniel Andrey Wunderer interroge plusieurs spécialistes militaires, conseillers politiques, scientifiques et industriels pour illustrer ce scénario menaçant. Son film fort instructif conclut sur le constat que nous ignorons encore l’impact de l’IA. Cependant, compte tenu des faits présentés, il ne s’agit guère d’une consolation, mais plutôt d’un espoir vain.
Le côté obscur de l’IA : conséquences sociales et écologiques
In the Belly of AI, d’Henri Poulain, met en contraste la perspective de l’IA comme processus autonome et auto-généré avec ses dépendances technologiques. Des milliers de salariés rémunérés au salaire minimal, principalement des jeunes de l’hémisphère sud, alimentent l’IA en données chaque jour. Ces personnes exploitées travaillent en vase clos et ne sont pas autorisées à divulguer leurs tâches ni leurs conditions de travail, sous peine d’emprisonnement et d’amendes. Nombre d’entre eux sont traumatisés par une confrontation constante à des images et des séquences vidéo les plus choquantes, dépeignant des violences réelles, des meurtres, des tortures, des maltraitances d’enfants et toutes les perversions imaginables. Ils ne bénéficient d’aucun soutien psychologique. Ils font souvent des heures supplémentaires. Seuls quelques-uns osent apparaître anonymement devant la caméra d’Henri Poulain. Leur réalité est cyniquement contredite par les entreprises technologiques qui présentent dans leur communication des travailleurs pimpants en tenue de travail neuve, se posant comme des sauveurs de personnes ayant échappé à la pauvreté. En réalité, c’est une impasse, car ces travailleurs gaspillent la phase la plus productive de leur vie dans des tâches éprouvantes qui ne leur laissent aucune possibilité de se former. Ils sont coincés, dans une dépendance permanente.
Henri Poulain montre un autre inconvénient fondamental de l’IA: la très forte consommation d’énergie nécessaire pour alimenter des bases de données toujours plus volumineuses. Les dommages environnementaux qui en résultent, ainsi que leurs conséquences humaines, sont systématiquement ignorés. Les batteries de serveurs nécessaires entraînent la dégradation des sols et des pénuries d’eau pour la population. Face à l’urgence d’agir face au changement climatique, Poulain montre que c’est suicidaire.
L’industrie technologique répond généralement à ces accusations en arguant qu’elle travaille non pas pour un avenir immédiat, mais pour un avenir lointain. Elle célèbre l’idéologie du transhumanisme, qui promet une vie humaine sans maladies et ouvre même la perspective d’une possible immortalité. Les corps seront remodelés et les cerveaux deviendront considérablement plus intelligents. L’intelligence générée de manière autonome (IAG) apparaît, dans cette logique, comme la meilleure chose que l’homme ait jamais produite. La colonisation de l’univers connu est célébrée comme un avenir souhaité. Avec ces fantasmes de colonisation, le film dénonce le capitalisme qui reproduit une fois de plus son mécanisme central désastreux.
Henri Poulain donne la parole aux victimes de cette idéologie destructrice du futur et résume le coût humain de l’IA. Ce film devrait trouver sa place dans les écoles et les universités afin de stimuler le débat sur les formes possibles de résistance à cette trahison de l’avenir humain.
Ainsi, ces films de la section spécifique sur l’IA du Festival du Documentaire de Thessalonique 2025 ont bien montré que la technologie transforme l’humanité. L’adaptation nécessaire a déjà conduit et conduira à une dépendance croissante. L’habitat humain est déjà devenu un terrain d’expérimentation pour l’intelligence artificielle. Et nous n’en sommes qu’au début…
Dieter Wieczorek