Plateforme CSQ en intelligence artificielle

Les répercussions de l’IA sur l’environnement sont hautement préoccupantes. Selon la Commission de l’éthique en science et en technologie (CEST), son fonctionnement requiert des centres de données qui consomment une quantité grandissante de ressources en énergie, en eau et en matériel informatique. Les centres de données utilisent déjà 1,5 % de l’électricité produite sur la planète. Toutefois, au rythme où la consommation énergétique liée à l’IA augmente, l’Agence internationale de l’énergie (AIE) prévoit qu’elle aura doublé d’ici 2030, ce qui équivaudrait alors à la consommation entière du Japon.

De plus, les superordinateurs nécessitent des quantités colossales d’eau pour assurer leur refroidissement. Ces immenses pressions sur l’environnement génèrent des conflits de plus en plus vifs dans les communautés où s’installent les centres de données.

La CSQ exige que l’État québécois se dote de normes environnementales strictes encadrant la construction des centres de données dans la province. Puisque l’IA repose sur le réseau global d’Internet, il est également nécessaire d’imposer aux entreprises technologiques des exigences de transparence par rapport à leurs conséquences sur l’environnement.

Enfin, afin de limiter la croissance sans fin des infrastructures liées à l’IA et à l’infonuagique, les institutions publiques doivent adopter des stratégies de sobriété numérique.

Les enjeux associés au recours à l’IA dépassent largement le champ d’action des organisations syndicales et concernent l’ensemble de la société. Le Canada et le Québec doivent donc, dans le respect de leurs champs de compétences respectifs, assurer un encadrement cohérent de l’ensemble des secteurs de la société et de l’économie. Une loi‑cadre établirait une base commune d’application et de responsabilisation.

Comme le souligne le CIQ, la création d’une « Autorité de l’intelligence artificielle » agirait comme chef d’orchestre en coordonnant, en surveillant et en opérationnalisant la mise en œuvre de la loi-cadre. Elle constituerait un organisme indépendant, à l’image de l’Autorité des marchés financiers, et aurait le mandat d’émettre des recommandations, de surveiller et d’auditer les entreprises conceptrices ainsi que leurs produits.

Un défi majeur réside dans le manque de transparence entourant les algorithmes et les données utilisées pour générer ces systèmes d’IA. Sans accès aux informations pertinentes, il est difficile pour les utilisatrices, les utilisateurs et les spécialistes d’évaluer la précision et l’impartialité des réponses fournies. De surcroît, les partis pris présents dans les données d’entraînement peuvent se traduire par des réponses biaisées ou faussées, ce qui soulève des enjeux à la fois éthiques et pratiques.

Pour résoudre ces problèmes, les gouvernements doivent, en collaboration avec les organismes internationaux existants, élaborer des normes et des protocoles d’évaluation robustes.

De plus, les entreprises qui mettent en marché des solutions d’IA devraient être tenues de justifier leurs prétentions, particulièrement lorsque leurs produits ciblent des services éducatifs ou de santé. Ainsi, le ministère de l’Éducation doit être en mesure de certifier que les assistants d’IA respectent le programme scolaire québécois; le ministère de l’Enseignement supérieur doit accompagner les établissements postsecondaires dans l’implantation des systèmes d’IA pertinents; le ministère de la Santé et des Services sociaux doit veiller à la qualité des outils acquis par les établissements locaux de santé; et le ministère de la Famille doit garantir la qualité des technologies implantées dans les services éducatifs à la petite enfance.

Les assistants d’IA s’appuient sur des modèles de calcul sophistiqués pour générer des textes, des éléments visuels, des diagnostics et des prédictions. Ces résultats doivent demeurer des suggestions qui soutiennent les tâches et les décisions humaines.

Il est essentiel d’établir un droit à la décision humaine afin d’éviter des dérives potentielles d’un envahissement de l’IA dans les champs décisionnels qui touchent les domaines névralgiques de la vie humaine, comme les droits de la personne, la justice, la santé, l’éducation et le travail. Tout comme la CEST, la CSQ en appelle à une réflexion de société afin que le corpus législatif québécois soit adapté en ce sens, que ce soit par le biais du Code civil du Québec ou de la Charte des droits et libertés de la personne.

Ce droit pourrait garantir, par exemple, la possibilité pour une citoyenne ou un citoyen de demander qu’une personne indépendante révise une décision la ou le concernant, et qui aurait été rendue par un système automatisé fondé sur l’IA.

Les assistants basés sur l’IA générative, comme ChatGPT d’OpenAI, Claude d’Anthropic, Llama de Meta ou Gemini de Google, ont été entraînés sur d’immenses quantités de données répertoriées sur Internet. En utilisant du contenu textuel et audiovisuel protégé par le droit d’auteur, ils n’ont demandé ni l’autorisation des ayants droit ni versé de redevances aux créatrices et créateurs de contenu.

L’architecture internationale du droit d’auteur doit évoluer afin de prévoir des mécanismes de rétribution adaptés aux profits générés par les entreprises qui commercialisent des systèmes d’IA.

La CSQ demande au gouvernement du Québec de reprendre le contrôle sur l’hébergement sécurisé des données de l’État et des services publics. Le gouvernement doit mettre fin à la sous-traitance démesurée au privé et entreprendre dès maintenant le développement de ses propres infrastructures d’hébergement de données. Il doit conséquemment rapatrier l’expertise nécessaire à leur gestion au sein de la fonction publique et des établissements du secteur public.

La souveraineté numérique ne doit pas seulement signifier la propriété étatique des centres de données. Le gouvernement doit garantir une gestion transparente, neutre et sécuritaire des renseignements personnels, qui protège les droits de la personne, particulièrement les droits à la vie privée et à la sécurité.

Trop souvent, l’administration publique demeure dépendante du secteur privé en matière de technologies de l’information. La CSQ souhaite que le gouvernement investisse dans la formation continue du personnel afin de renforcer leurs compétences numériques et de recruter des spécialistes qualifiés. De plus, la création de partenariats avec des établissements d’enseignement supérieur et des organisations technologiques locales favoriserait l’innovation ainsi que le développement de solutions adaptées aux besoins du Québec.

L’utilisation de logiciels libres offre d’énormes potentiels pour assurer la souveraineté numérique et réduire la dépendance aux solutions commerciales de la Silicon Valley. Une telle transition comporte toutefois de nombreux défis, notamment celui de la formation des usagères et usagers à l’adoption de nouveaux outils dans leur quotidien. Cependant, certains pays démontrent que les efforts concertés de l’administration publique peuvent porter leurs fruits. En Allemagne, par exemple, des milliers d’écoles et plusieurs universités utilisent les solutions infonuagiques en logiciel libre mises en place par les gouvernements régionaux.

L’employeur devrait avoir l’obligation légale d’informer le personnel de la collecte de données les concernant et pouvant faire l’objet d’une décision modifiant leurs conditions de travail. Ainsi, la CSQ est d’accord avec la voie proposée par la CEST, qui consiste à modifier les dispositions de la loi 25 afin que l’obligation d’informer les salariées et salariés soit effective, non pas au moment de communiquer la décision, mais bien au moment de la collecte de données.

La CSQ recommande de modifier la Loi sur les normes du travail afin d’y intégrer une disposition générale interdisant aux employeurs de recourir à toute forme de technologie de surveillance électronique à distance pour surveiller leur personnel, sauf dans des situations exceptionnelles et à la condition d’utiliser le moyen le moins intrusif possible.

Les plateformes en ligne recourant à des algorithmes ont permis de faciliter grandement la mise en relation entre les consommatrices, les consommateurs et les entreprises, mais également entre l’offre et la demande de la main-d’œuvre. On parle parfois d’« ubérisation » du travail pour décrire la manière dont certaines plateformes, comme Uber, ont, sous le couvert de l’« économie de partage », sciemment contourné les règlementations déjà existantes. Cette stratégie leur a permis d’accaparer le marché en détériorant les conditions de travail et en faisant chuter la rémunération.

Aux États‑Unis, les syndicats d’infirmières s’opposent actuellement au développement d’agences de placement qui utilisent des logiciels similaires à ceux d’Uber afin de répartir les quarts de travail dans les établissements de santé. Au Québec, les syndicats luttent depuis longtemps contre les méfaits des agences privées de placement en santé et en services sociaux. Malheureusement, avec l’actuelle pénurie de main‑d’œuvre, les systèmes de placement automatisés demeurent attrayants.

Le Québec s’est doté d’institutions de dialogue social dans le domaine de l’emploi et du travail, comme la Commission des partenaires du marché du travail (CPMT) et le Comité consultatif du travail et de la main-d’œuvre (CCTM). Ces organismes, qui regroupent le patronat, les syndicats, le gouvernement et la société civile, doivent être revalorisés afin de mieux anticiper les répercussions de l’IA.

La collaboration entre les employeurs et les syndicats peut aussi favoriser la mise en place de mesures visant à éviter les dérives potentielles de la surveillance automatisée et à assurer la transparence dans l’utilisation des données recueillies. Cette approche coopérative est essentielle pour instaurer la confiance et garantir un usage responsable et équitable de l’IA.

Les employeurs doivent s’assurer que leur personnel est formé à l’utilisation des systèmes d’IA. Cela implique non seulement de former les personnes qui intègrent l’IA dans l’exécution de leurs tâches, mais aussi de mettre en place des mesures de requalification pour les employées et employés dont les tâches pourraient être automatisées.

Dans les milieux syndiqués à la CSQ, l’offre de formation demeure extrêmement limitée. Selon des enquêtes internes réalisées en 2019, la part du personnel syndiqué qui avait suivi huit heures ou moins de formation liée au numérique représentait 75 % du personnel issu du milieu de l’éducation, et 70 % du personnel de la santé et des services sociaux.

Depuis 30 ans, les réformes du programme d’assurance-emploi en ont réduit sa portée et son universalité. Dans le contexte des transformations du marché du travail causées par l’IA, la CSQ réclame une réflexion de société pour assurer un filet social adéquat, tout en valorisant les programmes de requalification rémunérés pour les personnes au chômage.

L’assurance-emploi représente un levier essentiel pour augmenter le rapport de force des travailleuses et travailleurs face aux employeurs. Elle permet de limiter le recours à l’IA lorsqu’il pourrait réduire les besoins de la main‑d’œuvre, intensifier le rythme de travail ou entraîner une baisse de la rémunération.

Nous assistons à la multiplication des outils de gestion utilisant des algorithmes et l’IA. Or, les données compilées par l’État et les institutions publiques ne sont pas neutres, puisqu’elles reflètent les inégalités et les discriminations qui existent dans nos sociétés. La conception des outils d’IA doit impliquer les citoyennes et citoyens, afin que les services publics répondent à de hauts standards de qualité et qu’ils n’accentuent pas la marginalisation des populations défavorisées.

De plus, avec l’apparition des agents conversationnels simulant des interactions humaines de manière convaincante, les ministères et les organismes publics sont tentés d’investir dans des services automatisés à la population. Il est toutefois impératif de permettre aux gens qui le souhaitent d’obtenir des services fournis par des êtres humains.

Pour prévenir les biais et les discriminations dans la prestation des services publics automatisés par l’IA, la transparence doit être assurée, et ce, dès la conception des algorithmes utilisés. Les gestionnaires et le personnel impliqués dans le déploiement des systèmes d’IA doivent faire participer activement les citoyennes et citoyens, afin de garantir que ces systèmes tiennent compte des réalités diverses et des inégalités existantes. Enfin, des mécanismes de vérification et d’audits réguliers doivent être mis en place afin de détecter et corriger rapidement tout biais ou effet discriminatoire.

L’IA a le potentiel d’accroître l’efficacité en améliorant l’exécution de certaines tâches du personnel. Cette amélioration ne doit toutefois pas se traduire par des coupes dans les dépenses sociales de l’État ni par une diminution des effectifs dans les services publics. Toute hausse de productivité et toute économie doivent être réinvesties dans l’amélioration des services à la population.

Le gouvernement québécois doit rapidement soutenir le personnel enseignant et le réseau de l’éducation dans l’évaluation de la pertinence des outils pédagogiques basés sur l’IA. Cet appui pourrait notamment prendre la forme d’un mécanisme de certification ou de la création d’un portail public regroupant des ressources technopédagogiques.

De même, le gouvernement doit soutenir le réseau de la santé et des services sociaux pour s’assurer que les solutions basées sur l’IA dans ce domaine respectent les plus hauts standards de qualité, d’éthique et de protection des renseignements personnels.

La CSQ recommande que le gouvernement du Québec, en collaboration avec les parties prenantes du système professionnel québécois, mette en place un cadre garantissant la préservation de la responsabilité et de l’autonomie professionnelles lors de l’intégration des systèmes d’IA dans leurs pratiques.

Chaque personne qui travaille porte des compétences particulières et une connaissance fine de son travail. Les syndicats de la CSQ s’efforcent quotidiennement de valoriser l’expertise de l’ensemble de leurs membres. La participation des travailleuses et travailleurs constitue un gage de réussite dans l’implantation des changements technologiques.

L’IA peut être un outil utilisé par les gestionnaires et les gouvernants pour augmenter leur contrôle et leur pouvoir discrétionnaire. À l’inverse, en interagissant avec le personnel sur le terrain, on multiplie les occasions pour que l’IA contribue réellement à améliorer la qualité du travail et profite ainsi à la majorité du personnel.

Plusieurs milieux se dotent actuellement d’une politique institutionnelle sur l’IA générative. La CSQ met de l’avant l’importance de la collaboration entre les syndicats et les directions afin d’élaborer et d’implanter des politiques efficaces. Il est crucial que les syndicats représentant chaque corps d’emploi s’engagent rapidement dans ce processus afin de baliser les ambitions de l’employeur, de protéger les membres du personnel contre les abus de gestion, et d’examiner attentivement tous les effets potentiels liés à l’utilisation de l’IA. Travailler ensemble permettra non seulement de minimiser les conséquences négatives sur les tâches des employées et employés, mais également de favoriser une adhésion et une participation de l’ensemble du personnel.

En bref, les syndicats doivent agir en amont, tout en assumant pleinement leur rôle de chien de garde concernant les conditions de travail, le respect de la convention collective et l’autonomie professionnelle.

Le gouvernement doit repenser le programme des compétences numériques enseignées tout au long des parcours scolaire et collégial, afin d’y intégrer les concepts liés à l’IA. Il est également nécessaire de miser sur l’éducation et la formation tout au long de la vie pour renforcer la littératie numérique au sein de la population. Une compréhension solide du fonctionnement des robots conversationnels permet d’en tirer profit tout en reconnaissant leurs limites.

Bien utiliser l’IA générative, c’est avant tout savoir quand ne pas l’utiliser. La CSQ souhaite promouvoir une utilisation sobre et judicieuse de l’IA générative, qui maintient la capacité de l’humain à contrôler sa production intellectuelle

L’État doit soutenir les institutions scientifiques et les médias qui diffusent de l’information de qualité, tout en intervenant contre les entreprises qui tirent profit de la désinformation.

Le renforcement de la transparence et de la fiabilité des assistants d’IA constitue un enjeu de taille. En parallèle, le public doit être sensibilisé au fait que ces technologies peuvent amplifier les biais et les inégalités sociales.

Tout en responsabilisant les compagnies conceptrices de systèmes d’IA générative, les gouvernements doivent sensibiliser le public aux usages préjudiciables de ces technologies et aux risques qu’elles comportent.