Le Conseil a rassemblé plus de 200 experts qui se sont penchés sur six thématiques particulières, chacune d’elles étant dirigée conjointement par un groupe de 15 responsables :
- Anne Sophie Hulin, Université de Sherbrooke
- Catherine Régis, Partenariat mondial sur l’intelligence artificielle (PMIA)
- Éric Gingras, Centrale des syndicats du Québec (CSQ)
- Jocelyn Maclure, Commission de l’éthique en science et en technologie (CEST)
- Julien Billot, Scale AI
- Kathy Malas, CISSS de la Montérégie-Ouest
- Luc Vinet, IVADO
- Lyse Langlois, Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA)
- Monique Brodeur, Conseil supérieur de l’éducation (CSE)
- Nathalie de Marcellis-Warin, Centre interuniversitaire de recherche en analyse des organisations(CIRANO)
- Rémi Quirion, Fonds de recherche du Québec (FRQ)
- Robert Luong, Hydro-Québec
- Sophie Fallaha, Centre d’expertise internationale de Montréal pour l’avancement de l’IA (CEIMIA)
- Sophie Larivière-Mantha, Ordre des ingénieurs du Québec (OIQ)
- Valérie Pisano, Mila
Entre mai et novembre 2023, ces experts ont participé à plus de 25 rencontres, ateliers de réflexion et groupes de discussion. De plus, pour assurer une diversité de points de vue, tant des experts en IA que des représentants de l’ensemble de la société, le Conseil a mené un appel à contributions publiques qui s’est tenu à l’été 2023 et qui a permis de recueillir 422 contributions additionnelles.
La synthèse des travaux menés à ce jour a permis de dégager des orientations quant à la manière dont le Québec devrait encadrer le développement et l’utilisation de l’intelligence artificielle.
Le Forum public du 2 novembre visait à :
Partager l’avancement des travaux et les orientations préliminaires qui s’en dégagent pour encadrer l’IA et les enrichir grâce à la contribution des personnes participantes ;
Contribuer à une meilleure compréhension des avantages et des risques de l’IA et des enjeux que présente son encadrement ;
Identifier des angles morts qui pourraient faire l’objet de travaux futurs.
Conférences d’ouverture
L'IA, un monde de possibilité : Frantz Saintellemy, LeddarTech et administrateur du Conseil de l’innovation.
En tant que québécoise, cette province canadienne d’une population d’environ 8 600 000 habitants dont la langue officielle est le français, îlot perdu dans l’océan anglophone de l’Amérique du nord, je suis extrêmement fière d’apprendre que nous nous situons au 7ème rang mondial en intelligence artificielle (IA) derrière, les USA, la Chine, UK, le Canada (qui doit cette honorable position à la participation du Québec), la Corée du Sud et l’Allemagne.
Monsieur Saintellemy a rappelé les raisons pour lesquelles les entreprises adoptent l’intelligence artificielle (IA) dans le monde entier :
L’IA permet d’obtenir et maintenir un avantage concurrentiel ;
L’IA permet de lancer de nouvelles activités ;
De nouvelles organisations qui utilisent l’intelligence artificielle feront leur entrée sur notre marché ;
Les concurrents utilisent l’IA ;
Les pressions exercées pour réduire les coûts nous obligeront à utiliser l’IA. ;
Les fournisseurs offriront des produits et services axés sur l’IA ;
Les clients demanderont des offres basées sur l’IA.
Quel intéressant départ que de rappeler la présence de l’IA dans notre quotidien.
Les applications actuelles de l’IA :
Reconnaissance vocale ;
Recommandation de contenu - les algorithmes de recommandation d’Amazon influencent environ 35% des ventes totales ;
Traitement automatique du langage naturel (NLP) - les robots conversationnels basés sur le NLP ont réduit le temps de réponse aux clients de 50% dans les centres de service clients ;
Vision par ordinateur - les systèmes de surveillance vidéo basés sur l’IA ont réduit les vols dans les magasins de 30% ;
Transport autonome ;
Assistance à la santé - l’IA peut diagnostiquer certaines maladies avec une précision de 95%.
IA dans les entreprises
Automatisation des processus qui permet de réduire les coûts opérationnels de 25% à 40% ;
Optimisation de la chaîne d’approvisionnement ;
Service client amélioré, les robots conversationnels d’IA peuvent gérer 80% des interactions avec les clients ;
Analyse de données avancées en temps réel aident à prendre des décisions plus éclairées ;
Personnalisation du marketing ;
Sécurité renforcée, l’IA permet de détecter les menaces de cybersécurité et prévenir les attaques potentielles.
Gouverner les risques et sécuriser l’IA : Yoshua Bengio (vidéo)
Directeur scientifique de Mila, Institut québécois d'intelligence artificielle, Monsieur Bengio participait au «Doom Summit» (le Sommet des désastres) qui a eu lieu les 1 et 2 novembre en Angleterre. Le gouvernement de Rishi Sunak a organisé à Bletchley Park, au nord-ouest de Londres, la première conférence mondiale consacrée aux risques associés à l'intelligence artificielle (IA).
Les signaux d'alarme se multiplient quant aux dangers potentiels de l’IA. Le potentiel de l'IA suscite de nombreux espoirs, en particulier pour la médecine. Le développement de l’IA semble parfois sans frein et plusieurs semblent pour l'instant réagir en ordre dispersé.« Aucun pays ne sera épargné par l’IA et aucun pays ne pourra résoudre seul les défis posés par cette technologie », a souligné le chef de la diplomatie James Cleverly. « Dans notre monde interconnecté, nous devons adopter une approche internationale ».
La toute première déclaration internationale [ii] sur la nature de tous ces risques a été adoptée et publiée. Elle a été signée par toutes les nations représentées à ce sommet : Allemagne, Arabie saoudite, Australie, Brésil, Canada, Chili, Chine, Corée du Sud, Émirats arabes unis, Espagne, États-Unis, France, Inde, Indonésie, Irlande, Israël, Italie, Japon, Kenya, Nigéria, Pays-bas, Philippines, Royaume-Uni, Rwanda, Singapour, Suisse, Turquie, Union européenne, Ukraine.
Devenir plus humain avec la technologie: Ollivier Dyens - Directeur du Département des littératures de langues françaises à l'Université McGill
Le dualisme, depuis toujours, accompagne l’être humain. La nature au sein de laquelle il a évolué lui est à la fois bénéfique et maléfique. Les plantes et les animaux de sa communauté écologique le nourrissent mais peuvent aussi le tuer. Tous les champignons sont bons, dit-on, mais on ne mange certains qu’une fois.
L’IA est à la fois bonne et mauvaise et il faut résister aux sirènes et aux montres marins préconise le professeur Dyens. Rien de neuf dans ce domaine nous rappelle-t-il par cette citation de Joe Stadolnik : Même le philosophe romain Sénèque s'inquiétait de la dégradation de sa capacité de concentration par les nouvelles technologies. Au cours du premier siècle de notre ère, il s'est plaint que la multitude de livres est une distraction. Au XIl ème siècle, le philosophe chinois Zhu Xi décrivait l'imprimerie comme source de distraction : 'Si les gens lisent mal aujourd'hui, c'est parce qu'il y a beaucoup de textes imprimés’. Et Cal Newport écrivait dans The New Yorker :ChatGPT est incroyable, mais en fin de compte, il est clair que ce qui a été libéré est davantage un automate qu'un golem [iii].
L’IA évolue à une vitesse qui dépasse la capacité d’adaptation de l’humain qui a pris trois cent mille ans à atteindre son développement actuel alors qu’il a fallu 150 ans aux technologies informatiques à atteindre leur niveau de performances actuelles.
Les avancées technologiques provoquent multiples décalages auquel l’être humain s’adapte difficilement. Nous ne connaîtrons pas cent années de percées technologiques au cours du vingt-et-unième siècle ; nous serons plutôt témoins de l'équivalent de vingt mille années de progrès (mesuré en fonction du rythme d’aujourd'hui) selon Raymond Kurzweil en traitant du décalage temporel. Les réseaux sociaux et les robots sociables donnent l’illusion de camaraderie alors que les véritables relations humaines sont difficiles et exigeantes.
L’IA provoque un décalage social et graduellement nous exigeons plus de la technologie et moins des uns et des autres. Et que dire du décalage éthique entre une machine sans émotions et l’humain? Quelles sont les conséquences d'une décision qui est à la fois d'origine humaine et machine?
Et dans quelles circonstances, le cas échéant, est-il éthique que cette décision en soit une qui implique le fait de tuer? Écrivait Arthur Holland Michel dans la MIT Technology Review en août 2023. Et que penser toute cette analyse de nos comportements, de nos croyances, de nos aptitudes par des algorithmes qui savent nous connaître mieux que nous le pouvons nous-mêmes. Pourrons-nous combler ce décalage ontologique ?
Monsieur Dyens propose de devenir plus humain en focalisant notre attention sur la beauté. Il émet l’hypothèse que nous pouvons devenir plus humain avec et par la technologie si nous savons l’utiliser pour multiplier les moments de Qualia. Les qualia [iv] sont, en premier lieu, les propriétés constitutives de nos perceptions et de l’expérience sensible en général…. Les qualia constituent ainsi l'essence même de l'expérience de la vie et du monde … Les qualia sont connus par une intuition introspective directe (WIKIPÉDIA].
L’idée est intéressante et mérite réflexion. Par contre comment les technologies peuvent-elles favoriser les qualia? De mon côté, en tant qu’éducatrice intéressée à la formation des jeunes citoyens de 6 à 13 ans, je préconise les activités d’école en plein air, de pédagogie de projets, de jardins scolaires par lesquelles l’écolier renoue ses liens avec la terre nourricière, son animalité, ses liens fondamentaux avec sa communauté écologique … sentir la chaleur du soleil et l’effet de la brise sur sa peau, l’odeur du sol humide et l’air après la pluie, la texture des feuilles mortes, des écorces, le goût sucré de l’orange. Sentir et vivre son humanité, son appartenance à la planète Terre. Redevenons tous paysans. Gardons notre indépendance et notre contrôle sur nos créations technologiques.
Un modèle québécois unique au monde : Luc Sirois - Innovateur en Chef du Québec, Conseil de l’innovation
La Réflexion collective sur l’encadrement de l’intelligence artificielle du Conseil de l’innovation Québec se caractérise par une démarche globale à laquelle participe non seulement les experts mais où le public a été invité à la réflexion collective. Il s’agit d’une démarche foncièrement démocratique, centrée sur l’humain et non pas sur la technologie, flexible et équilibrée et structurée en réseau. Une série de documents a été publiée. Voici le lien pour les consulter :
Documents de la réflexion collective sur l'encadrement de l’IA https://conseilinnovation.quebec/intelligence-artificielle/publications-de-la-reflexion-collective/.
Les thématiques
- Le cadre de gouvernance de l’IA
- Le cadre des investissements en recherche et dans le secteur privé
- Le cadre de l’utilisation de l’IA par l’État
- Les impacts de l’IA sur le travail et l’emploi
- Les autres impacts sociétaux de l’IA
- Le rôle du Québec dans l’encadrement international de l’IA
Les opportunités et les enjeux identifiés par les intervenants à la réflexion
OPPORTUNITÉS
Hausse de la productivité & de l’innovation
Augmentation des capacités
Réponse à la pénurie de main-d’œuvre
Prestation personnalisée des services
Automatisation des tâches répétitives et routinières
Réorientation des travailleurs vers des tâches moins pénibles et à plus haute valeur ajoutée
Réduction des risques en matière de sécurité
ENJEUX
Disparition, transformation ou dévalorisation de certains métiers
Nouvelles exigences de formation ou requalification
Perte de compétences déléguées aux systèmes d’IA
Perte d'autonomie et de proactivité
Perte de sens au travail (accomplissement)
Hausse des inégalités
Enjeux éthiques complexes, notamment liés à la responsabilité
Suite à la pause et pendant tout l’après midi, conférenciers et tables rondes se sont succédés pour s’attarder particulièrement aux trois thèmes suivants :
- Anticiper et se préparer aux impacts sociétaux de l’IA ;
- Les défis de la gouvernance de l’intelligence artificielle ;
- Les ambitions du Québec pour favoriser l’émergence d’une IA de confiance.
1 - Anticiper et se préparer aux impacts sociétaux de l’IA
Ce thème fut discuté par Nathalie de Marcellis (CIRANO), Éric Gingras (Centrale des syndicats du Québec) : Protéger et préparer les travailleurs à l’intégration de l’IA dans la société, Lyse Langlois (OBVIA) : Quels sont les impacts de l’IA sur la société? François Boucher (Commission de l’éthique en science et technologie), Marie-Julie Desrochers, (Coalition pour la diversité des expressions culturelles), Sasha Luccioni (Hugging Face) :
Les enjeux que soulève l’IA pour la démocratie, les arts et la culture et l’environnement.
Voici principaux arguments de leurs interventions :
L'automatisation s'étend désormais des tâches manuelles aux tâches administratives et de traitement de l'information depuis l'apparition de l'lA générative ;
Le futur demeure incertain, les scénarios vont d'un chômage technologique important à une explosion de nouveaux emplois numériques, avec tout ce que cela implique;
La pénurie de main-d'œuvre accélère l'attrait de l'automatisation et de l'utilisation de l'IA (quoique les défis de l'adoption demeurent réels) ;
Les nouveaux emplois bénéficient d'un faible niveau d'encadrement et donc de protection (travailleurs du clic, modérateurs de contenu, etc.).
Encourager la participation des travailleurs dans la prise de décision sur la transformation numérique des milieux de travail ;
Développer des espaces de dialogue multipartite (patronat, syndicat, main-d'œuvre et formation) pour construire ensemble le futur de l'lA au Québec ;
Veiller à réviser et moderniser le droit du travail au fil des évolutions technologiques de l’lA ;
Adopter des réglementations sectorielles spécifiques : santé, éducation ;
Intégrer des clauses technologiques qui protègent les travailleurs dans les conventions collectives ;
Veiller à ce que tous les travailleurs puissent acquérir de nouvelles compétences tout au long de la vie, notamment par une formation continue réinventée ;
Améliorer la littératie numérique de la société, via l'éducation à l’IA dès le plus jeune âge, et développer les compétences humaines, notamment le jugement critique, la créativité, la capacité d’action ;
Développer un solide référentiel de compétences de l'IA, qui se décline par secteurs et suivre l'évolution des besoins en main-d’œuvre ;
Développer des outils concrets et pratiques pour accélérer l'adoption des meilleures pratiques et normes relatives à l’IA ;
Ne pas oublier la nécessité d'un solide filet de sécurité sociale pour les travailleurs impactés.
Et monsieur Éric Caire, ministre de la Cybersécurité et du Numérique a rappelé comment l’État québécois a été un pionnier de l’IA responsable par la Déclaration de Montréal [v] oeuvre collective, fruit du travail d’une équipe scientifique pluridisciplinaire et interuniversitaire dont les travaux ont débuté le 3 novembre 2017 et le 4 décembre 2018 a été présentée publiquement la première version officielle de cette déclaration.
2 - Les défis de la gouvernance de l’intelligence artificielle
Ce thème fut discuté par Anne-Sophie Hulin (Université de Sherbrooke), Sophie Larivière-Mantha (Ordre des ingénieurs du Québec) : Un cadre de gouvernance de l’IA existant et à bâtir, dans les grandes fonctions de l’État, Monique Brodeur (Conseil supérieur de l’éducation), Kathy Malas (CISSS de Montérégie-Ouest) :
L’IA dans les grandes fonctions de l’État
Comment encadrer les usages de l’IA? Comment créer un cadre de gouvernance qui minimise les impacts négatifs de l'lA pour les individus et la société et maximise ses retombées positives. Quel est le rôle du gouvernement, des parlementaires et des autres organisations?
L’IA évolue-t-elle dans un vide juridique ? Des lois existent qui peuvent être applicables à l’IA :
Lois québécoises : Lois sur les renseignements personnels, Loi sur la gouvernance et la gestion des ressources informationnelles, Loi favorisant la transformation numérique de l'administration publique, Loi concernant le cadre juridique des technologies de l’information, Loi sur les renseignements de santé et de services sociaux ;
D’autres normes québécoises s’appliquent aussi : Droits fondamentaux, Droit du travail, Droit privé, Responsabilité professionnelle, Droit administratif, Droit de la consommation ;
Ainsi que des normes canadiennes : Droits fondamentaux, Droit du travail, Droit criminel, Droit d’auteur, Propriété intellectuelle.
Quel sont le contexte et les défis propres à l'encadrement de l’IA :
Cette technologie est mal connue par les non-spécialistes ;
Cette technologie est utilisée dans tous les domaines ;
Cette technologie évolue très rapidement ;
Cette technologie est mise sur le marché avant d’en évaluer les impacts.
Plusieurs tentatives récentes d’ententes existent à l’international pour l’encadrer :
ONU: Conseil consultatif scientifique du secrétaire général
G7: Processus d'Hiroshima (IA générative)
Partenariat mondial sur l'intelligence artificielle (PMIA)
Principes de l'OCDE
Organismes de normalisation - p. ex. Organisation internationale de normalisation (ISO) * Union européenne: projet de loi sur l'lA
Autres pays : États-Unis, Royaume-Uni, Japon, Chine, etc.
Voici les tentatives récentes canadiennes pour l’encadrer :
Déclaration de Montréal pour un développement responsable de l'intelligence artificielle (2018)
Le Conseil consultatif canadien en matière d'lA (2019) Projet de loi C-27 - inclus une Loi sur l'intelligence artificielle et les données (2022)
En attendant la loi : Code de conduite volontaire du Canada visant un développement et une gestion responsables des systèmes d'lA générative avancés (2023).
Pourquoi une loi québécoise serait-elle pertinente ?
Pour réduire l'incertitude et bâtir la confiance du public ;
Pour assurer le développement et l'utilisation responsable de l’IA ;
Pour couvrir les éléments de droit de compétences provinciales, notamment la propriété, les droits civils, la santé, l'éducation, etc. ;
Pour permettre la participation démocratique dans l'élaboration du cadre de gouvernance.
Quels seraient les objectifs poursuivis par une telle loi ?
Élaborer une loi-cadre suffisamment claire pour protéger le public, suffisamment flexible pour s'adapter à l'évolution rapide de l’A, inspirée des modèles normatifs existants qui peut s'harmoniser avec le reste du pays et du monde ;
Propice à l'innovation et au dynamisme du Québec en IA ;
Établir un cadre général et les principes directeurs qui guideront la modernisation du cadre légal et réglementaire québécois ;
Poser des jalons sur ce qui est acceptable ;
Arrimer le droit québécois aux évolutions internationale et canadienne ;
Donner à une entité indépendante la responsabilité d'assurer la gouvernance de lA au Québec
Une entité de gouvernance québécoise agile aux pouvoirs variés :
Édicter des règlements ;
Classer les IA selon les risques ;
Appliquer des sanctions ;
Diffuser de l’information et accompagner les PME ;
En réseau - avec l’apport, d'entités de régulation existantes, pas les remplacer, mais se baser sur les forces existantes - expert.e.s - et de la société civile.
3 - Les ambitions du Québec pour favoriser l’émergence d’une IA de confiance
Ce thème fut discuté par Luc Vinet (IVADO), Carole Jabet (Fonds de recherche du Québec). :Accélérer la recherche technologique et sociale, Julien Billot (Scale AI) :
Développer des systèmes plus sûrs et éthiques
On préconise la mise en place d’un Comité de pilotage temporaire pour activer les recommandations, de lancer des initiatives au sein des ordres professionnels et d’effectuer une veille des développements nationaux et internationaux en gouvernance.
On demande d’intégrer des critères de responsabilités rigoureux dans les appels d'offres ainsi que dans les programmes de soutien à la recherche et à l'innovation en lA dans les entreprises qui aident à positionner l'humain au cœur de l'intégration de l’IA, de prioriser les projets qui contribuent à l'amélioration du bien-être collectif et individuels des québécois, d’intégrer les utilisateurs (citoyens et fonctionnaires) dans les projets d'IA, de la conception au déploiement des systèmes, de mettre en place des mécanismes de reddition de compte, de surveillance et de contrôle où l'humain est l’ultime garde-fou.
Il importe d’accroître l'expertise publique pour tirer pleinement profit de l’IA, de former rapidement les dirigeants qui sont ou pourraient être responsables de projets en lA sur les enjeux relatifs aux données et à l'IA, notamment l'IA générative, d’augmenter la capacité d'attraction et de rétention d'experts en données et en lA pour soutenir les ambitions de l’État et de rehausser les compétences de l'ensemble des employés de la fonction publiques, en données et en lA.
Et la journée s’est terminée par la présentation de monsieur Pierre Fitzgibbon, ministre de l’Économie, de l’Innovation et de l’Énergie qui a souligné que pour son gouvernement, l’IA est un important levier d’innovation pour tout le Québec
Conclusion
Lise Langlois (Ph.D, professeure au département de relations industrielles de l’Université Laval et directrice générale de l’OBVIA), Marc-Antoine Dilhac (Ph.D, professeur au département de philosophie de l’Université de Montréal et directeur scientifique-gouvernance et collaboration internationale de l’OBVIA), Jim Dratwa (Ph.D, conseiller à la Commission européenne et directeur de l’équipe en éthique des sciences et des nouvelles technologies), Thierry Ménissier (Ph.D, professeur de philosophie à l’Université Grenoble-Alpes, directeur de la chaire éthique et IA de l’institut grenoblois MIAI (PIA 3IA), Jean-Gabriel Ganascia, (Ph.D, professeur d’informatique à la faculté des sciences de Sorbonne Université, président du comité d’éthique du CNRS), Daniel Weinstock, (Ph.D, professeur de philosophie au département de droit de l’université McGill), Luc Bégin, (Ph.D, professeur à la faculté de philosophie de l’Université Laval), et Alison Marchildon, (Ph.D, professeure au département de philosophie et d’éthique appliquée de l’Université de Sherbrooke et co-responsable de l’axe éthique, gouvernance et démocratie de l’OBVIA ont participé au travail collaboratif qui a mené à la publication par l’OBVIA, le 27 octobre denier du document :
L’éthique au coeur de l’IA.
Voici le lien vers la version numérique de cette publication : https://observatoire-ia.ulaval.ca/lethique-au-coeur-de-lia/
[i] Conseil de d’innovation https://conseilinnovation.quebec/
[ii] The Bletchley Declaration by Countries Attending the AI Safety Summit, 1-2 November 2023
https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023
[iii] Un golem (hébreu : גולם, « embryon », « informe » ou « inachevé ») est, dans la mystique puis la mythologie juive, un être artificiel, généralement humanoïde, fait d'argile, incapable de parole et dépourvu de libre-arbitre, façonné afin d'assister ou défendre son créateur. Wikipedia https://fr.wikipedia.org/wiki/Golem#:~:text=
[iv] Qualia - https://fr.wikipedia.org/wiki/Qualia
[v] Déclaration de Montréal - https://declarationmontreal-iaresponsable.com/
Dernière modification le mercredi, 29 novembre 2023
