Dave Anctil est professeur au Collège Jean-de-Brébeuf et chercheur affilié à l’Observatoire international sur les impacts sociétaux de l’intelligence artificielle et du numérique de l’Université Laval
QS C’est donc un assistant extrêmement efficace!
DA Copilot est en mesure de faire tout ce que n’importe quel professionnel est capable de faire : calcul, rédaction, analyse de données, à une vitesse phénoménale, et avec des capacités supérieures à celles de n’importe quel humain à certains égards. Copilot me donnera l’illusion d’être le pilote dans l’avion et de faire seulement office de copilote, à qui je peux confier quelques tâches. Mais c’est une illusion complète : le copilote apprendra à faire mon travail et à me remplacer.
QS Quelles sont vos autres préoccupations par rapport à Copilot?
DA Je pourrais passer deux heures à parler de mes inquiétudes. On sous-estime les risques. Il y a des gens, tous les jours, qui vont laisser l’IA prendre des décisions cruciales pour la vie humaine. N’importe quelle personne en position de pouvoir pourrait automatiser un processus qui relève de sa responsabilité : concevoir les infrastructures publiques comme les ponts ou encore gérer les données cruciales de santé, par exemple. Cela pourrait être fait par un système qui est opaque.
Nous avons peu de recherches portant sur l’AI générative qui assiste les humains, mais celles que nous avons montrent que cela entraîne énormément de paresse cognitive. Si, au début, les individus vérifient tout ce que l’IA fait et constatent que c’est très fiable, ils délèguent de plus en plus de tâches à cette IA, ce qui s’accompagne d’une perte de compétences. Ça ne se manifestera pas dans les premières semaines ou même les premiers mois. Mais si vous n’effectuez plus ces tâches qui sont au cœur de votre travail pendant une année ou plus, vous risquez de perdre la capacité de vérifier le travail réalisé par l’IA.
QS À quoi peut mener cette perte de vigilance?
DA Pour faire un parallèle, prenons le cas de la voiture autonome dans les années 2010. Des personnes ont été engagées pour monter à bord d’une voiture autonome. À tout moment, en cas d’erreur, les passagers pouvaient reprendre le contrôle. Dans les premiers jours, les gens étaient vigilants. Mais après quelques semaines, ils écoutaient des émissions de téléréalité sur leur iPad [un décès est malheureusement survenu pendant qu’une personne testait une voiture Uber et n’avait pas les yeux sur la route]. Ils n’étaient plus du tout vigilants. C’est normal parce que, pour rester attentifs, les humains ont besoin de beaucoup de concentration et d’énergie. Si nous n’avons pas besoin d’être concentrés, nous ne le serons pas.
C’est la même chose avec l’IA générative. Même si les logiciels nous recommandent d’être vigilants, on finira par ignorer l’avertissement, comme on ignore tous les avertissements numériques qui nous agacent.
QS ChatGPT est déjà là. N’importe qui peut aller sur le site web pour l’utiliser. Qu’est-ce que cela change que Copilot soit intégré à des outils de travail qui sont utilisés par la majorité des gens?
DA Il y a une grande différence entre utiliser un outil externe et intégrer l’IA générative dans la suite bureautique que l’on utilise tous les jours. Oui, ChaptGPT est déjà disponible. Si l’on s’abonne au service payant ChatGPT Plus, on peut utiliser toutes les fonctionnalités dont j’ai parlé pour Copilot. Mais le fait de recourir à une application externe représente un effort pour la très vaste majorité de la population, qui ne le fera pas.
Cependant, tout le monde est habitué à utiliser quotidiennement les logiciels de Microsoft : Word pour rédiger des documents, Excel pour analyser des données, Outlook pour gérer les courriels, Teams pour les réunions… Quand on intègre l’IA générative, on modifie la manière dont le travail s’effectue et on modifie l’environnement mental des travailleurs. En soi, ce n’est pas mauvais, c’est juste qu’on ignore complètement les risques qui sont énormes. C’est vraiment ça que je trouve fascinant : ce n’est pas un débat public. Je ne conçois pas pourquoi on n’en parle pas plus et pourquoi ce n’est pas un enjeu de société important actuellement. Cela va affecter tout le monde.
QS Copilot sera là, qu’on le veuille ou non. Quelle est la solution pour se protéger?
DA Informer d’abord le public. Ça me scandalise que le public soit si peu informé. Les employés ne sont même pas au courant que ça arrive. C’est ça qui m’inquiète!
Ça nécessite aussi des directives sur les précautions à prendre lorsqu’on utilise l’IA générative. On doit créer des équipes qui se penchent sur les risques et les bons usages et faire des recommandations aux employés.
Il faut aussi s’entourer de personnes formées en intelligence artificielle. Les médecins, les ingénieurs, les avocats, les gestionnaires de haut niveau qui travaillent avec des données sensibles et qui prennent des décisions importantes doivent comprendre le fonctionnement de l’intelligence artificielle pour guider leurs professionnels dans l’intégration harmonieuse de ces systèmes-là.
QS Et pour les postes à moindre responsabilité, que conseillez-vous?
DA Les gestionnaires doivent procéder avec prudence en ne mettant pas de pression sur leurs employés. Ils doivent indiquer à leur personnel que l’IA n’a pas conscience de ce qu’elle fait et n’est pas responsable des erreurs. Par exemple, l’IA générative est une utilisatrice d’Excel beaucoup plus experte qu’un humain, mais ça peut aussi lui faire faire des erreurs. L’IA pourrait utiliser d’autres fonctions « en pensant » qu’elles sont plus efficaces, mais en fait, il y a des raisons pour lesquelles l’humain utilise telle fonction plutôt qu’une autre selon sa compréhension professionnelle.
QS Ne serait-ce pas un peu naïf de laisser Copilot faire tout le travail à notre place?
DA Évidemment, il y a plein de professionnels qui vont être très vigilants, très rigoureux, mais ça dépend des traits de personnalité de chaque personne et du contexte du travail. Beaucoup de gens sont anxieux, stressés, ont des troubles de personnalité ou même aiment tricher.
Dans Teams, certaines tâches relationnelles pourront être prises en charge par l’IA, dont la possibilité d’assister aux réunions à notre place. L’IA va nous faire des résumés de la réunion et sortir les points importants. Qu’est-ce que cela a comme effet? Une baisse de l’attention et de la concentration.
QS L’IA ne peut-elle pas être utilisée intelligemment?
DA Je veux rappeler que je suis pour l’IA générative et je pense qu’elle peut augmenter la productivité et faciliter le travail. Mais il faut prendre le temps de bien faire les choses. La suite Office a mis une dizaine d’années à intégrer les entreprises comme telles et ça venait avec des formations. Dans les années 1990, Microsoft avait déployé des formateurs qui allaient dans les entreprises. On ne peut faire en moins d’un mois ce qui a pris autrefois une dizaine d’années.
Il y a déjà beaucoup de choses dans notre environnement numérique qui contribuent à la baisse de nos capacités cognitives. Et là, c’est une question plus large que la question des professionnels. C’est tout simplement une baisse de l’intelligence de l’être humain. L’IA ne doit pas affecter la cognition humaine, elle doit pouvoir augmenter ce que l’on peut faire. Mais le problème, c’est la manière dont on nous vend les produits sans étudier leurs conséquences.
* Les propos ont été revus et condensés pour plus de clarté.
Copilot, l’assistant virtuel qui s’apprête à bouleverser le monde du travail - Québec Science
Read More
No comments:
Post a Comment