Enjeux associés à l’utilisation des outils d’intelligence artificielle générative

Peu importe le fait d’être novice ou expérimenté dans l’utilisation des SIAG, il est toujours bons de se rapeller divers risques leur sont associés :

  • Risques pour la vie privée et la propriété intellectuelle associés aux informations que les personnes étudiantes et le personnel peuvent saisir dans un outil d’IA générative.
  • Risques de biais, de préjugés et de stéréotypes sociétaux véhiculés par les outils d’IA générative. 
  • Risques mésinformation (hallucinations, imprécisions) véhiculés par les outils d’IA générative. Par conséquent, la responsabilité de l’exactitude et de la vérification des informations générées par ces outils incombe à la personne utilisatrice.
    • En effet, le recours aux outils d’IA générative peut exposer la personne utilisatrice à produire un faux document ou de fausses données. Il est donc de la responsabilité de la personne utilisatrice de s’assurer de l’exactitude des références sur lesquelles s’appuie le contenu généré.
  • Risques de contenu plagié ou de violation des droits d’auteur qui peuvent avoir été inclus lors de l’entrainement de la base de données sans le consentement ou la licence du créateur.
  • Risques de non-transparence et de présenter des contenus comme étant les siens sans citer la provenance. En outre, il est de plus en plus difficile de distinguer de manière fiable les contenus générés par l’IA des contenus produits par l’homme.
  • Tous ces risques nous amènent vers des risques de dissonance pédagogique où les enseignants se questionnent sur la plus-value de leurs enseignements quand les SIAG peuvent en faire tout autant. Or, il est toujours bon de se rappeler qu’avant de pouvoir pêcher par soi-même, il faut en connaître les techniques. Et c’est là où toute l’expertise et les connaissances des enseignants prennent leur sens. Il faut donc rappeler aux personnes apprenantes qu’elles doivent miser sur leur connaissance et leur compréhension, mais aussi sur leur capacité à appliquer, voir évaluer leurs savoirs, savoir-faire et savoir-être pour contrer les divers risques mentionnés ci-haut.

Se soucier du plagiat

Afin de se situer en amont des infractions de nature académique et d’encourager une posture d’intégrité académique et intellectuelle, les personnes enseignantes ont tout intérêt à inciter les personnes étudiantes à développer ou améliorer leurs compétences informationnelles en recourant aux ressources existantes en la matière. En ce sens, le Service des bibliothèques offre aussi du soutien à ce sujet pour les personnes étudiantes : uqam-ca.libguides.com/ChatGPT_et_IA.

Comme l’explique très bien le rapport sur les SIAG en enseignement supérieur du CSE-CEST, “les personnes enseignantes assument […] une responsabilité importante dans le maintien d’une culture d’intégrité, par exemple en sensibilisant les étudiantes et les étudiants à ces enjeux, […] en favorisant un climat de confiance et en priorisant des évaluations minimisant les possibilités de plagiat” (CES-CEST, 2024 ; p. 34). L’utilisation des outils d’IA générative n’est pas automatiquement du plagiat – elle peut être autorisée et effectuée dans les bonnes conditions et elle peut-être aussi déclarée; d’où l’importance de familiariser les personnes étudiantes à une utilisation responsable et conforme aux pratiques et aux valeurs de l’intégrité académique.  

Cela étant dit, si vous soupçonnez une situation d’infraction de nature académique, notamment par le biais d’une utilisation d’outils d’IA générative non autorisée, veuillez consulter le site r18.uqam.ca pour avoir l’information sur la procédure à suivre pour faire un signalement. N’hésitez pas à communiquer avec la ou le responsable des infractions académiques de votre faculté pour tout aide dans la préparation du dossier AVANT d’effectuer le signalement. La personne enseignante ne peut pas sanctionner une personne étudiante ; seuls le Comité facultaire ou le Comité institutionnel ont le pouvoir de reconnaître la commission d’une infraction et d’imposer la ou les sanctions, le cas échéant.

Émettre des consignes explicites

Puisque le Règlement no 18 sur les infractions de nature académique de l’UQAM explique très bien à l’article 2.2 que le recours, l’utilisation ou le manque de rigueur académique constitue une infraction académique, il est donc important de rendre explicite l’autorisation d’utilisation des outils d’IA générative par les personnes étudiantes, notamment dans le cadre des activités d’évaluation. En ce sens, il est recommandé de mentionner dans le plan de cours l’autorisation ou non de l’utilisation ainsi que les consignes relatives, par souci de transparence et d’intégrité envers les personnes étudiantes. 

Ainsi, les plans de cours et les autres documents d’information (tels les guides) devraient indiquer explicitement si l’utilisation de tels outils est permise ; et ce, même si sans autorisation explicite, ces outils sont réputés interdits. Cela dit, lorsqu’elle est permise, l’utilisation des outils d’IA générative doit être clairement référencée dans les travaux des personnes étudiantes. Les bibliothèques ont d’ailleurs mis à jour leurs règles de citation à cet effet (Citer ChatGPT à l’UQAM). 

Extrait du Règlement no 18, article 2.2

[…] constitue notamment une infraction le fait de poser ou tenter de poser l’un des actes suivants ou le fait d’y participer :  

[…] 

b) le plagiat : l’utilisation totale ou partielle du texte ou de la production d’autrui en le faisant passer pour sien ou sans indication de référence ; 

[…] 

e) la possession ou l’utilisation de tout document ou tout matériel non autorisé préalablement, pendant un examen ou lors de la réalisation de travaux, incluant le recours aux outils informatiques ou moyens technologiques ; 

[…] 

g) l’obtention de toute aide non autorisée, qu’elle soit collective ou individuelle ;

[…] 

i) la falsification d’un document ou la création d’un faux document, notamment d’un document transmis à l’Université ou d’un document de l’Université transmis ou non à une tierce personne, quelles que soient les circonstances ;

j) la falsification de données de recherche dans un travail, notamment une thèse, un mémoire, un mémoire-création, un rapport de stage ou un rapport de recherche.