Page 61 - Demo

61%u2013 FNRS.NEWS 134-JUIN 2025confidentialit%u00e9 des donn%u00e9es de DeepSeek, le chatbot chinois dont on a beaucoup entendu parler ces derniers temps est%u00a0assez vague, et donc probl%u00e9matique, avertit Aline Nardi. De fa%u00e7on plus inqui%u00e9tante, il faut savoir que les autorit%u00e9s chinoises peuvent, pour presque n%u2019importe quel%u00a0motif, demander %u00e0 une entreprise chinoise les%u00a0donn%u00e9es personnelles qu%u2019elle d%u00e9tient.%u00a0%u00bbL%u2019art de la conversationAu-del%u00e0 des donn%u00e9es de recherches que l%u2019on peut fournir %u00e0 l%u2019IA, Aline Nardi pointe d%u2019autres probl%u00e8mes qui, %u00e0 terme, pr%u00e9sentent plusieurs menaces pour les chercheurs et chercheuses. %u00ab%u00a0Il y a tout d%u2019abord la fa%u00e7on dont les chatbots pr%u00e9sentent l%u2019information, explique la%u00a0chercheuse. Ces machines s%u2019expriment de fa%u00e7on tr%u00e8s anthropomorphique et avec assurance. Il s%u2019agit en quelque sorte d%u2019un argument d%u2019autorit%u00e9 qui a pour cons%u00e9quence un moindre esprit critique de%u00a0notre part lors de nos interactions.%u00a0%u00bb%u00ab%u00a0Ce biais cognitif a d%u2019autant plus d%u2019importance face %u00e0 un chatbot comme ChatGPT, poursuit la chercheuse. En%u00a0effet, en raison de la fa%u00e7on m%u00eame dont il a %u00e9t%u00e9 con%u00e7u, ce dernier est peu enclin %u00e0 nous contredire. Au contraire, il va continuellement chercher %u00e0 aller dans notre sens. C%u2019est un v%u00e9ritable Yes Man, ce qui peut se r%u00e9v%u00e9ler probl%u00e9matique s%u2019il est utilis%u00e9 dans une phase de r%u00e9flexion et d%u2019id%u00e9ation pr%u00e9liminaire %u00e0 la recherche. Enfin,%u00a0il faut mentionner le%u00a0d%u00e9lestage cognitif. C%u2019est%u00a0un%u00a0ph%u00e9nom%u00e8ne auquel nous assistons et qui pourrait se r%u00e9v%u00e9ler dommageable pour%u00a0les%u00a0chercheurs et%u00a0chercheuses sur le long terme.%u00a0%u00bb%u00c0 chaque innovation technologique, comme le GPS ou les moteurs de recherche, les humains ont eu tendance %u00e0 retenir moins d%u2019informations, pour les confier %u00e0 un dispositif externe. %u00ab%u00a0Seulement, il s%u2019agissait jusqu%u2019ici de d%u00e9l%u00e9guer des capacit%u00e9s cognitives li%u00e9es %u00e0 la m%u00e9moire, reprend Aline Nardi. Or, avec ces robots conversationnels, nous sommes en train de d%u00e9lester des aptitudes comme la cr%u00e9ativit%u00e9 et la r%u00e9solution de probl%u00e8mes. Plusieurs %u00e9tudes ont montr%u00e9 qu%u2019il y avait l%u00e0 un risque de perte de comp%u00e9tences, et notamment chez les chercheurs et chercheuses les plus jeunes qui ont moins d%u2019exp%u00e9rience avec les m%u00e9thodes ant%u00e9rieures %u00e0 l%u2019existence de ces chatbots.%u00a0%u00bbD%u2019autant plus que les chatbots ont la m%u00e9moire longue. %u00ab%u00a0Par d%u00e9faut, ChatGPT enregistre toutes les informations qu%u2019on lui confie, et toutes les conversations que l%u2019on tient avec lui, r%u00e9v%u00e8le la chercheuse. Au bout de quelques mois d%u2019utilisation, demandezlui ce qu%u2019il sait de vous, et il vous fera un%u00a0r%u00e9sum%u00e9 extr%u00eamement pr%u00e9cis de qui vous %u00eates. Or, les fronti%u00e8res se brouillent souvent entre l%u2019usage professionnel et personnel que l%u2019on fait de ces outils, au%u00a0point que beaucoup l%u2019utilisent comme un%u00a0th%u00e9rapeute ou confident. Dans un contexte de censure politique comme aux %u00c9tats-Unis, des%u00a0informations personnelles telles que celles-ci deviennent, entre de mauvaises mains, extr%u00eamement sensibles.%u00a0%u00bbUn probl%u00e8me de fiabilit%u00e9Les donn%u00e9es que l%u2019on fournit aux chatbots soul%u00e8vent quantit%u00e9 de questions pour l%u2019avenir de la recherche. Mais il en va de m%u00eame pour les informations qui en sortent. %u00ab%u00a0Certaines IA g%u00e9n%u00e9ratives, dont les tr%u00e8s populaires LLM, posent de grands probl%u00e8mes de fiabilit%u00e9, notamment en raison de leur propension %u00e0 halluciner, affirme Aline Nardi. Il s%u2019agit de r%u00e9ponses fausses ou trompeuses, mais %u00e9nonc%u00e9es avec assurance et pr%u00e9sent%u00e9es comme des faits. Ce qui signifie qu%u2019il vaut mieux ne pas utiliser ces technologies pour des aspects critiques de la recherche.%u00a0%u00bbCes hallucinations peuvent prendre diverses formes%u00a0: selon la chercheuse, un rapport r%u00e9cent de la BBC a montr%u00e9 que Copilot, le chatbot de Microsoft, par exemple, donnait des r%u00e9ponses factuellement fausses %u00e0 propos de l%u2019affaire des viols de Mazan. %u00ab%u00a0Toutes les sciences humaines telles que les sciences politiques ou le droit sont impact%u00e9es par ces probl%u00e8mes de fiabilit%u00e9, estime-t-elle. Mais c%u2019est aussi le cas d%u2019autres disciplines comme les recherches en informatique.%u00a0%u00bbEn effet, les IA sont %u00e9galement de plus en plus utilis%u00e9es pour %u00e9crire du code. Or, %u00ab%u00a0une IA g%u00e9n%u00e9rative se fonde essentiellement sur ce qui a exist%u00e9 par le pass%u00e9, retrace Aline Nardi. Si cette derni%u00e8re est utilis%u00e9e pour g%u00e9n%u00e9rer du code dans un langage de programmation qui a %u00e9volu%u00e9 avec des paradigmes diff%u00e9rents, le code obtenu peut contenir des erreurs de langage. Les chercheurs et chercheuses dans des domaines tr%u00e8s innovants doivent en avoir conscience.%u00a0%u00bbDifficile de savoir jusqu%u2019o%u00f9 ira la p%u00e9n%u00e9tration des IA g%u00e9n%u00e9ratives au sein de la recherche, alors que la r%u00e9glementation europ%u00e9enne, connue sous le nom d%u2019IA Act, tente de mettre un peu d%u2019ordre dans le d%u00e9ploiement de ces outils. %u00ab%u00a0Certes, certains articles du r%u00e8glement visent %u00e0 garantir la fiabilit%u00e9 des IA, mais cela demande %u00e0 %u00eatre vu en pratique, estime Aline Nardi. De plus, ce r%u00e8glement a une%u00a0grande foi dans l%u2019explicabilit%u00e9 des IA, c%u2019est-%u00e0-dire sur le d%u00e9veloppement d%u2019outils qui nous permettent de comprendre le %u201craisonnement%u201d de l%u2019IA. Mais les recherches dans le domaine pointent d%u00e9j%u00e0 de nombreuses limites, et il faudra %u00eatre tr%u00e8s attentif au d%u00e9veloppement de ces travaux.%u00a0%u00bb Thibault GrandjeanC%u2019est un v%u00e9ritable Yes%u00a0Man, ce qui peut se r%u00e9v%u00e9ler probl%u00e9matique s%u2019il est utilis%u00e9 dans une phase de r%u00e9flexion et d%u2019id%u00e9ation pr%u00e9liminaire %u00e0 la recherche.Aline NardiAspirante FNRS, Centre de recherche information, droit et soci%u00e9t%u00e9, UNamurLes conseils d%u2019Aline Nardi pour bien utiliser l%u2019IA g%u00e9n%u00e9rative dans le cadre de la%u00a0recherche