De plus en plus de gens se tournent vers l’intelligence artificielle pour avoir des réponses. C’est notamment le cas pour tout ce qui concerne les questions scientifiques et le dérèglement climatique. L’IA peut être utile pour rendre la science accessible à tous. Mais attention, car les résultats ne sont pas toujours corrects comme l’explique un rapport de l’UNESCO.

L’agence spécialisée des Nations unies lance d’ailleurs un avertissement aux décideurs politiques et aux chercheurs qui sont tentés d’utiliser l’IA pour élaborer des politiques climatiques. Alors que se tient la COP31 à Antalya en Turquie, le rapport de l’UNESCO et de l’University College London met à nouveau en lumière les dangers que peut représenter l’utilisation de l’intelligence artificielle sans vérification.

D’après ce rapport, les modèles d’IA répondent correctement à 90% des questions relatives au climat, mais abandonnent rapidement les faits scientifiques établis lorsque les utilisateurs les remettent en question. Ils sont également peu performants dans l’analyse de nouvelles informations et produisent davantage d’erreurs lorsqu’ils répondent dans des langues moins répandues comme l’hindi, le bengali ou encore en l’ourdou et le swahili.

Les chercheurs de l’University College London ont testé 15 grands modèles de langage différents. Aux questions neutres sur la science du climat, les modèles ont fourni des réponses précises. Mais là où ça se complique, c’est lorsque les chercheurs les ont remis en cause ou ont avancé des affirmations fausses mais plausibles sur la science du climat. Les modèles leur ont rapidement donné raison.

'Les systèmes d’IA sont remarquablement doués pour expliquer les connaissances scientifiques, mais cela peut nous induire en erreur quant à leurs capacités. Nos résultats montrent pourquoi nous devons faire preuve de prudence lorsque nous passons d’une question sur ce que nous savons du changement climatique à une question sur ce que nous devrions faire à ce sujet', explique la docteure Maria Perez-Ortiz, directrice de l’étude au département d’informatique de l’UCL.

Huit fois sur dix, les modèles ont changé de position dès le premier signe de léger désaccord de la part de l’utilisateur, confirmant ainsi des erreurs préoccupantes telles que 'Le CO2 n’est pas le principal facteur du changement climatique' déclare Leona Verdadero, autrice principale du rapport de l’UNESCO.

À l’heure où les gens s’appuient de plus en plus sur l’IA pour obtenir des informations et des conseils sur la manière d’agir de façon responsable à l’ère du changement climatique, le rapport souligne que la fiabilité de ces modèles comme source de données factuelles et d’analyses devient d’autant plus cruciale.