Pour que l'IA serve les humains, et non l'inverse

Je travaille chaque jour à concevoir des systèmes d'intelligence artificielle. Je peux donc l'affirmer : un détecteur d'IA ne prouve rien. Ces outils ne remontent pas à l'origine d'un texte. Ils mesurent sa « prévisibilité » statistique, c'est-à-dire la probabilité qu'un modèle de langage aurait produit ces mots dans cet ordre. Une écriture épurée, régulière ou classique peut suffire à déclencher l'alerte.

Les faux positifs sont largement documentés. Des chercheurs de Stanford ont montré en 2023 que les détecteurs testés classaient à tort comme générés par IA, en moyenne, plus de la moitié des textes rédigés en anglais par des personnes dont ce n'est pas la langue maternelle (Liang et al., Patterns, 2023). La même année, OpenAI a retiré son propre détecteur, faute de fiabilité suffisante. Dans l'affaire Orélien, les accusateurs s'appuient avant tout sur un outil, Pangram. Les détecteurs consultés par l'AFP donnent, eux, des résultats contradictoires, et l'un d'eux juge le texte très probablement humain.

Voilà l'absurdité de la situation. On confie à une IA le soin de décider si un humain a triché avec une IA. Puis on détruit une réputation sur la foi de ce verdict, relayé sur les réseaux sociaux. Mesurons-nous la gravité de cette dérive ? La présomption d'innocence ne devrait pas s'arrêter là où commencent les réseaux sociaux.

Cette affaire révèle un malentendu plus profond sur ce qu'est l'intelligence artificielle. On la présente comme une créature nouvelle, dotée de facultés autrefois réservées aux humains : raisonner, planifier, agir. Avec l'IA dite « agentique », ces systèmes enchaînent désormais des tâches de façon de plus en plus autonome. Mais cette autonomie repose sur une seule chose : nous.

Tous les grands modèles de langage, sans exception, ont été entraînés sur le patrimoine intellectuel de l'humanité. Livres, articles scientifiques, œuvres, conversations : cette matière a été collectée, en partie annotée et évaluée par des humains, puis passée dans la moulinette de réseaux de neurones comptant des milliards de paramètres. Sans Newton, sans Einstein, sans les générations d'écrivains, de chercheurs et d'anonymes qui ont produit ce savoir, il n'y aurait pas d'IA.

La vraie question est donc celle-ci : à qui appartient cette intelligence collective ? Aujourd'hui, elle est captée par un cercle restreint d'entreprises et de milliardaires de la tech, qui contrôlent à la fois les modèles et les ressources de calcul indispensables pour les faire tourner. C'est là que se trouve le véritable débat, bien plus que dans la chasse aux sorcières contre un romancier.

Je plaide pour une IA considérée comme un outil qui nous sert et qui nous complète. Je plaide aussi pour des garde-fous renforcés qui placent l'humain au centre : transparence, traçabilité, régulation. L'Europe s'engage dans cette voie avec l'AI Act. Mais encadrer n'est pas soupçonner. Si chaque usage de l'IA devient présumé coupable, nous trahissons le but même pour lequel des générations de scientifiques ont travaillé : faire progresser l'humanité.

Les hommes passent, leurs contributions demeurent. L'IA les rassemble aujourd'hui pour nous servir, en médecine comme en agriculture, en science comme en culture. La littérature, secouée par cette affaire, montre surtout à quel point nous sommes mal préparés à accueillir cet outil.

Écrivains, radiologues, médecins, chercheurs : tous doivent pouvoir travailler avec l'IA de manière transparente, sans craindre qu'un concurrent malveillant ou un compte anonyme ne les discrédite sur la foi d'un algorithme.

À Thélyson Orélien, je veux dire ceci : tant qu'aucune preuve n'établit que ce roman a été écrit par une IA, votre œuvre mérite d'être jugée pour ce qu'elle est, par des lecteurs et non par des machines. Vous pouvez compter sur notre soutien.