Dans un monde où l’intelligence artificielle (IA) progresse à une vitesse fulgurante, dépassant souvent les réglementations en vigueur, la véracité des données scientifiques est mise à rude épreuve. Face à la recrudescence de la désinformation, amplifiée par des outils d’IA toujours plus performants, le risque de voir le progrès scientifique ralentir et la créativité humaine s’étioler est bien réel. Mais une lueur d’espoir émerge des technologies décentralisées, en particulier de la blockchain, qui offre des solutions prometteuses pour authentifier les contenus et rétablir la confiance dans la recherche scientifique.
L’IA, une menace pour l’intégrité scientifique ?
Si l’IA est souvent présentée comme un outil permettant d’accélérer les découvertes scientifiques, elle comporte également des risques non négligeables. Aujourd’hui, n’importe qui peut utiliser l’IA pour générer une hypothèse scientifique et l’utiliser comme base pour rédiger un article de recherche. Même si ces contenus générés par l’IA peuvent sembler crédibles et passer l’épreuve de la revue par les pairs, ils sont souvent basés sur des données fabriquées de toutes pièces.
Ce phénomène est particulièrement préoccupant dans le milieu académique, où la pression pour publier est forte et les opportunités de financement limitées. Les jeunes chercheurs sont donc tentés d’utiliser tous les moyens à leur disposition pour se démarquer, quitte à sacrifier la rigueur scientifique. À terme, cette dérive pourrait conduire à une « lobotomisation » de la profondeur intellectuelle de l’humanité, avec des répercussions durables sur la recherche médicale, économique et académique.
L’importance des données dans l’entraînement de l’IA
Les grands modèles de langage, comme GPT-3, sont certes capables de générer des contenus convaincants, mais ils ne sont pertinents que dans la mesure où les données utilisées pour les entraîner sont fiables. Or, si de plus en plus de personnes utilisent l’IA pour créer du contenu et que de moins en moins de personnes génèrent du contenu original, nous risquons de nous retrouver face à un « gonflement à faible entropie », où les nouvelles connaissances ne sont en réalité qu’une recombinaison de savoirs passés.
L’IA est un outil utile pour susciter des idées, structurer sa pensée et automatiser des tâches répétitives ; elle doit rester un complément au contenu créé par l’homme et non un substitut.
Shady El Damaty, cofondateur de la Holonym Foundation
Vers une économie basée sur la vérité
Pour contrer ces dérives, il est essentiel de bâtir une économie basée sur la vérité, avec des systèmes et des normes garantissant l’authenticité, l’intégrité, la transparence et la traçabilité des informations et des données. C’est tout l’enjeu du mouvement « Decentralized Science » (DeSci), qui vise à établir un registre scientifique universel sécurisé sur la blockchain.
La première étape consiste à créer une couche d’identité décentralisée pour les chercheurs, basée sur leur réputation vérifiable. Cela permettrait aux laboratoires de recherche et aux organisations autonomes décentralisées (DAO) de mettre en place des systèmes ouverts et des programmes de récompenses qui ne peuvent pas être manipulés par des revendications frauduleuses.
Les principales étapes pour bâtir une économie scientifique basée sur la vérité :
- Créer une identité décentralisée pour les chercheurs, basée sur leur réputation
- Mettre en place un registre scientifique universel sécurisé sur la blockchain
- Développer des systèmes ouverts et des programmes de récompenses inviolables
- Encourager la participation publique et anonyme à la recherche via des DAO
Préserver l’avenir du progrès humain
Face à la montée des fake news et de la désinformation scientifique, il est crucial d’établir les fondements de la vérité par la transparence de l’information et une vérification rigoureuse. C’est à ce prix que nous pourrons éviter une rupture de confiance au sein des domaines de recherche spécialisés et continuer à progresser collectivement.
La blockchain et les initiatives comme le DeSci offrent des pistes prometteuses pour relever ce défi. En authentifiant les contenus et en garantissant la traçabilité des données, ces technologies pourraient bien être la clé pour préserver l’intégrité de la recherche scientifique et, in fine, l’avenir du progrès humain.
