L'étude MIT révèle : une utilisation excessive des grands modèles de langage pourrait affecter les capacités cognitives humaines

Récemment, une étude approfondie menée par le Massachusetts Institute of Technology (MIT) a révélé l'impact potentiel des modèles de langage de grande taille (LLM) sur les capacités cognitives. Avec l'application généralisée de produits LLM tels que ChatGPT à l'échelle mondiale, les découvertes de cette étude ont suscité un large intérêt.

L'équipe de recherche a conçu une expérience de 4 mois, les participants étant répartis en trois groupes : ceux utilisant LLM, ceux utilisant un moteur de recherche et ceux se fiant uniquement à leur cerveau. L'expérience demandait aux participants de rédiger des articles sur différents sujets dans un temps imparti. Les chercheurs ont enregistré l'activité cérébrale des participants à l'aide d'électroencéphalogrammes (EEG) et ont réalisé une analyse de traitement du langage naturel (NLP) ainsi que des entretiens de suivi.

Les résultats de l'expérience montrent que les participants du groupe LLM présentent des différences significatives à plusieurs égards :

1. Homogénéité des articles : Les articles rédigés par le groupe LLM tendent statistiquement à être homogènes, manquant d'expression personnalisée.

2. Utilisation des entités nommées spécifiques : le groupe LLM utilise le plus d'entités nommées spécifiques, telles que les noms de personnes, de lieux, etc., surpassant de loin les deux autres groupes.

3. Charge cognitive : L'analyse de l'EEG indique que le modèle de connexion neuronale du groupe LLM est le plus faible, reflétant un niveau de participation cognitive plus bas.

4. Sens d'appartenance à l'article : Le groupe LLM a un faible sens d'appartenance aux articles qu'il a rédigés, et il a de mauvaises performances lorsqu'il cite son propre contenu récemment écrit.

5. Impact à long terme : Des études montrent qu'une utilisation prolongée des LLM peut affecter l'amélioration des compétences d'apprentissage, en particulier pour les jeunes utilisateurs.

Les chercheurs soulignent qu'il est nécessaire de mener davantage d'études longitudinales avant de déterminer l'impact à long terme des LLM sur les capacités cognitives humaines. Cette recherche nous rappelle que, bien que des outils d'IA comme les LLM apportent des commodités, une dépendance excessive pourrait affecter la capacité de réflexion et la créativité des individus.

Pour cette étude, l'IA elle-même a également répondu, indiquant que la recherche ne nie pas la valeur des outils d'IA, mais avertit les gens de ne pas en dépendre excessivement. Ce point de vue souligne davantage l'importance de maintenir une pensée critique et une réflexion indépendante lors de l'utilisation des outils d'IA.

Avec le développement constant de la technologie AI, comment équilibrer l'utilisation des outils AI pour améliorer l'efficacité et maintenir les capacités cognitives uniques des humains deviendra un enjeu important auquel le secteur de l'éducation et le secteur technologique devront faire face ensemble.