2023, l'année des grands modèles de langues ouverts

Dans le périodique : La Recherche (Paris. 1970), n°577 (04/2024)
• • Thomas Wolf
  • Clémentine Fourrier
• Pages : p.40-42
  • Langues : Français
• • Nature du document : documentaire
  • Résumé :

    Retour sur les évolutions connues en 2023 dans l'ouverture des grands modèles de langues (LLM) de façon à ce que les scientifiques puissent étudier leurs performances, leurs biais et leurs limites et ainsi en construire de nouveaux en se fondant sur l'existant. L'importance des modèles pré-entraînés "ouverts" de haute qualité car pouvant être librement utilisés et développés par les communautés. Attention portée au niveau de la performance et au poids du modèle et des données. Niveau record des possibilités de personnalisation.

• • Mots-clés : apprentissage profond