Apprentissage auto-supervisé

L'apprentissage auto-supervisé est une méthode d'apprentissage automatique en intelligence artificielle . Cette méthode d'apprentissage est devenue le standard dans le domaine du traitement langage naturel[1] : ALBERT[2] et RoBERTa[3] reposent sur cette méthode, par l'intermédiaire d'algorithmes auto-encodeurs.

Yann Le Cun, lauréat du Prix Turing 2018 pour ses travaux sur l'apprentissage profond compare cette méthode à du « remplissage de trou »[1] et donne pour cela un exemple simple : elle permet d'analyser les images de début et de fin d'une séquence vidéo et d'entraîner un algorithme à prédire les images intermédiaires.

Notes et références
  1. Yann Le Cun et Stéphane Nachez, « Entretien avec Yann Le Cun », Actuia,‎ , p. 11-12 (ISSN 2682-1265)
  2. (en) « ALBERT: A Lite BERT for Self-Supervised Learning of Language Representations », sur Google AI Blog (consulté le )
  3. (en) « RoBERTa: An optimized method for pretraining self-supervised NLP systems », sur ai.facebook.com (consulté le )
  • Portail de l’éducation
Cet article est issu de Wikipedia. Le texte est sous licence Creative Commons - Attribution - Partage dans les Mêmes. Des conditions supplémentaires peuvent s'appliquer aux fichiers multimédias.