🎵 Recommandeur musical — Factorisation matricielle (ALS) en direct

La factorisation matricielle approxime une grande matrice de notes auditeur-par-morceau, majoritairement vide, R comme le produit de deux matrices bien plus petites, U (auditeurs × k facteurs latents) et V (morceaux × k facteurs latents), de sorte que R ≈ U·Vᵀ. Chaque facteur latent est un axe de goût sans étiquette — l'un pourrait être corrélé au tempo, un autre à une production acoustique par opposition à électronique — appris automatiquement à partir des écoutes observées plutôt que conçu à la main. Une fois U et V appris, l'affinité prédite pour toute paire auditeur-morceau, même jamais observée, est simplement le produit scalaire de leurs deux vecteurs latents.

ALS exploite le fait que, si optimiser conjointement U et V est un problème non convexe, optimiser U seul avec V maintenu fixe (ou inversement) est une simple régression linéaire régularisée avec une solution en forme close. Chaque passage ALS fixe d'abord V et, pour chaque ligne auditeur, résout les équations normales k×k (Vᵀ_ᵢV_ᵢ + λ|I_u|·I)u = Vᵀ_ᵢr_ᵢ en utilisant uniquement les morceaux observés de cet auditeur. Il fixe ensuite le U fraîchement mis à jour et résout un système analogue pour chaque ligne morceau. Alterner ces deux résolutions exactes par moindres carrés diminue de façon monotone l'erreur de reconstruction régularisée jusqu'à convergence.

Parce que chaque sous-problème ALS — mettre à jour une ligne pendant que l'autre matrice de facteurs est gelée — est une petite quadratique bien conditionnée à k inconnues, elle possède une solution exacte via les équations normales, obtenue ici par élimination gaussienne avec pivot partiel. Cela converge en une seule étape par ligne au lieu de nécessiter un taux d'apprentissage ajusté et de nombreuses itérations de gradient, rend chaque demi-passage trivialement parallélisable entre les lignes, et c'est la raison pour laquelle ALS est devenu l'algorithme de factorisation matricielle par défaut pour les systèmes à rétroaction implicite à grande échelle tels que les premiers recommandeurs de type Netflix et Spotify.

k définit la dimensionnalité de l'espace de goût latent — trop petit sous-ajuste des genres distincts, trop grand peut surajuster les écoutes observées éparses et nuire au RMSE de test. La force de régularisation λ pénalise les grandes valeurs de facteurs dans les équations normales, échangeant la précision d'entraînement contre la généralisation à des morceaux qu'un auditeur n'a pas encore écoutés. Le nombre d'itérations contrôle le nombre de passages alternés U/V exécutés ; le RMSE sur les entrées d'entraînement observées chute rapidement dans les premiers passages puis se stabilise à mesure que la factorisation converge.

Le RMSE d'entraînement est mesuré sur les écoutes exactes auxquelles ALS a été ajusté, donc avec suffisamment de facteurs latents et de passages, il peut continuer à diminuer vers zéro. Le RMSE de test est mesuré sur des écoutes délibérément mises de côté lors de l'ajustement, donc dès que les facteurs commencent à mémoriser les particularités des écoutes d'entraînement plutôt qu'une structure de goût générale, l'erreur de test peut plafonner ou remonter progressivement — la signature classique du surajustement, et c'est exactement pourquoi la régularisation λ et un k modéré comptent plus que la poursuite de l'erreur d'entraînement la plus basse possible.