🛒 Prédicteur d'abandon de panier — Souches boostées en direct

AdaBoost (Adaptive Boosting) construit un classificateur fort en combinant de nombreux apprenants faibles en un vote à majorité pondérée. Une souche de décision — une division à une seule caractéristique et un seul seuil — est l'apprenant faible classique car il lui suffit de faire légèrement mieux qu'une estimation aléatoire. La puissance d'AdaBoost vient du schéma de repondération : après chaque tour, les échantillons que l'ensemble actuel classe mal voient leur poids augmenté, forçant la souche suivante à se concentrer sur les cas difficiles. Combinée sur suffisamment de tours, une séquence de souches très simples peut approximer une frontière de décision bien plus complexe que ce qu'une seule souche pourrait représenter.

Pour chaque caractéristique candidate (durée de session, articles dans le panier, valeur du panier, pages vues, indicateur de visiteur récurrent), l'algorithme scanne les seuils candidats entre les valeurs d'entraînement triées et, pour les deux polarités de la division, calcule l'erreur de classification pondérée en utilisant les poids actuels par échantillon. La souche avec l'erreur pondérée la plus faible sur toutes les caractéristiques, tous les seuils et toutes les polarités est sélectionnée — il s'agit d'une recherche exhaustive et authentique, pas d'un raccourci heuristique, de sorte que l'erreur du tour est un minimum réel sur l'ensemble candidat à la granularité de recherche choisie.

Étant donné l'erreur pondérée ε de la souche gagnante, son poids de vote est alpha = 0,5·ln((1−ε)/ε), mis à l'échelle par le contrôle de taux d'apprentissage (rétrécissement). Le poids de chaque échantillon d'entraînement est ensuite multiplié par exp(−alpha·y·h(x)) — réduisant le poids des échantillons correctement classés et augmentant de façon exponentielle celui des échantillons mal classés — avant que tout le vecteur de poids soit renormalisé pour sommer à un. C'est exactement la règle de mise à jour d'AdaBoost.M1, et c'est pourquoi les sessions répétitivement mal classées grossissent visiblement en points plus grands tour après tour.

Le graphique suit l'erreur d'entraînement 0/1 réelle de l'ensemble à vote majoritaire pondéré croissant, pas seulement l'erreur pondérée de la souche la plus récente. Comme chaque nouvelle souche est choisie pour corriger les échantillons que l'ensemble classe actuellement mal, son ajout peut occasionnellement faire basculer quelques échantillons à faible poids auparavant corrects. La tendance globale reste une diminution authentique et vérifiable de l'erreur d'entraînement de l'ensemble à mesure que les tours s'accumulent, ce qui est la marque de la convergence du boosting.

Chaque session synthétique reçoit cinq caractéristiques et une étiquette générée à partir d'une règle sous-jacente réelle et non linéaire : une session est marquée comme abandonnée si elle ressemble à un rebond rapide à faible engagement (durée courte et peu de pages vues) OU à un panier de valeur élevée provenant d'un visiteur pour la première fois qui hésite avant le paiement — avec environ 8 % de bruit d'étiquette aléatoire superposé. Comme cette règle combine deux caractéristiques différentes, aucune souche de décision seule ne peut la séparer parfaitement, ce qui explique exactement pourquoi un ensemble de plusieurs souches est nécessaire et pourquoi l'erreur d'entraînement continue de s'améliorer au fil des tours.