⚾ Classificateur de lancers — Machine à vecteurs de support en direct

Une machine à vecteurs de support est un classificateur supervisé qui trouve l'hyperplan séparant deux classes avec la plus grande marge possible — le plus large couloir vide entre les points les plus proches de chaque classe. Ces points les plus proches sont appelés vecteurs de support car ce sont eux seuls qui déterminent l'emplacement de la frontière ; tout autre point d'entraînement pourrait être supprimé sans déplacer la solution. Maximiser la marge, plutôt que simplement trouver une ligne de séparation quelconque, tend à mieux généraliser à de nouvelles données car cela laisse le plus de place possible au bruit avant qu'un point ne passe dans la mauvaise classe.

La forme duale du problème d'optimisation SVM n'a besoin que de produits scalaires entre paires de points d'entraînement, jamais des coordonnées brutes elles-mêmes. L'astuce du noyau remplace ce produit scalaire x·z par une fonction noyau K(x,z) qui calcule le produit scalaire comme si les points avaient d'abord été projetés dans un espace de caractéristiques de dimension bien plus élevée — sans jamais construire explicitement cet espace. Un noyau linéaire donne une frontière droite ; un noyau polynomial donne des frontières polynomiales courbes ; le noyau gaussien RBF K(x,z) = exp(−γ‖x−z‖²) donne des frontières lisses et flexibles pouvant envelopper des groupes qui se chevauchent.

C est le curseur de compromis dans l'objectif SVM à marge souple : minimiser ½‖w‖² + C·Σξᵢ, où ξᵢ sont des variables d'écart qui permettent à certains points de se trouver à l'intérieur de la marge ou du mauvais côté. Un C faible tolère davantage de violations de marge pour une marge plus large et plus lisse — privilégiant la généralisation. Un C élevé pénalise fortement les violations, forçant un ajustement plus étroit qui risque de surajuster les lancers spécifiques observés jusqu'ici.

Après l'entraînement, chaque point i possède un multiplicateur de Lagrange αᵢ. Les points confortablement du bon côté de la marge se retrouvent avec αᵢ = 0 et ne contribuent en rien à la fonction de décision ; seuls les points sur ou à l'intérieur de la marge — les vecteurs de support — ont αᵢ > 0. La fonction de décision f(x) = Σ αᵢyᵢK(xᵢ,x) + b ne fait la somme que sur ces vecteurs de support, si bien qu'une SVM entraînée peut être extrêmement compacte même à partir d'un jeu de données plus grand.

Oui. Cette simulation implémente une routine simplifiée d'optimisation minimale séquentielle (SMO) — l'idée de montée de coordonnées duale introduite par John Platt en 1998 qui sous-tend des bibliothèques comme libsvm. Chaque passe sélectionne une paire de multiplicateurs de Lagrange en violation, résout analytiquement leur sous-problème quadratique à deux variables sous la contrainte de boîte 0 ≤ αᵢ ≤ C et Σ αᵢyᵢ = 0, met à jour le biais à partir des conditions KKT, et recommence jusqu'à ce qu'aucune violation ne subsiste dans la tolérance.

Une SVM standard est intrinsèquement binaire. Pour gérer ensemble fastball, curveball et slider, la simulation entraîne trois SVM binaires distinctes, chacune traitant un type de lancer comme positif et les deux autres regroupés comme négatif. Pour un nouveau lancer, les trois fonctions de décision sont évaluées et la classe avec le score positif le plus élevé l'emporte — l'une des façons les plus simples d'étendre un classificateur binaire à plusieurs classes.