🛒 Прогнозувальник Покинутого Кошика — Підсилені Пеньки Наживо

AdaBoost (Adaptive Boosting) будує сильний класифікатор, поєднуючи багато слабких учнів у зважене голосування більшості. Дерево-пеньок — розділення за однією ознакою й одним порогом — є класичним слабким учнем, оскільки від нього вимагається лише трохи кращий за випадкове вгадування результат. Сила AdaBoost походить від схеми перезважування: після кожного раунду вага зразків, на яких поточний ансамбль помиляється, збільшується, змушуючи наступний пеньок зосередитися на складних випадках.

Для кожної кандидатної ознаки (тривалість сесії, товари в кошику, вартість кошика, перегляди сторінок, прапорець постійного відвідувача) алгоритм сканує кандидатні пороги між відсортованими навчальними значеннями та для обох полярностей розділення обчислює зважену помилку класифікації, використовуючи поточні ваги зразків. Обирається пеньок із найнижчою зваженою помилкою за всіма ознаками, порогами й полярностями — це вичерпний, справжній пошук, а не евристичне скорочення.

З огляду на зважену помилку ε переможного пенька, його вага голосу дорівнює alpha = 0,5·ln((1−ε)/ε), масштабована регулятором швидкості навчання (усадки). Потім вага кожного навчального зразка множиться на exp(−alpha·y·h(x)) — зменшуючи вагу правильно класифікованих зразків і експоненційно збільшуючи вагу неправильно класифікованих, — перш ніж весь вектор ваг перенормалізується до суми одиниця. Це точне правило оновлення AdaBoost.M1.

Діаграма відстежує справжню помилку навчання 0/1 зростаючого зваженого ансамблю голосування більшості, а не лише зважену помилку найновішого пенька. Оскільки кожен новий пеньок обирається для виправлення зразків, на яких помиляється ансамбль, його додавання іноді може випадково переінакшити кілька раніше правильних зразків із низькою вагою. Загальна тенденція все ще є справжнім, перевірюваним зниженням помилки навчання ансамблю в міру накопичення раундів.

Кожна синтетична сесія отримує п'ять ознак і мітку, згенеровану зі справжнього нелінійного базового правила: сесія позначається як покинута, якщо вона схожа на швидкий відскок з низькою залученістю (коротка тривалість і мало переглядів сторінок) АБО на дорогий кошик від відвідувача-новачка, який вагається перед оформленням замовлення — із приблизно 8% випадкового шуму міток поверх. Оскільки це правило поєднує дві різні ознаки, жоден окремий пеньок не може ідеально розділити його, саме тому й потрібен ансамбль кількох пеньків.