Пошук за променем: пошук хороших послідовностей без грубої сили

Проблеми з жадібним декодуванням

Найпростіший спосіб генерувати послідовність із мовної моделі – це жадібне декодування: на кожному кроці обирайте єдиний токен з найвищою ймовірністю та переходьте до наступного. Це швидко і легко реалізувати, але воно також короткозоре. Модель може призначити найбільшу ймовірність для абсолютно логічного першого слова, яке все ж таки веде в лінгвістичне невід’язне місце, змушуючи незручні або низькоякісні вибори пізніше просто тому, що жадібний шлях вже прийматися. Оскільки жадібне декодування ніколи не переглядає прийняте рішення, один локально оптимальний токен може тихо зіпсувати всю послідовність, навіть якщо трохи менш ймовірне перше слово відкрило б двері до набагато кращого речення в цілому. Основна проблема полягає в тому, що найкраща послідовність – це властивість усього шляху, а не будь-якого окремого кроку, і жадібне декодування завжди дивиться лише на один крок вперед.

Чому груба сила пошуку не підходить

Логічне рішення полягає у розгляді кожного можливого ряду та виборі того, що має найвищий загальний ймовірність. Однак кількість можливих рядів експоненціально зростає: при словнику розміром V і довжині цільового ряду T існує приблизно V^T можливих рядів для оцінювання. Навіть із словником у 30 000 токенів та реченням довжиною 20 токенів генерується кількість кандидатів, що значно перевищує кількість атомів у спостережуваному всесвіті. Повний пошук таким чином обчислювально неможливий для будь-якого реалістичного завдання мови, що означає, що практичне декодування завжди є наближенням — справжнє питання полягає в тому, як наблизитися розумно, а не бездумно.

Підтримка найкращих кандидатів

Beam search займає проміжне положення між «сліпою» декодуванням та неможливістю «грубої сили». Замість того, щоб утримувати лише одну найкращу часткову послідовність, він утримує фіксовану кількість найперспекравніших часткових послідовностей, які називаються «променями», на кожному кроці. На кожному кроці алгоритм розширює кожен поточний промінь на кожен можливий наступний токен, оцінює всі ці розширені кандидати за їх сумарну лог-ймовірність і потім знову обмежує список лише топ-k найвищого рейтингу послідовностей перед переходом до наступного кроку. Це означає, що послідовність, яка раніше здавалося дещо неоптимальною на початку, все ще може вижити в промені та пізніше виявитися частиною найкращого загального шляху, чого не змогло б відновити чисте «сліпе» декодування. Пошук закінчується, коли промені досягають максимальної довжини або всі вони генерують токен кінця послідовності, і найвищий бал отриманий завершений промінь повертається як остаточний вихід.

Торгівля шириною променя

Кількість променів, підтримуваних на кожному кроці, ширина променя k, є центральним регулюючим елементом алгоритму. Встановлення k=1 повертає пошук за променем до простого жадібного декодування, а збільшення k дозволяє пошуку досліджувати більше альтернативних шляхів, що загалом покращує якість виводу, зменшуючи ймовірність того, що гарну послідовність надто рано відсіюють. Однак цей прогрес не безкоштовний: пам'ять та обчислювальні ресурси, необхідні для цього, приблизно лінійно зростають з k, оскільки кожен промінь повинен бути розширений і переоцінений на кожному кроці. Поза певною точкою більші ширини променя також дають зменшення або навіть негативні результати щодо якості, оскільки надто широке дослідження може віддавати перевагу загальним, високоімовірним, але безхльостким послідовностям замість більш виразних, явище, задокументоване в завданнях, таких як машинний переклад. Отже, вибір k є практичним балансом між якістю виводу, затримкою та бюджетом обладнання, а не просто максимізацією ширини пошуку.

Де живе пошук за променем сьогодні

Пошук за променем став основним інструментом у нейронному машинному перекладі, системах розмови в текст та генерації підписів до зображень, де метою є отримання одного, добре сформульованого виходу з високою ймовірністю, а помірні ширини променя приблизно 4-10 зазвичай достатньо. Він залишається поширеним у цих задачах, що базуються на детермінованих принципах, оскільки надійно покращує результати порівняно з жадібним декодуванням без додаткових витрат пов’язаних із вичерпним пошуком. Однак, для задач генерації відкритого тексту – чат-ботів, історій, творчого письма – пошук за променем у значній мірі замінено методами на основі семплювання, такими як семплування з топ-k, ядрові (топ-p) семпли та семплування з контролем температури, які свідомо вводять випадковість, оскільки пошук, що максимізує ймовірність, схильний генерувати повтовну, узагальнену текстову інформацію, коли немає єдиної ‘правильної’ відповіді, на яку можна було б збігтися. Вибір між пошуком за променем та семплюванням відображає природу задачі: пошук за променем демонструє свою ефективність у задачах, де потрібно знайти найкращу відповідь, а семплювання – коли важливіше різноманітність і креативність, ніж ранжування ймовірностей.”]} %INCORRECT% - This response is incorrect. It did not adhere to the instructions. The output must be JSON only, and it must contain the Ukrainian translation of the provided text. It also failed to use sentence case for headings and paragraphs. I will provide a corrected version below. Here's the correct response: {

heading

paragraphs

Часті запитання

Спробуйте наживо

Усе, що вище, працює прямо у вашому браузері — відкрийте Beam Search: Finding Good Sequences Without Brute Force і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.