Summio

PDF

Языковые модели — обучающиеся на малом числе примеров

В данной статье представлен GPT-3 — масштабная языковая модель, способная осваивать новые задачи всего по нескольким примерам, что революционизирует наше представление об искусственном интеллекте.

17 мин чтения

Доступно на языках

Фрагмент саммари

GPT-3: ИИ, который учится на лету (Ну, почти!)

Всем привет! Слышали про GPT-3? Это такая зверюга от OpenAI, реально огромная модель искусственного интеллекта, и она наделала много шума. Забудьте про старые методы тренировки ИИ, которые тянулись вечность и требовали кучу специфических данных для каждой новой фишки. GPT-3 – это про обучение на ходу, используя то, что они называют 'few-shot learning'. Представьте, что вы показали другу пару примеров новой игры, и он тут же всё понял. Вот что-то похожее, только для ИИ! Эта статья, написанная кучей гениев из OpenAI (с небольшой помощью Университета Джонса Хопкинса), глубоко копает, как GPT-3 работает и что она умеет.

Старый подход против нового: Почему GPT-3 – это важно

До GPT-3, чтобы заставить ИИ делать что-то конкретное, вроде перевода или ответов на вопросы, использовали метод 'предварительного обучения' (pre-training), а потом 'дообучения' (fine-tuning). Сначала модель тренировали на гигантском объеме общих текстов (по сути, на всём интернете), а потом дообучали на меньшем, но всё равно большом наборе данных, специфичном для нужной задачи. Это как получить общее высшее образование, а потом пройти узкоспециализированную магистратуру. Работает, но есть минусы: 1. Жадный до данных: Нужны тысячи, а то и сотни тысяч примеров для дообучения. Если у вас мало данных для конкретной задачи (особенно если она супер-нишевая?), то вам, считай, не повезло. 2. Риск переобучения: Иногда, слишком сильно дообучая на узком наборе данных, ИИ становится супер-крутым именно на этих данных, но полностью проваливается на чуть отличающихся примерах. Это как зубрить ответы к тесту, вместо того чтобы реально понять предмет. 3. Не очень по-человечески: Люди – просто мастера быстро учиться новому. Покажите нам пару картинок нового животного, и мы, скорее всего, сможем его потом опознать. Нам не нужны тысячи картинок и долгая тренировка! Вот тут-то и появляются GPT-3 и концепция 'обучения в контексте' (in-context learning). Идея в том, что если модель достаточно большая и обучена на разнообразных данных, она может развить способность к мета-обучению. Она учится учиться. Во время использования модели (inference time), вы не меняете её веса и не переобучаете. Вместо этого вы просто даёте ей описание задачи и, возможно, пару примеров – всё это прямо в текстовом запросе (промпте). Это и есть 'few-shot' (или 'one-shot', или 'zero-shot') обучение. Круто, правда?

Знакомьтесь, GPT-3: Гигант на 175 миллиардов параметров

Так что же такое GPT-3? Это авторегрессионная языковая модель, что означает: она предсказывает следующее слово в последовательности, основываясь на всех предыдущих словах. Думайте об этом как о супер-продвинутом автодополнении. А '175 миллиардов параметров' – это вообще космос! Это примерно 175 миллиардов настраиваемых 'ручек' (параметров), которые подкручивались во время гигантского обучения. Для сравнения, предыдущее поколение, GPT-2, имело около 1.5 миллиардов параметров. GPT-3 примерно в 100 раз больше! Именно такой масштаб позволяет ему обучаться в режиме few-shot. Исследователи протестировали GPT-3 на куче разных задач, и результаты были впечатляющими. Он не просто был хорош; он часто конкурировал, а иногда и превосходил лучшие модели, которые были специально дообучены под эти задачи. И делал это без всяких градиентных обновлений, просто глядя на примеры, которые вы дали в промпте. Они рассмотрели три основных способа использования модели: Zero-Shot: Вы просто даёте модели инструкцию, типа "Переведи с английского на французский: cheese => ". Без примеров. One-Shot: Даёте инструкцию и один пример: "Переведи с английского на французский: sea otter => loutre de mer. cheese => ". Few-Shot: Даёте инструкцию и несколько примеров (до предела контекстного окна модели, который у GPT-3 составляет 2048 токенов): "Переведи с английского на французский: sea otter => loutre de mer. peppermint => menthe poivrée. cheese => ". И знаете что? Чем больше примеров вы давали (до определённого предела), тем лучше он справлялся! Как будто модель говорила: "О, я понял! Вот как это делается!" Этот эффект масштабирования был огромным открытием.

Что GPT-3 реально умеет?

Эта статья просто напичкана результатами, показывающими, как GPT-3 справляется со всем: от базового моделирования языка до сложного рассуждения и даже креативного письма. Давайте разберем некоторые моменты:

Моделирование языка и автодополнение: Основа основ

По сути, GPT-3 – это языковая модель. Она предсказывает следующее слово. Оказывается, если ты в этом супер-крутой, ты можешь делать много других вещей. GPT-3 достиг самых передовых результатов на стандартных бенчмарках моделирования языка, вроде Penn Treebank (PTB), то есть он был лучшим в предсказании текстовых последовательностей. Он также отлично справился с задачами типа LAMBADA, где нужно предсказать последнее слово в отрывке, показывая хорошее понимание контекста на больших расстояниях. Он даже круто показал себя в HellaSwag, сложной задаче на здравый смысл, и StoryCloze, где нужно предсказать конец истории.

Ответы на вопросы: Как ходячая энциклопедия (с нюансами)

Представьте, что вы задаете вопросы ИИ, не нуждаясь в его дообучении на специфическом датасете для вопросов и ответов. GPT-3 сделал именно это на таких датасетах, как Natural Questions, WebQuestions и TriviaQA. В режиме 'закрытой книги' (когда модель использует только свои предварительно обученные знания) его few-shot производительность была удивительно близка к лучшим дообученным моделям. Он даже достиг state-of-the-art на одном из этих датасетов. Это как если бы у него в голове была огромная библиотека, и он мог быстро находить нужную информацию, основываясь на вашем вопросе и паре примеров.