Skip to content

Add support for zero-shot gpt2#1

Open
TurboStimulator wants to merge 3 commits intoRussianNLP:masterfrom
TurboStimulator:master
Open

Add support for zero-shot gpt2#1
TurboStimulator wants to merge 3 commits intoRussianNLP:masterfrom
TurboStimulator:master

Conversation

@TurboStimulator
Copy link

No description provided.

@kuk
Copy link
Collaborator

kuk commented Sep 30, 2022

Спасибо!

  1. По идее, содержание директории gpt2 не надо коммитить в репозиторий Морокко
  2. Изменения в bench/main.py можно обсуждать, но хорошо бы чтобы сохранилась обратная совместимость. Сейчас команды из инструкции в README на сколько понимаю сломаются

@TurboStimulator
Copy link
Author

  1. По поводу директории gpt2, предлагаете держать это в отдельной ветке?
  2. Изменения в bench/main.py связаны с двумя пунктами:
    а) контейнер собираемый из директории gpt2 не содержит в себе модели и данных - всё подтягивается из volume
    b) некоторые старые версии docker не поддерживают --gpus, поэтому я передавал device и прописывал runtime в команде запуска контейнера

@kuk
Copy link
Collaborator

kuk commented Oct 4, 2022

1 Директория gpt2 нужна чтобы построить контейнер с моделью? Тогда этот код не нужно комитить в Морокко. Морокко интересует только сам контейнер, его можно загрузить на Dockerhub.
2a Идея Морокко добавлять веса в контейнер. Получается воспроизводимый результат. Можно скачать контейнер с Dockerhub, больше ничего не скачивать, запустить, получить те же цифры
2b Морокко запускает контейнеры на машине в Яндекс Облаке, там Docker который поддерживает --gpus

Короче, кажется добавлять эти правки в Морокко не надо

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants