Skip to content

Add support for zero-shot gpt2#1

Open
TurboStimulator wants to merge 3 commits into
RussianNLP:masterfrom
TurboStimulator:master
Open

Add support for zero-shot gpt2#1
TurboStimulator wants to merge 3 commits into
RussianNLP:masterfrom
TurboStimulator:master

Conversation

@TurboStimulator

Copy link
Copy Markdown

No description provided.

@kuk

kuk commented Sep 30, 2022

Copy link
Copy Markdown
Collaborator

Спасибо!

  1. По идее, содержание директории gpt2 не надо коммитить в репозиторий Морокко
  2. Изменения в bench/main.py можно обсуждать, но хорошо бы чтобы сохранилась обратная совместимость. Сейчас команды из инструкции в README на сколько понимаю сломаются

@TurboStimulator

Copy link
Copy Markdown
Author
  1. По поводу директории gpt2, предлагаете держать это в отдельной ветке?
  2. Изменения в bench/main.py связаны с двумя пунктами:
    а) контейнер собираемый из директории gpt2 не содержит в себе модели и данных - всё подтягивается из volume
    b) некоторые старые версии docker не поддерживают --gpus, поэтому я передавал device и прописывал runtime в команде запуска контейнера

@kuk

kuk commented Oct 4, 2022

Copy link
Copy Markdown
Collaborator

1 Директория gpt2 нужна чтобы построить контейнер с моделью? Тогда этот код не нужно комитить в Морокко. Морокко интересует только сам контейнер, его можно загрузить на Dockerhub.
2a Идея Морокко добавлять веса в контейнер. Получается воспроизводимый результат. Можно скачать контейнер с Dockerhub, больше ничего не скачивать, запустить, получить те же цифры
2b Морокко запускает контейнеры на машине в Яндекс Облаке, там Docker который поддерживает --gpus

Короче, кажется добавлять эти правки в Морокко не надо

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants