Skip to content

Commit

Permalink
Readme updated
Browse files Browse the repository at this point in the history
  • Loading branch information
EvilFreelancer committed Dec 28, 2024
1 parent 37db7a9 commit 45c394f
Show file tree
Hide file tree
Showing 2 changed files with 7 additions and 2 deletions.
3 changes: 1 addition & 2 deletions README.md
Original file line number Diff line number Diff line change
Expand Up @@ -42,11 +42,10 @@ pip install impruver

После чего в PATH станет доступна утилита командной строки `impruver`.

Если же планируется обучение моделей поддерживающих Flash Attention, то устанавливать следует так:
Если же планируется обучение моделей с использованием Flash Attention, то надо будет выполнить ещё и:

```shell
pip install setuptools psutil torch flash-attn --no-build-isolation
pip install impruver
```

## Доступные конфигурации
Expand Down
6 changes: 6 additions & 0 deletions docs/Home.md
Original file line number Diff line number Diff line change
Expand Up @@ -55,6 +55,12 @@ Language Models (LLM).
impruver ls
```

Вы можете скопировать конфигурацию локально:

```shell
impruver cp ruGPT-3.5/13B_lora_saiga2 ./ruGPT-3.5_13B_lora_saiga2.yaml
```

## Как пользоваться

Прежде чем приступить к обучению модели необходимо подготовить и дедуплицировать датасет, после чего разделить
Expand Down

0 comments on commit 45c394f

Please sign in to comment.