Skip to content

Commit

Permalink
Tunes for wiki
Browse files Browse the repository at this point in the history
  • Loading branch information
EvilFreelancer committed Jan 9, 2025
1 parent 042f631 commit 8a89d9e
Show file tree
Hide file tree
Showing 5 changed files with 31 additions and 2 deletions.
11 changes: 11 additions & 0 deletions .github/workflows/sync-docs-to-wiki.yml
Original file line number Diff line number Diff line change
Expand Up @@ -28,6 +28,17 @@ jobs:
run: |
find . -type f -name '*.md' -exec \
sed -i -E 's|\[([^]]*)\]\(([^)]*)\)|[\1](https://github.com/EvilFreelancer/impruver/blob/main/\2)|g' {} +
- name: Remove first h1 and shift headings
working-directory: wiki
run: |
# В одной find-команде используем несколько -e флагов для sed
find . -type f -name '*.md' -exec sed -i \
-e '1{/^# .*/d}' \
-e 's/^## /# /g' \
-e 's/^### /## /g' \
-e 's/^#### /### /g' \
-e 's/^##### /#### /g' \
-e 's/^###### /##### /g' {} +
- name: Commit and push changes
working-directory: wiki
run: |
Expand Down
4 changes: 3 additions & 1 deletion docs/Конвертер.md
Original file line number Diff line number Diff line change
@@ -1,7 +1,9 @@
# Конвертер

`converter` - функция конвертации отдельного элемента необходима для того, чтобы привести все входящие данные датасета к
общему виду.

Например, у нас имеется датасет на HuggingFace со стриктурой вида:
Например, у нас имеется датасет на HuggingFace со структурой вида:

```json lines
{"conversation":[{"from":"human","value":"text"},{"from":"gpt","value":"text"}]}
Expand Down
14 changes: 13 additions & 1 deletion docs/Конфигурация.md
Original file line number Diff line number Diff line change
@@ -1,3 +1,5 @@
# Конфигурация

Описание секций конфигурации

## Пути
Expand Down Expand Up @@ -237,10 +239,20 @@ model:
как `repo_id` на HuggingFace, так и путь до директории (абсолютный или относительный) в которой будут находиться
веса и конфигурация модели.

## Секация `trainer`
## Секция `trainer`

В данной секции можно передавать любой доступный в тренере параметр.

### Параметр `trainer_class`

Единственный параметр который не передаётся напрямую в конструктор `TrainerArguments`, он содержит в себе класс
который будет заниматься непосредственной тренировкой моделей. По умолчанию он равен `transformers.Trainer`,
но его можно заменить на любой другой или на свою реализацию.

### Параметр `optim`

Список оптимизаторов, доступных в библиотеке `transformers` из коробки.

```json
[
"adamw_hf",
Expand Down
2 changes: 2 additions & 0 deletions docs/Обучение.md
Original file line number Diff line number Diff line change
@@ -1,3 +1,5 @@
# Режимы обучения

Проект `impruver` поддерживает обучение моделей на одной или распределённое на нескольких видеокартах,
по идее можно и на нескольких серверах выполнить обучение, но за неимением оных мне подобное протестировать
пока что не удалось.
Expand Down
2 changes: 2 additions & 0 deletions docs/Рецепты.md
Original file line number Diff line number Diff line change
@@ -1,3 +1,5 @@
# Рецепты обучения

Рецепты - это скрипты, которые выполняют некие работы в соответствии с тем, что описано в выбранной конфигурации.

## Рецепт `compose_dataset`
Expand Down

0 comments on commit 8a89d9e

Please sign in to comment.