gnh1201/Open-Llama
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

Update Tutorial

Namhyeon Go 2024-06-15 12:27:00 +00:00
parent 98f17bf0f6
commit 9ba1e8712c
1 changed files with 11 additions and 0 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

11
Tutorial.md

@ -48,6 +48,17 @@
$ python3 dataset/dataset.py $ python3 dataset/dataset.py
``` ```
5. NVIDA 드라이버 및 CUDA 설치
* 이전 버전 또는 잘못 설치된 nvidia 드라이버 및 cuda 청소
1. `/root` 또는 `/home/[사용자이름]` 디렉토리 아래 `.bashrc` 또는 `.profile`, `.bash_profile` 파일에 수동으로 환경 변수 설정한 것이 있다면 모두 제거 (또는 주석 처리)
2. 기존 설치된 nvidia 드라이버 및 cuda 청소 및
```
$ sudo apt-get purge nvidia*
$ sudo apt-get autoremove
$ sudo apt-get autoclean
$ sudo rm -rf /usr/local/cuda*
```
5. 선행학습(pretrain) 진행 5. 선행학습(pretrain) 진행
``` ```
$ accelerate launch --config_file configs/accelerate_configs/ds_stage1.yaml train_lm.py --train_config configs/pretrain_config.yaml --model_config configs/model_configs/7B.json $ accelerate launch --config_file configs/accelerate_configs/ds_stage1.yaml train_lm.py --train_config configs/pretrain_config.yaml --model_config configs/model_configs/7B.json