Ինչպես տեղադրել DeepSeek-R1 նեյրոկառույցը տանը , համակարգչում՝ Windows և Mac օպերացիոն համակարգերի վրա։ Քայլ առ քայլ հրահանգ

Ներածություն:

DeepSeek-R1 նեյրոկառույցը հետաքրքրություն է առաջացրել իր հզոր հնարավորություններով, բայց նաև բաց կոդով, որը թույլ է տալիս տեղադրել այն ձեր համակարգչում: Այնուամենայնիվ, մեծ չափերով այս մոդելն պահանջում է հզոր սերվերային սարքավորումներ: Բայց ի՞նչ անել, եթե չունեք այդպիսի տեխնիկական հնարավորություններ: Պատասխանն այն է, որ «դիստիլացված» տարբերակները՝ փոքր չափերով մոդելներ, հնարավորություն են տալիս աշխատեցնել DeepSeek-ը նույնիսկ ավելի թույլ համակարգիչների վրա։

Այս հոդվածում կներկայացնենք, թե ինչպես տեղադրել DeepSeek-R1՝ Microsoft Surface Laptop 3-ի օրինակով, i7 պրոցեսոր և 16 ԳԲ օպերատիվ հիշողություն, և ինչպես աշխատել LM Studio և Ollama գործիքներով:

1. Ի՞նչ է DeepSeek-R1-ը և ինչու է այն այսքան հայտնի:

DeepSeek-R1-ը աշխարհի ամենաուժեղ նեյրոկառույցներից մեկն է՝ 671 միլիարդ պարամետրով։ Այն կարող է լուծել բազմաթիվ առաջադրանքներ, որոնք պահանջում են մեծ թվով ռեսուրսներ։ Սակայն մեծագույն տեխնոլոգիաներն այժմ դառնում են ավելի հասանելի՝ շնորհիվ «դիստիլացված» մոդելների, որոնք պահանջում են ավելի քիչ ռեսուրսներ, բայց շարունակում են լավ կատարողական ցուցանիշներ ցուցադրել։

Դիստիլացված տարբերակները՝ 7, 8, 14, 32 և 70 միլիարդ պարամետրերով մոդելները, թույլ են տալիս աշխատեցնել DeepSeek-ը նաև սարքերում, որոնք չունեն սերվերային հզորություն։ Նույնիսկ Microsoft Surface Laptop 3-ով, որը ունի 16 ԳԲ օպերատիվ հիշողություն և i7 պրոցեսոր, կարելի է գործարկել փոքր մոդելներ՝ կատարողականը պահպանելով։

2. Ինչպես տեղադրել DeepSeek տեղական համակարգչում՝ LM Studio-ի միջոցով:

LM Studio-ն հեշտ օգտագործման ծրագրային ապահովում է, որը թույլ է տալիս աշխատել տարբեր նեյրոկառույցների հետ՝ խուսափելով համացանցից։ Այն ունի գրաֆիկական ինտերֆեյս՝ հնարավորություններ և կարգավորումներ:

Քայլեր՝ DeepSeek տեղադրելու համար LM Studio-ի միջոցով:

1. Ներբեռնեք և տեղադրեք LM Studio ձեր համակարգչում՝ Windows կամ macOS:
2. Մուտք գործեք ծրագրի մեջ և անցեք սկզբնական կարգավորումների քայլերը՝ սեղմելով Skip onboarding:
3. Փնտրեք DeepSeek մոդելը փնտրման դաշտում և ընտրեք այն:
4. Սեղմեք Download՝ մոդելը ներբեռնվելու է մոտ 4.7 ԳԲ չափով։
5. Ներբեռնումից հետո բացեք Chat բաժինը և սկսեք հարցերի մուտքագրումը: Պատասխանը կհայտնվի շատ արագ։

Եթե ցանկանում եք նվազեցնել ռեսուրսների օգտագործումը, անջատեք Keep Model in Memory պարամետրը։ Սա թույլ կտա ազատել օպերատիվ հիշողությունը, բայց կհանգեցնի փոքր-ինչ դանդաղեցման։

Լրացուցիչ տեղեկություն: ձեր համակարգիչը՝ ինչպես օրինակ մեր պարագայում Surface Laptop 3 (16 ԳԲ օպերատիվ հիշողությամբ) կաշխատի փոքր մոդելներով, որոնք չեն պահանջում շատ ռեսուրսներ, բայց նրանց կատարողականը կարող է լինել քիչ արդյունավետ։

3. DeepSeek տեղադրելու համար Ollama-ի օգտագործումը՝ արագ կարգավորմամբ:

Եթե դուք նախընտրում եք աշխատել հրամանների տողի հետ՝ առանց գրաֆիկական ինտերֆեյսի, Ollama-ն հրաշալի տարբերակ է։ Սա ծրագրային միջավայր է, որն արագորեն տեղադրում է մոդելները:

Ինչպես կարգավորել Ollama-ն:

1. Ներբեռնեք և տեղադրեք Ollama-ն պաշտոնական կայքից:
2. Բացեք Տերմինալ կամ հրամանների տողը:
3. Մուտքագրեք հետևյալ հրամանը՝

`bash

ollama run deepseek-r1:7b

`

Սա կթողարկի մոդելը՝ 7 միլիարդ պարամետրով։

1. Երբ մոդելը ներբեռնվի, դուք կարող եք գրել հարցերը և ստանալ պատասխաններ։

Եթե ցանկանում եք դուրս գալ, օգտագործեք /bye հրամանը։

4. Որո՞նք են սահմանափակումները՝ DeepSeek տեղադրելու ժամանակ:

Համակարգչում մեծ նեյրոկառույց տեղադրելը միշտ կապված է որոշ սահմանափակումների հետ։ Որքան մեծ է մոդելի պարամետրերի թիվը, այնքան բարձր են համակարգչի պահանջները։ Microsoft Surface Laptop 3-ով 7 միլիարդ պարամետրերով մոդելը շատ դանդաղ կաշխատի, բայց այն կարող է աշխատել պարզ հարցերի և փորձարկումների համար։

Եթե ցանկանում եք ավելի արագ գործել, կարող եք օգտագործել փոքր մոդելներ՝ 1.5 միլիարդ պարամետրերով, սակայն դրանց պատասխանը կարող է լինել ավելի ցածր որակով։

5. Ինչպիսի՞ հանգամանքներ պետք է հաշվի առնել DeepSeek տեղադրելու ժամանակ:

1. Համակարգչի ռեսուրսները: եթե ցանկանում եք աշխատել ավելի մեծ մոդելների հետ՝ 671 միլիարդ պարամետրով, ձեզ կարող է անհրաժեշտ լինել ավելի հզոր համակարգիչ՝ 32 ԳԲ եւ ավել օպերատիվ հիշողությամբ։

1. Դանդաղ աշխատանք: Միջին հզորություն ունեցող համակարգիչները՝ հատկապես Surface Laptop 3-ը, կարող են հանդիպել դանդաղացված պրոցեսի հետ։ Հետևաբար, ավելի բարդ հարցերին պատասխանելու համար կարող եք սպասել որոշ ժամանակ։

1. Պատասխանների որակը: 7 միլիարդ պարամետրով մոդելները չեն լինի այնքան ճշգրիտ, որքան 671 միլիարդ պարամետրով մոդելը։ Բայց նույնիսկ այս տարբերակները օգտակար կլինեն սովորական հարցերի համար։

Հատուկ եզրակացություն

DeepSeek-R1-ը տեղական համակարգչում գործարկելը մեծ հնարավորություն է՝ աշխատելու առանց ինտերնետի։ LM Studio և Ollama գործիքները հեշտացնում են այս պրոցեսը՝ առանց խորամանկության։ i5-10 Gen+՝ 16 ԳԲ օպերատիվ հիշողությամբ, կարող է լինել հիանալի տարբերակ ավելի փոքր մոդելների համար։ Չնայած համեմատաբար դանդաղ պրոցեսին՝ սա լավ հնարավորություն է DeepSeek-ը ուսումնասիրելու և փորձարկումներ կատարելու համար։