Llama 3 הוא דגם השפה הגדול האחרון של Meta. אתה יכול להשתמש בו למטרות שונות, כגון פתרון השאילתות שלך, קבלת עזרה עם שיעורי הבית והפרויקטים שלך בבית הספר וכו'. פריסת Llama 3 במחשב Windows 11 שלך באופן מקומי תעזור לך להשתמש בו בכל עת, אפילו ללא גישה לאינטרנט. מאמר זה מראה לך כיצד להתקין את Lama 3 במחשב Windows 11 .
כיצד להתקין את Lama 3 במחשב Windows 11
התקנת Llama 3 במחשב Windows 11 דרך Python דורשת מיומנויות וידע טכניים. עם זאת, כמה שיטות חלופיות מאפשרות לך לפרוס באופן מקומי את Llama 3 במחשב Windows 11 שלך. אני אראה לך את השיטות האלה.
כדי להתקין את Llama 3 במחשב Windows 11 שלך, עליך לבצע כמה פקודות בשורת הפקודה. עם זאת, זה יאפשר לך להשתמש רק בגרסת שורת הפקודה שלו. עליך לנקוט בצעדים נוספים אם ברצונך להשתמש בממשק האינטרנט שלו. אני אראה לך את שתי השיטות הללו.
פרוס את Llama 3 במחשב Windows 11 באמצעות CMD
כדי לפרוס את Llama 3 במחשב Windows 11 שלך, עליך להתקין את Ollama במחשב Windows שלך. השלבים עבור אותו הם כדלקמן:
- לְבַקֵר האתר הרשמי של אולמה .
- לחץ על הורד לחצן ולאחר מכן בחר חלונות .
- כעת, לחץ על הורד עבור Windows לחצן כדי לשמור את קובץ ה-exe במחשב.
- הפעל את קובץ ה-exe כדי להתקין את Ollama במחשב שלך.
לאחר התקנת Ollama במכשיר שלך, הפעל מחדש את המחשב. זה אמור לפעול ברקע. אתה יכול לראות את זה במגש המערכת שלך. כעת, לחץ על האפשרות מודלים באתר Ollama. תוכלו לראות את הדגמים השונים שלו.
ה-Llama 3.1 זמין בשלושת הפרמטרים הבאים:
הורדת משגר האפליקציות של
- 8ב
- 70B
- 405B
האחרון הוא הפרמטר הגדול ביותר וברור שלא ניתן להפעיל אותו על מחשב קצה נמוך. ל-Llama 3.2 יש את שני הפרמטרים הבאים:
- 1B
- 3B
לחץ על גרסת הלאמה שברצונך להתקין במחשב האישי שלך. לדוגמה, אם ברצונך להתקין את Llama 3.2, לחץ על Llama 3.2. בתפריט הנפתח, תוכל לבחור את הפרמטר שברצונך להתקין. לאחר מכן, העתק את הפקודה שלצידה והדבק אותה בשורת הפקודה.
לנוחיותך, כתבתי את שתי הפקודות עבור דגם ה-Llama 3.2. כדי להתקין את דגם Llama 3.2 3B, הפעל את הפקודה הבאה:
ollama run llama3.2:3b
כדי להתקין את דגם Llama 3.2 1B, השתמש בפקודה הבאה:
לעכב את עדכון חלונות 10
ollama run llama3.2:1b
פתח את שורת הפקודה, הקלד כל אחת מהפקודות שהוזכרו לעיל (בהתבסס על הדרישות שלך), ולחץ לְהַכנִיס . ייקח קצת זמן להוריד את הקבצים הנדרשים. זמן ההורדה יהיה תלוי גם במהירות חיבור האינטרנט שלך. לאחר ההשלמה, תראה את הַצלָחָה הודעה בשורת הפקודה.
כעת, הקלד את ההודעה שלך כדי להשתמש בדגם Llama 3.2. אם ברצונך להתקין את דגם Llama 3.1, השתמש בפקודות הזמינות באתר Ollama.
בפעם הבאה שתפעיל את שורת הפקודה, השתמש באותה פקודה כדי להפעיל את Lama 3.1 או 3.2 במחשב האישי שלך.
להתקנת Llama 3 דרך CMD יש חיסרון אחד. זה לא שומר את היסטוריית הצ'אט שלך. עם זאת, אם תפרוס אותו במארח המקומי, היסטוריית הצ'אט שלך תישמר ותקבל ממשק משתמש טוב יותר. השיטה הבאה מראה כיצד לעשות זאת.
פרוס ממשק המשתמש של Llama 3 Web ב-Windows 11
שימוש ב-Llama 3 בדפדפן אינטרנט מספק ממשק משתמש טוב יותר וגם חוסך את היסטוריית הצ'אט בהשוואה לשימוש בחלון CMD. אני אראה לך כיצד לפרוס את Lama 3 בדפדפן האינטרנט שלך.
כדי להשתמש ב-Llama 3 בדפדפן האינטרנט שלך, יש להתקין את Llama 3 דרך Ollama ו-Docker במערכת שלך. אם עדיין לא התקנת את Llama 3, התקן אותו באמצעות Ollama (כפי שהוסבר לעיל). כעת, הורד והתקן את Docker ממנו אתר רשמי .
לאחר התקנת Docker, הפעל אותו והירשם כדי ליצור חשבון. Docker לא יפעל עד שתירשם. לאחר ההרשמה, היכנס לחשבון שלך באפליקציית Docker. צמצם את Docker למגש המערכת. אפליקציות Docker ו- Ollama אמורות לפעול ברקע. אחרת, אינך יכול להשתמש ב-Llama 3 בדפדפן האינטרנט שלך.
נהג אוטובוס corsair
כעת, פתח את שורת הפקודה, העתק את הפקודה הבאה והדבק אותה בשורת הפקודה:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
הפקודה לעיל ייקח זמן מה להוריד את המשאבים הנדרשים. לכן, קצת סבלנות. לאחר השלמת הפקודה, פתח את Docker ובחר את מיכלים קטע מצד שמאל. תראה שמיכל נוצר באופן אוטומטי עם היציאה 3000:8080.
לחץ על היציאה 3000:8080. פעולה זו תפתח כרטיסייה חדשה בדפדפן האינטרנט המוגדר כברירת מחדל. כעת, הירשם והיכנס כדי להשתמש ב-Llama 3 בדפדפן האינטרנט שלך. אם תראה את שורת הכתובת, תראה מארח מקומי: 3000 שם, מה שאומר ש-Llama 3 מתארח באופן מקומי במחשב שלך. אתה יכול להשתמש בו ללא חיבור לאינטרנט.
בחר את דגם הצ'אט של Lama שלך מהתפריט הנפתח. אם אתה רוצה להוסיף עוד דגמי צ'אט של Llama 3, עליך להתקין אותו דרך Ollama באמצעות הפקודות הנדרשות. לאחר מכן, הדגם יהיה זמין אוטומטית בדפדפן האינטרנט שלך.
כל היסטוריית הצ'אט שלך תישמר ותהיה נגישה בצד שמאל. כאשר אתה רוצה לצאת, צא מההפעלה שלך בדפדפן האינטרנט שלך. לאחר מכן, פתח את אפליקציית Docker ולחץ על לְהַפְסִיק לחצן כדי לעצור את Docker. כעת, אתה יכול לסגור את Docker.
כאשר אתה רוצה להשתמש ב-Llama 3 בדפדפן האינטרנט שלך בפעם הבאה, הפעל את Ollama ו-Docker, המתן מספר דקות ולאחר מכן לחץ על היציאה במיכל Docker כדי לפתוח את שרת ה-localhost בדפדפן האינטרנט שלך. כעת, היכנס לחשבון שלך והתחל להשתמש ב-Llama 3.
אני מקווה שזה עוזר.
האם Llama 3 יכול לרוץ על Windows?
בהתאם לתצורת החומרה של המחשב שלך, אתה יכול להפעיל את Llama 3 במערכת שלך. דגם ה-1B שלו הוא הקל ביותר. אתה יכול להתקין ולהפעיל אותו במערכת שלך דרך שורת הפקודה.
כיצד לבטל המלצות
כמה זיכרון RAM אני צריך עבור Llama 3?
הדגם הקל ביותר של Llama 3 הוא Llama 3.2 1B. למערכת שלך צריך להיות 16 GB של זיכרון RAM כדי להפעיל את דגם Llama 3.2 1B. בנוסף לכך, למערכת שלך צריך להיות גם GPU כבד. הדגמים הגבוהים יותר של Llama 3 דורשים יותר משאבי מערכת.
קרא בהמשך : כיצד להשתמש ב- Leonardo Phoenix AI .
