نصب یک هوش مصنوعی (LLM) روی سیستم خودمان. بخش دوم
برای اجرای یک مدل هوش مصنوعی (LLM) روی رایانه شخصی باید دو تا کار انجام بدهیم. اول اینکه یکی از پلت فرم های اجرای لوکال مدل های هوش مصنوعی رو روی سیستم خودمون نصب کنیم. ابزارهای متنوعی برای اینکار وجود داره که به برخی از اونها اشاره می کنم.
1- Ollama : محیط بسیار ساده مانند chatgpt و مناسب برای کاربران جدید، توانایی های بسیار گسترده برای توسعه دهندگان از طریق خط فرمان
2- LM Studio : مناسب برای کاربران جدید و توسعه دهندگانی که دنبال یک ابزار آسان می گردند.
3- GPT4ALL : مناسب برای کاربرانی که دنبال امنیت بالا هستند.
4- llamafile : اجرای مدل با یک کلیک. مربوط به بنیاد موزیلا
5- Jan: یک ابزار برای ترکیب چند مدل
6- pinokio : ابزاری بسیار ساده برای استفاده از مدلهای هوش مصنوعی
7- Msty Studio: بسیار ساده، قابلیت استفاده از مدلهای ollama . توانایی استفاده بسیار ساده ازفایل ها برای آموزش مدل
اگر بار اولی است که می خواهید از این مدلها به صورت آفلاین استفاده کنید توصیه می کنم از Ollama استفاده کنید. هم ساده است و هم مدلهای آن به راحتی در دسترس است.
می توانید از سایت های داخلی نسخه مورد نظر خود را انتخاب کنید.
همچنین می توانید از این لینک هم Ollama را دانلود کنید.
در پست های آتی در خصوص انتخاب مدل توضیح خواهم داد.
پی نوشت:
البته قبل از دانلود و نصب این ابزارها، به این موضوع توجه داشته باشید که برای استفاده مناسب از این ابزارها باید رایانه ای با حداقل 16 گیگ رم و CPU نسل 5 به بالا داشته باشید. اگر سیستم شما قدیمی است یا مشخصات سیستم شما پایین تر از موارد ذکر شده است در اجرای مدل های مناسب دچار مشکل خواهید شد. دلیل این موضوع رو هم بعدا عرض خواهم کرد.
پایتون برای مالی
🆔 t.me/python4finance
🆔 ble.ir/python4finance
برای اجرای یک مدل هوش مصنوعی (LLM) روی رایانه شخصی باید دو تا کار انجام بدهیم. اول اینکه یکی از پلت فرم های اجرای لوکال مدل های هوش مصنوعی رو روی سیستم خودمون نصب کنیم. ابزارهای متنوعی برای اینکار وجود داره که به برخی از اونها اشاره می کنم.
1- Ollama : محیط بسیار ساده مانند chatgpt و مناسب برای کاربران جدید، توانایی های بسیار گسترده برای توسعه دهندگان از طریق خط فرمان
2- LM Studio : مناسب برای کاربران جدید و توسعه دهندگانی که دنبال یک ابزار آسان می گردند.
3- GPT4ALL : مناسب برای کاربرانی که دنبال امنیت بالا هستند.
4- llamafile : اجرای مدل با یک کلیک. مربوط به بنیاد موزیلا
5- Jan: یک ابزار برای ترکیب چند مدل
6- pinokio : ابزاری بسیار ساده برای استفاده از مدلهای هوش مصنوعی
7- Msty Studio: بسیار ساده، قابلیت استفاده از مدلهای ollama . توانایی استفاده بسیار ساده ازفایل ها برای آموزش مدل
اگر بار اولی است که می خواهید از این مدلها به صورت آفلاین استفاده کنید توصیه می کنم از Ollama استفاده کنید. هم ساده است و هم مدلهای آن به راحتی در دسترس است.
می توانید از سایت های داخلی نسخه مورد نظر خود را انتخاب کنید.
همچنین می توانید از این لینک هم Ollama را دانلود کنید.
در پست های آتی در خصوص انتخاب مدل توضیح خواهم داد.
پی نوشت:
البته قبل از دانلود و نصب این ابزارها، به این موضوع توجه داشته باشید که برای استفاده مناسب از این ابزارها باید رایانه ای با حداقل 16 گیگ رم و CPU نسل 5 به بالا داشته باشید. اگر سیستم شما قدیمی است یا مشخصات سیستم شما پایین تر از موارد ذکر شده است در اجرای مدل های مناسب دچار مشکل خواهید شد. دلیل این موضوع رو هم بعدا عرض خواهم کرد.
پایتون برای مالی
🆔 t.me/python4finance
🆔 ble.ir/python4finance
❤6