نصب یک هوش مصنوعی (LLM) روی سیستم خودمان. بخش اول
خیلی از اساتید، دانشجویان، پژوهشگران و شرکتها برای کارهای خود نیازمند استفاده از هوش مصنوعی هستند. البته هوش مصنوعی دامنه بسیار زیادی از ابزارها رو شامل می شه که در اینجا با اغماض منضورمان همین مدلهای زبانی بزرگ یا LLM ها هستند. قبل از اینکه بریم وارد نصب بشیم سه تا سوال رو بررسی کنیم:
1️⃣ چرا اصلا یک مدل هوش مصنوعی را باید به صورت آفلاین نصب کنیم؟- بی نیازی از اینترنت برای استفاده از مدل ها. البته ابزارهای فارسی هستند که برای کسانی که امکان نصب آفلاین رو ندارند از اونها می شه استفاده کرد. ( در این پست معرفی کردم )- توسعه مدل برای اهداف تخصصی. بعضی وقت ها می خواهیم مدل را بسته به نیاز خود آموزش دهیم یا از RAG برای افزایش دانش مدل استفاده کنیم- محرمانگی، مثلا یک شرکت نمی خواهد اطلاعات تجاری خود را روی اینترنت منشتر کند یا محرمانگی در سوالات و ...- همراه داشتن همیشگی پرس و جوها و نتایج
2️⃣ آیا کیفیت مدلهای آفلاین مانند سیستم های آنلاین (علی الخصوص سیستم های خارجی مثل chatgpt و ...) است؟طبیعی است که مدلهای خارجی چون به روزتر هستند و همچنین حجم بالاتری داده در مدل ذخیره شده و از طرفی امکانات پردازشی بالاتری دارند کیفیت بهتری دارند. برای مثال مدل GPT5.4 که در اوایل سال 2026 معرفی شد، پیش بینی می شود حدود 4.0 تریلیون توکن و حجمی حدود 8 ترابایت داشته باشد. معمولا اجرای این مدلها روی چندین دیتاسنتر بزرگ انجام می شود.
3️⃣ آیا ابزارهای داخلی، به کیفیت ابزارهای خارجی هستند؟ تفاوت آنها با ابزارهای خارجی چیست؟ابزارهای داخلی هم دقیقا از روشی مشابه روشی که در ادامه عرض خواهم برای نصب یک مدل آفلاین استفاده می کنند. البته برخی ابزارهای فارسی از سایت های معروف خارجی API گرفته اند که آنها هم مشابه ابزارهای خارجی عمل می کنند اما خب در شرایط عدم دسترسی به اینترنت آنها هم از کار خواهند افتاد.
ادامه دارد ...
پایتون برای مالی
🆔 t.me/python4finance
🆔 ble.ir/python4finance
خیلی از اساتید، دانشجویان، پژوهشگران و شرکتها برای کارهای خود نیازمند استفاده از هوش مصنوعی هستند. البته هوش مصنوعی دامنه بسیار زیادی از ابزارها رو شامل می شه که در اینجا با اغماض منضورمان همین مدلهای زبانی بزرگ یا LLM ها هستند. قبل از اینکه بریم وارد نصب بشیم سه تا سوال رو بررسی کنیم:
1️⃣ چرا اصلا یک مدل هوش مصنوعی را باید به صورت آفلاین نصب کنیم؟- بی نیازی از اینترنت برای استفاده از مدل ها. البته ابزارهای فارسی هستند که برای کسانی که امکان نصب آفلاین رو ندارند از اونها می شه استفاده کرد. ( در این پست معرفی کردم )- توسعه مدل برای اهداف تخصصی. بعضی وقت ها می خواهیم مدل را بسته به نیاز خود آموزش دهیم یا از RAG برای افزایش دانش مدل استفاده کنیم- محرمانگی، مثلا یک شرکت نمی خواهد اطلاعات تجاری خود را روی اینترنت منشتر کند یا محرمانگی در سوالات و ...- همراه داشتن همیشگی پرس و جوها و نتایج
2️⃣ آیا کیفیت مدلهای آفلاین مانند سیستم های آنلاین (علی الخصوص سیستم های خارجی مثل chatgpt و ...) است؟طبیعی است که مدلهای خارجی چون به روزتر هستند و همچنین حجم بالاتری داده در مدل ذخیره شده و از طرفی امکانات پردازشی بالاتری دارند کیفیت بهتری دارند. برای مثال مدل GPT5.4 که در اوایل سال 2026 معرفی شد، پیش بینی می شود حدود 4.0 تریلیون توکن و حجمی حدود 8 ترابایت داشته باشد. معمولا اجرای این مدلها روی چندین دیتاسنتر بزرگ انجام می شود.
3️⃣ آیا ابزارهای داخلی، به کیفیت ابزارهای خارجی هستند؟ تفاوت آنها با ابزارهای خارجی چیست؟ابزارهای داخلی هم دقیقا از روشی مشابه روشی که در ادامه عرض خواهم برای نصب یک مدل آفلاین استفاده می کنند. البته برخی ابزارهای فارسی از سایت های معروف خارجی API گرفته اند که آنها هم مشابه ابزارهای خارجی عمل می کنند اما خب در شرایط عدم دسترسی به اینترنت آنها هم از کار خواهند افتاد.
ادامه دارد ...
پایتون برای مالی
🆔 t.me/python4finance
🆔 ble.ir/python4finance
❤4
نصب یک هوش مصنوعی (LLM) روی سیستم خودمان. بخش دوم
برای اجرای یک مدل هوش مصنوعی (LLM) روی رایانه شخصی باید دو تا کار انجام بدهیم. اول اینکه یکی از پلت فرم های اجرای لوکال مدل های هوش مصنوعی رو روی سیستم خودمون نصب کنیم. ابزارهای متنوعی برای اینکار وجود داره که به برخی از اونها اشاره می کنم.
1- Ollama : محیط بسیار ساده مانند chatgpt و مناسب برای کاربران جدید، توانایی های بسیار گسترده برای توسعه دهندگان از طریق خط فرمان
2- LM Studio : مناسب برای کاربران جدید و توسعه دهندگانی که دنبال یک ابزار آسان می گردند.
3- GPT4ALL : مناسب برای کاربرانی که دنبال امنیت بالا هستند.
4- llamafile : اجرای مدل با یک کلیک. مربوط به بنیاد موزیلا
5- Jan: یک ابزار برای ترکیب چند مدل
6- pinokio : ابزاری بسیار ساده برای استفاده از مدلهای هوش مصنوعی
7- Msty Studio: بسیار ساده، قابلیت استفاده از مدلهای ollama . توانایی استفاده بسیار ساده ازفایل ها برای آموزش مدل
اگر بار اولی است که می خواهید از این مدلها به صورت آفلاین استفاده کنید توصیه می کنم از Ollama استفاده کنید. هم ساده است و هم مدلهای آن به راحتی در دسترس است.
می توانید از سایت های داخلی نسخه مورد نظر خود را انتخاب کنید.
همچنین می توانید از این لینک هم Ollama را دانلود کنید.
در پست های آتی در خصوص انتخاب مدل توضیح خواهم داد.
پی نوشت:
البته قبل از دانلود و نصب این ابزارها، به این موضوع توجه داشته باشید که برای استفاده مناسب از این ابزارها باید رایانه ای با حداقل 16 گیگ رم و CPU نسل 5 به بالا داشته باشید. اگر سیستم شما قدیمی است یا مشخصات سیستم شما پایین تر از موارد ذکر شده است در اجرای مدل های مناسب دچار مشکل خواهید شد. دلیل این موضوع رو هم بعدا عرض خواهم کرد.
پایتون برای مالی
🆔 t.me/python4finance
🆔 ble.ir/python4finance
برای اجرای یک مدل هوش مصنوعی (LLM) روی رایانه شخصی باید دو تا کار انجام بدهیم. اول اینکه یکی از پلت فرم های اجرای لوکال مدل های هوش مصنوعی رو روی سیستم خودمون نصب کنیم. ابزارهای متنوعی برای اینکار وجود داره که به برخی از اونها اشاره می کنم.
1- Ollama : محیط بسیار ساده مانند chatgpt و مناسب برای کاربران جدید، توانایی های بسیار گسترده برای توسعه دهندگان از طریق خط فرمان
2- LM Studio : مناسب برای کاربران جدید و توسعه دهندگانی که دنبال یک ابزار آسان می گردند.
3- GPT4ALL : مناسب برای کاربرانی که دنبال امنیت بالا هستند.
4- llamafile : اجرای مدل با یک کلیک. مربوط به بنیاد موزیلا
5- Jan: یک ابزار برای ترکیب چند مدل
6- pinokio : ابزاری بسیار ساده برای استفاده از مدلهای هوش مصنوعی
7- Msty Studio: بسیار ساده، قابلیت استفاده از مدلهای ollama . توانایی استفاده بسیار ساده ازفایل ها برای آموزش مدل
اگر بار اولی است که می خواهید از این مدلها به صورت آفلاین استفاده کنید توصیه می کنم از Ollama استفاده کنید. هم ساده است و هم مدلهای آن به راحتی در دسترس است.
می توانید از سایت های داخلی نسخه مورد نظر خود را انتخاب کنید.
همچنین می توانید از این لینک هم Ollama را دانلود کنید.
در پست های آتی در خصوص انتخاب مدل توضیح خواهم داد.
پی نوشت:
البته قبل از دانلود و نصب این ابزارها، به این موضوع توجه داشته باشید که برای استفاده مناسب از این ابزارها باید رایانه ای با حداقل 16 گیگ رم و CPU نسل 5 به بالا داشته باشید. اگر سیستم شما قدیمی است یا مشخصات سیستم شما پایین تر از موارد ذکر شده است در اجرای مدل های مناسب دچار مشکل خواهید شد. دلیل این موضوع رو هم بعدا عرض خواهم کرد.
پایتون برای مالی
🆔 t.me/python4finance
🆔 ble.ir/python4finance
❤6