معرفی ابزار Msty — تجربه‌ای متفاوت برای کار با LLMهای لوکال .بخش اول

معرفی ابزار Msty — تجربه‌ای متفاوت برای کار با LLMهای لوکال

اگر با ابزارهایی مثل Ollama کار کرده باشید، احتمالاً می‌دانید که اجرای مدل‌های زبانی به‌صورت لوکال دیگر مثل گذشته پیچیده نیست. اینکه با وجود اینهمه مدلهای آنلاین چرا نیاز به استفاده آفلاین از مدلها داریم ممکن است به دلایل زیر باشد:
1- عدم دسترسی دائمی به اینترنت
2- حجم بالای استفاده از مدل ها (مدلهای رایگان معمولا تعداد کمی درخواست را در روز پردازش می کنند)
3- امنیت اطلاعات یا داده های شخصی، خیلی از اوقات امنیت مطالبی که می خواهیم بررسی کنیم بسیار بالاست و نمی خواهم در اینترنت پخش شود.
4- افزایش دانش مدل در یک حوزه خاص (با Fine Tunning یا RAG و...)
5- توسعه پلت فرم شخصی

ابزارهای مختلفی برای استفاده آفلاین مدلهای LLM وجود دارد که برخی از معروف ترین آنها عبارتند از :
Ollama , LmStudio , Pinokio , MSTY , ...

ادامه در پست بعد ...

#AI
#LLM
#LocalAI
#Python

پایتون برای مالی

🆔 t.me/python4finance
🆔 ble.ir/python4finance

معرفی ابزار Msty — تجربه‌ای متفاوت برای کار با LLMهای لوکال . بخش دوم

... ادامه از پست قبل

در این پست به ابزاری به نام Msty می پردازیم. Msty تلاش کرده یک لایه بالاتر از صرفاً اجرای مدل‌ها ایجاد کند و محیطی یکپارچه برای کار روزمره با AI بسازد.
شعار Msty هم بسیار جالب است: Simple.Powerful.Priveate

به‌طور خلاصه، اگر Ollama را موتور اجرای مدل‌ها در نظر بگیریم، Msty بیشتر شبیه یک استودیو یا رابط کاربری کامل برای مدیریت پروژه‌های مبتنی بر هوش مصنوعی است.

برخی امکانات قابل توجه:
• اجرای مدل‌های مختلف به‌صورت محلی با تمرکز روی Privacy
• رابط کاربری گرافیکی برای مدیریت گفتگوها
• امکان اتصال به Ollama و سایر سرویس‌های مدل
• ساخت Knowledge Base و کار با فایل‌ها (RAG). خیلی خلاصه بخواهم عرض کنم به راحتی با این ابزار می توانید فایل های خود را به مدل بدهید و بعد سوالات خود را از مدل بر اساس اطلاعات فایل ها دریافت کنید 😳
• مقایسه خروجی چند مدل در یک محیط

چرا ممکن است برای فعالان حوزه دیتا و برنامه‌نویسی جالب باشد؟
چون به‌جای نوشتن اسکریپت‌های متعدد یا کار مستقیم با API، می‌توان سریع‌تر ایده‌ها را تست کرد و workflowهای تحلیلی ساخت.

اگر به سمت استفاده از مدل‌های متن‌باز و اجرای لوکال حرکت می‌کنید، بد نیست Msty را هم کنار ابزارهای فعلی خود بررسی کنید.

اگر به این ابزار علاقه مند بودید سری به سایت msty.ai بزنید و نسخه مورد نظر خود را دانلود کنید.
در پست های آتی در خصوص همه این موارد و البته شیوه به کارگیری آنها در فضای اقتصاد و مالی صحبت خواهم کرد ان شاء الله .


#AI
#LLM
#LocalAI
#Python

پایتون برای مالی

🆔 t.me/python4finance
🆔 ble.ir/python4finance