PyTorch Howsam
3.57K subscribers
422 photos
51 videos
16 files
595 links
از هوش مصنوعی میگیم...

ارتباط با ادمین
@howsam_support
Download Telegram
An illustrated guide to AI Agents.pdf
31.9 MB
کتاب راهنمای AI Agents و MCP

هر دو کتاب رایگان هستن.

هنوز دقیق نخوندم، اما یک نگاه مختصر بهشون انداختم و دو سه صفحه اول MCP رو خوندم. متن بسیار کم و شکل‌های بسیار زیاد داره. کتاب راهنماست. به نظرم کتاب‌های ساده و مفیدی به نظر میان.

آپدیت: دیشب mcp رو خوندم. خوبه. ساده و فانتزی گفته. یک عالمه پروژه هم گذاشته.
Google Flow Music's New Model Lyria 3.5
Lyria 3.5 is here

مدل لیریا 3.5 گوگل
که برای ساخت موزیک هست، هم آمد ...

https://www.flowmusic.app/
کلیک: ملاقات با شایان اویس‌قرن
دانشمند جوان ایرانی که جایزه جهانی آباکوس رو بُرده.

این مدال هر چهار سال یک‌بار به دانشمندان زیر ۴۰ سال در حوزه علوم رایانه اعطا می‌شود و اویس قرن به‌پاس دستاوردهایش در نظریه الگوریتم‌ها موفق به دریافت آن شد.
او که در حل مساله «فروشنده دوره‌گرد» و نظریه «نمونه‌گیری تصادفی» دستاوردهای بی‌نظیری دارد، توانست رکوردی ۴۰ ساله را بشکند.

https://youtu.be/O_T_P6o6sRc
حتماً شنیدین که می‌گن «خودِ مدل زبانی فقط یه هسته پردازشیه و اصل کار، کدهاییه که دورش می‌زنیم».

می‌خوام درباره ۴ لایه مهندسی که دور مدل کشیده می‌شه توضیح بدم. این 4 لایه موارد زیر هستن:
- Prompt Engineering
- Context Engineering
- Harness Engineering
- Loop Engineering

هرقدر از لایه اول به سمت لایه چهارم می‌ریم، سیستم خودکارتر و بزرگ‌تر می‌شه.

در پست‌های جداگانه درباره هریک از این لایه‌ها به زبانی ساده همراه با مثال توضیح میدم.

منبع تصویر
۱. مهندسی پرامپت (Prompt Engineering) — پیام به مدل

این ساده‌ترین لایه‌ست. یعنی اینکه چطور متنِ درخواستمون رو تنظیم کنیم تا مدل بهترین جواب رو بده؛ مثلاً بهش نقش بدیم، فرمت خروجی رو مشخص کنیم یا چند تا مثال بذاریم.

مثال: به جای اینکه فقط بگی «یه دستور پخت بده»، می‌گی: «تو یک آشپز حرفه‌ای هستی، دستور پخت قرمه‌سبزی رو دقیقاً در قالب یک لیست ۳ مرحله‌ای برام بنویس.»
۲. مهندسی کانتکست (Context Engineering) — مدیریت حافظه

حافظه و حافظه‌ کوتاه‌مدت مدل (Context Window) محدوده. اگه همه چت‌های قبلی یا یه فایل ۱۰۰ صفحه‌ای رو یکجا بریزیم جلوش، گیج می‌شه یا بی‌دقت جواب می‌ده. کار این لایه اینه که اطلاعات اضافی رو حذف کنه و فقط چیزهای واجب رو بده به مدل.

مثال: وقتی از یک PDF طولانی درباره سوابق کاریت سوال می‌پرسی، سیستم کل فایل رو به مدل نمی‌ده؛ اول می‌گرده و فقط اون ۲ صفحه‌ای که مربوط به «سوابق کاری» هست رو جدا می‌کنه و می‌فرسته برای مدل.
۳. مهندسی هارنس (Harness Engineering) — کدهای دورِ مدل

این لایه شامل مواردیه که دور مدل قرار می‌گیره تا بتونه ابزارها رو به کار بگیره، خطاهاش رو تست کنه و خروجی رو بسنجه. پرامپت فقط یک حرف زدنه، اما هارنس اون حرف رو توی دنیای واقعی اجرا و اعتبارسنجی می‌کنه.

مثال: از ایجنت می‌خوای یک کد پایتون بنویسه. مدل کد رو تولید می‌کنه، اما لایه هارنس خودش کد رو اجرا می‌کنه؛ اگه کد خطا داد، متن خطا رو برمی‌گردونه به مدل تا اصلاحش کنه و تا وقتی کد کاملاً سالم اجرا نشه، جواب رو به تو تحویل نمیده.
۴. مهندسی لوپ (Loop Engineering) — سیستم خودمختار

توی حالت عادی ما باید مدام پرامپت بزنیم و منتظر جواب بمونیم. اما توی این لایه، ایجنت خودش روی یک حلقه افتاده و انقدر کار رو تکرار می‌کنه تا به هدف برسه. چالش اصلی این لایه اینه که شرط توقف واقعی براش بذاریم تا وسط کار گیر نکنه یا اشتباهی فکر نکنه کارش تموم شده.

مثال: بهش بگی «کل باگ‌های این پروژه نرم‌افزاری رو برطرف کن». ایجنت خودش کد می‌نویسه، تست می‌کنه، باگ جدید پیدا می‌کنه و دوباره اصلاح می‌کنه. این حلقه زمانی متوقف می‌شه که تمام تست‌های نرم‌افزار واقعا سبز بشن، نه اینکه صرفا خود ایجنت ادعا کنه «من کارم تموم شد!».
تا الان به این فکر کردی که یک ایجنت کدنویس از صفر چطوری ساخته میشه؟ ایجنتی که مثل کلاد کد یا کدکس برات کد بزنه، اجرا بگیره، به فایل‌های سیستمت دسترسی داشته باشه، لوپ، تولز، هارنس، صف‌بندی و ...

وبسایت decodingai درحال آماده‌سازی چنین کورسی هست. یک ایجنت کدنویس آماده کردن که همین الان میشه ازش استفاده کرد. کورسشون متنی و البته سنگین هست! تا الان دو جلسه ازش منتشر شده و من جلسه اولش رو به زور و زحمت فراوان (به خاطر وقت کم) مطالعه کردم. کورسشون هم با جملات جالب زیر شروع میشه:
In LangChain’s Terminal-Bench experiment, changing only the harness (with the same model) moved a coding agent from ~30th place into the top 5: the harness, not the model, is what makes a coding agent good.


لینک دوره

برنامه‌م این هست که بیشتر روی این موضوع وقت بذارم...
Forwarded from Deep Mind
معرفی مدل های Strawberry 🍓

اکثر مدل‌های بزرگ روی دیتای انگلیسی‌محور اموزش دیدن. وقتی ازشون فارسی می‌پرسی، خیلی وقت‌ها مدل عملا داره به انگلیسی استدلال می‌کنه و فقط خروجی نهایی رو فارسی ترجمه می‌کنه. این یعنی:

۱. ظرافت‌های زبان فارسی (اصطلاحات، دستور زبان، ساختارهای شعری و ادبی) خوب درک نمی‌شن.

۲. توی وظایفی که نیاز به استدلال چندمرحله‌ای دارن (مثل حل مسئله یا CoT فارسی)، مدل معمولا با یه لهجه‌ی ترجمه‌ای جواب می‌ده، نه فارسیِ طبیعی.

۳. برای خیلی از حوزه‌های تخصصی فارسی (شعر کلاسیک، ادبیات، ریاضیات به فارسی) دیتای کافی برای یادگیری درست وجود نداره.


برای همین تصمیم گرفتم مدلی بسازم که زنجیره استدلال فارسی تولید کنه، اسم این سری از مدل ها Strawberry هست .
این مدل ها بر پایه معماری gpt-oss-20b هستن و روی دیتاست های استدلالی فارسی آموزش دیده شدن. دیتاست ها مورد استفاده هم توسط ما ساخته شده.

طی بررسی های که داشتیم متوجه شدیم که Strawberry عملکرد بسیار خوبی توی تولید زنجیره استدلالی فارسی داره و تونستیم استفاده های خوبی از این قابلیت داشته باشیم. به عنوان مثال،به یک دیتاست تولید شعر که ساخت خودمون بود با strawberry-1 زنجیره استدلالی با کیفیت اضافه کردیم.

و خبر خوب: از ۳ روز پیش توی هاگینگ فیس منتشرشون کردیم و با استقبال فوق العاده ای مواجه شدیم.

مدل strawberry توسط یک تیم خارجی به دو فرمت کوانتایز شد و نسخه های GGUF اونها در دسترس قرار گرفته. مدل های این سری همراه نسخه های کوانتایز شده، بیشتر از ۴۳۰۰ بار دانلود شدن.

اطلاعات بیشتر توی توضیحات هر مدل و دیتاست توی هاگینگ فیس وجود داره.

لینک کالکشن مدل ها.
دوست خوبم، آقای امیررضا بابااحمدی، درحال ضبط یک دوره ویدئویی رایگان برای Agentic AI هست.

جلسه اولش منتشر شده. در این جلسه، خیلی از مفاهیمی که این سال‌ها حول LLM-ها شکل گرفته، توضیح داده شده.

پلی‌لیست دوره:
https://www.youtube.com/playlist?list=PLAIe3fdK-85o

حمایت از افرادی که به تولید محتوا علاقه‌مند هستن، قطعا تاثیر مستقیمی بر ادامه فعالیتشون داره. افرادی مثل آقای بابااحمدی شغلشون تولید محتوا نیست. اما، طبیعتا وقتی بازخورد خوبی از تولید محتوا بگیرن، حتما سعی می‌کنن به‌صورت مستمر به فعالیتشون ادامه بدن. حمایت‌ها میتونه اشکال مختلفی داشته باشه؛ دانلود نکردن ویدئوها، مشاهده آنلاین و قانونی، تا آخر دیدن ویدئوها، نشر ویدئوهاشون در گروه‌های مرتبط و دونیت کردن نمونه‌هایی از حمایت هستن. قابل توجه دوستانی که میگن چرا محتوای فارسی کم هست.
بری ژانگ از تیم Applied AI شرکت Anthropic، در سخنرانی «How We Build Effective Agents» (کنفرانس AI Engineer، مارس ۲۰۲۵)، سیر تحول این سه سال را در سه طبقه خلاصه می‌کند:

1️⃣ تسک (Task): یک فراخوانی مدل، خلاصه کن، دسته‌بندی کن، این فیلدها را استخراج کن، دو سال پیش جادو به نظر می‌رسید؛ امروز حداقل انتظار است. هزینه‌اش قابل پیش‌بینی است و حالت‌های شکستش محدود.

2️⃣ ورک‌فلو (Workflow): چند فراخوانی مدل در یک جریان کنترل از پیش تعریف‌شده. تو گام‌ها را تعیین می‌کنی، مدل آنها را پر می‌کند. اینجا جایی است که در ازای پرداخت هزینه و تاخیر بیشتر، دقت بیشتری می‌گیری.

3️⃣ ایجنت: مدل خودش تصمیم می‌گیرد چه گام‌هایی بردارد و کی تمام کند.

ژانگ روند کلی را این‌طور جمع می‌بندد: هرچه به این سیستم‌ها اختیار بیشتری می‌دهیم، مفیدتر و تواناتر می‌شوند؛ اما همزمان هزینه، تاخیر و پیامد خطا هم بالا می‌رود. او بلافاصله نتیجه‌گیری‌اش را می‌گوید:
Don't build agents for everything.
برای هر کاری ایجنت نساز.
این جمله را از کسی می‌شنویم که کارش ساختن ایجنت برای شرکت‌هاست. ارزش دارد جدی گرفته شود.
دی ان اس برای :
Gemini , Antigravity , ...
DNS :
95.216.204.218
80.253.249.40



NotebookLM
DNS :
111.88.96.50
111.88.96.51
درباره Context در LLM-ها

شرکت Anthropic در مقالهٔ «Building effective agents» استدلال می‌کند که کانتکست را باید منبعی محدود با بازده نزولی دانست. تعبیری که به کار می‌برند «بودجهٔ توجه» (attention budget) است: مدل‌ها هم مثل آدم‌ها ظرفیت محدودی برای تمرکز دارند و هر توکن تازه بخشی از این بودجه را مصرف می‌کند. ریشه‌اش هم معماری است — در ترنسفورمر هر توکن به همهٔ توکن‌های دیگر توجه می‌کند، یعنی برای n توکن، n² رابطه. هرچه کانتکست بلندتر شود، توانایی مدل در پوشش این روابط رقیق‌تر می‌شود.

پدیده‌ای که از این بیرون می‌آید context rot نام دارد: هرچه تعداد توکن‌های داخل پنجره بیشتر می‌شود، توانایی مدل در بازیابی دقیق اطلاعات از همان پنجره کاهش می‌یابد. بعضی مدل‌ها ملایم‌تر افت می‌کنند، اما این ویژگی در همه دیده می‌شود.

پس اگر همه چیز را داخل پنجره بریزی به این امید که «شاید به کار بیاید»، احتمالاً عملکرد را بدتر کرده‌ای، نه بهتر.
اخیرا، آقای Andrew Ng مطلبی مفصل درباره AI Engineering در X منتشر کردن که خلاصه اون رو در زیر آوردم.

تغییر پارادایم توسعه: با ظهور هوش مصنوعی، نحوه ساخت نرم‌افزار تغییر کرده است. به جای تمرکز بر نقش شغلی خاص «AI Engineer»، تمام توسعه‌دهندگان (از Full-stack تا DevOps) باید «مهارت‌های AI Engineering» را یاد بگیرند.

۱. ساخت و توسعه برنامه‌های AI: تفاوت اصلی سیستم‌های AI غیرقابل‌پیش‌بینی بودن خروجی آن‌هاست. مهارت اصلی، ترکیب اجزایی مثل LLMها، RAG و ایجنت‌ها و استفاده از روش‌های آماری، ارزیابی دقیق (Evals) و تحلیل خطا برای کنترل و پیش‌بینی‌پذیرتر کردن سیستم است.

۲. تسلط بر اصول مهندسی نرم‌افزار: بدون درک عمیق مبانی (معماری، امنیت، موازنه بین هزینه، سرعت و مقیاس‌پذیری)، استفاده از ابزارهای هوش مصنوعی به «Vibe Coding» بی‌کیفیت منجر می‌شود. اصول نرم‌افزار به شما زبان دقیق برای هدایت ایجنت‌ها را می‌دهد.

۳. استفاده از ایجنت‌های کدنویسی (Coding Agents): مهارت در مدیریت کانتکست (Context)، تعادل بین برنامه‌ریزی و اجرا، بستن حلقه‌های تست به‌صورت خودکار و ارکستره کردن چند ایجنت، بدون اتلاف وقت و توکن یا آسیب به دیتابیس پروداکشن.

۴. شکل‌دهی به روند ساخت (Shaping the Build): وقتی ایجنت‌ها کدنویسی را انجام می‌دهند، نقش مهندس به سمت درک محصول، نیاز مشتری و کسب‌وکار شیفت می‌کند؛ یعنی تصمیم‌گیری درباره این‌که «چه چیزی باید ساخته شود» (Spec) و پیش‌برد پروژه‌ها از MVP تا نسخه نهایی.
از طرف میلاد:

سلام دوستان امیدوارم حال همتون خوب باشه.
گفتم تجربه‌ای که این مدت برای کشیدن فیگورها و تصاویر مقاله داشتم رو باهاتون به اشتراک بذارم.

حدود دو سه هفته‌ای هست که درگیر طراحی شکل‌های مقاله هستم طبق پرس ‌و جوها و سوالاتی که کرده بودم برای کشیدن شکل‌های مقالات به دو ابزار رسیدم:
یکی PowerPoint و یکی draw.io من به دلایلی تصمیم گرفتم از draw.io استفاده کنم.

اوایل سعی می‌کردم با توجه به ایده‌هایی که خودم داشتم و یا از chatbotها می‌گرفتم شکل‌ها رو به صورت دستی و از صفر توی draw.io بکشم که حقیقتاً خیلی وقت‌گیر بود. بعد از مدتی با Google Studio آشنا شدم و استفاده از اون سرعت کارم رو خیلی بیشتر کردمخصوصاً اینکه می‌تونستم در نهایت خروجی مناسب برای draw.io هم بگیرم.

روشی که خودم استفاده کردم این بود که اول ایده و شکلی که برای مقاله در ذهنم داشتم رو برای ChatGPT توضیح می‌دادم و با چند بار اصلاح پرامپت سعی می‌کردم تصویر تولیدشده رو به چیزی که مدنظرم بود نزدیک کنم

بعد، تصویر تولیدشده توسط ChatGPT رو همراه با یک پرامپت مناسب به Google Studio می‌دادم و بعد از اینکه به نتیجه مدنظرم می‌رسیدم خروجی draw.io رو ازش می‌گرفتم در نهایت فایل رو داخل draw.io باز می‌کردم و هر بخشی که نیاز به اصلاح داشت رو به صورت دستی تغییر می‌دادم.

در کل این روش باعث شد هم بتونم فیگورها و تصاویر خوبی برای مقاله طراحی کنم و هم زمان خیلی کمتری صرفشون کنم.

امیدوارم این تجربه براتون مفید باشه 🌱
Hetzner now gives you FREE access to Qwen 3.8 27B
This model is currently on same level as GPT-5.6 Luna

In my testing it performs even better than GPT-5.6 Luna.

Just go to: experiments.hetzner.com/docs/inference
Grab a API key.
use the OpenAI-compatible REST API just change API key and base URL switch the model and you are good to go.

@Hetzner_Online Thanks!

https://x.com/i/status/2089729450032124038
از یادگیری ماشین سنتی تا مهندسی هوش مصنوعی

مسیر توسعه هوش مصنوعی:

- یادگیری ماشین سنتی (ML): تمرکز اصلی روی ریاضی، آمار و مهندسی دستی ویژگی‌ها (Feature Engineering) بود. خودمون مستقیم دستی ویژگی می‌ساختیم و مدل رو جمع می‌کردیم.

- یادگیری عمیق (DL): استخراج ویژگی خودکار شد (Feature Learning). تمرکز ما رفت سمت طراحی معماری شبکه، تنظیم‌هایپرپارامترها و آموزش/فاین‌تیون اختصاصی روی داده‌های دامنه.

- مهندسی هوش مصنوعی و LLM-ها: تمرکز از آموزش مدل‌های پایه (Base Models) فاصله گرفته و رفته سمت معماری سیستم، ارزیابی (Evaluation)، یکپارچه‌سازی و Fine-Tuning تخصصی.
کارآموزی همراه اول
پرداخت حقوق + بیمه در طول دوره کارآموزی

ثبت‌نام، تا ۱۴ شهریور

بررسی رزومه
۱۵ شهریور تا ۲۱ شهریور

https://hamrah.academy/internship/