این مقاله یه نکته مهم درباره کار با AI و مخصوصاً AI Coding میگه: خیلی به «کانتکست بزرگ» مدلها اعتماد نکنین. اینکه یه مدل میگه ۲۰۰ هزار، یک میلیون یا حتی دو میلیون توکن کانتکست داره، الزاماً یعنی همه اون اطلاعات رو با کیفیت خوب نمیفهمه و نگه نمیداره. نویسنده میگه کانتکست مدلها یه فضای کاملاً هوشمند و یکدست نیست؛ انگار یه بخشی ازش «منطقه باهوش»ه که مدل هنوز دقیق و تیز کار میکنه، ولی وقتی چت خیلی طولانی میشه و فایلها، لاگها، تستها و توضیحات زیاد واردش میکنی، کمکم وارد «منطقه کندتر و گیجتر» میشه.
این دقیقاً برای برنامهنویسها مهمه؛ چون وقتی با Coding Agent کار میکنی، خیلی راحت وسوسه میشی کل ریپو، چندتا فایل، لاگ خطا، خروجی تست و کلی توضیح رو بریزی توی یه سشن و انتظار داشته باشی مدل همهچیز رو مثل اول بفهمه. اما واقعیت اینه که مدل ممکنه وسط کار جزئیات مهم رو فراموش کنه، تصمیمهای قبلی یادش نمونه یا روی بخشهای کماهمیت زیادی گیر بده. پیشنهاد مقاله اینه که با کانتکست مثل بودجه رفتار کنیم: سشنها رو بیش از حد طولانی نکنیم، خروجیهای مهم رو خودمون تبدیل کنیم به یه سند کوچیک، اسپک، پلن یا خلاصه دقیق و برای ادامه کار، یه سشن تازه رو با همون اطلاعات تمیز و ضروری شروع کنیم. خلاصه اینکه بهجای اینکه همهچیز رو داخل یه چت بیپایان نگه داریم، بهتره کار رو مرحلهبهمرحله و با مستندات کوچیک و قابلاتکا جلو ببریم.
https://garrit.xyz/posts/2026-05-06-dont-trust-large-context-windows
@codehalics | کدهالیک
این دقیقاً برای برنامهنویسها مهمه؛ چون وقتی با Coding Agent کار میکنی، خیلی راحت وسوسه میشی کل ریپو، چندتا فایل، لاگ خطا، خروجی تست و کلی توضیح رو بریزی توی یه سشن و انتظار داشته باشی مدل همهچیز رو مثل اول بفهمه. اما واقعیت اینه که مدل ممکنه وسط کار جزئیات مهم رو فراموش کنه، تصمیمهای قبلی یادش نمونه یا روی بخشهای کماهمیت زیادی گیر بده. پیشنهاد مقاله اینه که با کانتکست مثل بودجه رفتار کنیم: سشنها رو بیش از حد طولانی نکنیم، خروجیهای مهم رو خودمون تبدیل کنیم به یه سند کوچیک، اسپک، پلن یا خلاصه دقیق و برای ادامه کار، یه سشن تازه رو با همون اطلاعات تمیز و ضروری شروع کنیم. خلاصه اینکه بهجای اینکه همهچیز رو داخل یه چت بیپایان نگه داریم، بهتره کار رو مرحلهبهمرحله و با مستندات کوچیک و قابلاتکا جلو ببریم.
https://garrit.xyz/posts/2026-05-06-dont-trust-large-context-windows
@codehalics | کدهالیک
garrit.xyz
Don't trust large context windows | Garrit's Notes
Generalist software developer writing about scalable infrastructure, fullstack development and DevOps practices.
کدهالیک | codehalic
این مقاله یه نکته مهم درباره کار با AI و مخصوصاً AI Coding میگه: خیلی به «کانتکست بزرگ» مدلها اعتماد نکنین. اینکه یه مدل میگه ۲۰۰ هزار، یک میلیون یا حتی دو میلیون توکن کانتکست داره، الزاماً یعنی همه اون اطلاعات رو با کیفیت خوب نمیفهمه و نگه نمیداره. نویسنده…
دیروز داشتم یه مقاله خیلی جالب روی arXiv برای دانشگاه کرونل رو میخوندم که استاد شریف زارچی معرفیش کرده بود توی ویدیو اخیرش درباره اینکه وقتی با مدلهای زبانی کار میکنیم، «همه اطلاعات رو اول کار بدیم» بهتره یا «کمکم و مرحلهبهمرحله توضیح بدیم». نتیجهاش برای من خیلی مهم بود، چون دقیقاً به تجربه روزمره ما با ChatGPT و ابزارهای AI Coding ربط داره.
مقاله میگه مدلها وقتی کل مسئله، محدودیتها، دیتا و هدف رو همون اول کامل و مرتب میگیرن، معمولاً خیلی بهتر عمل میکنن. ولی وقتی همون اطلاعات رو تکهتکه و وسط مکالمه بهشون میدیم، احتمال اینکه گیج بشن، زود فرض بسازن یا روی مسیر اشتباه قفل کنن بیشتر میشه. یعنی همیشه اینطور نیست که «آرومآروم توضیح دادن» بهترین روش باشه. برای کارهای جدی مثل کدنویسی، تحلیل محصول، نوشتن تسک یا دیباگ، بهتره اول یه تصویر کامل از مسئله بدیم، بعد بریم سراغ اصلاح و رفتوبرگشت.
https://arxiv.org/abs/2505.06120
@codhalics | کدهالیک
مقاله میگه مدلها وقتی کل مسئله، محدودیتها، دیتا و هدف رو همون اول کامل و مرتب میگیرن، معمولاً خیلی بهتر عمل میکنن. ولی وقتی همون اطلاعات رو تکهتکه و وسط مکالمه بهشون میدیم، احتمال اینکه گیج بشن، زود فرض بسازن یا روی مسیر اشتباه قفل کنن بیشتر میشه. یعنی همیشه اینطور نیست که «آرومآروم توضیح دادن» بهترین روش باشه. برای کارهای جدی مثل کدنویسی، تحلیل محصول، نوشتن تسک یا دیباگ، بهتره اول یه تصویر کامل از مسئله بدیم، بعد بریم سراغ اصلاح و رفتوبرگشت.
https://arxiv.org/abs/2505.06120
@codhalics | کدهالیک
arXiv.org
LLMs Get Lost In Multi-Turn Conversation
Large Language Models (LLMs) are conversational interfaces. As such, LLMs have the potential to assist their users not only when they can fully specify the task at hand, but also to help them...
👍3
تلگرام قابلیت های جدیدی به بخش فرمتینگ اضافه کرده همون بخشی که میتونی متنت بولد کنی یا مارک داون بنویسی
از الان میتونی فرمول ریاضی هم توش بنویسی و یا استراکچر بدی به پیامات یا پیام طولانی مینویسی دکمه مشاهده بیشتر برات فعال کنه تا جایی که میخوای و کلی چیز جالب دیگ
از این بات میتونین قابلیت های جدید فرمتینگ تلگرام رو ببینید !
@richtextdemobot
@codehalics | کدهالیک
از الان میتونی فرمول ریاضی هم توش بنویسی و یا استراکچر بدی به پیامات یا پیام طولانی مینویسی دکمه مشاهده بیشتر برات فعال کنه تا جایی که میخوای و کلی چیز جالب دیگ
از این بات میتونین قابلیت های جدید فرمتینگ تلگرام رو ببینید !
@richtextdemobot
@codehalics | کدهالیک
❤8