‏🤖 آموزش LLM از صفر با PyTorch

‏🚀 این مخزن PyTorch به نام "Train LLM From Scratch" یک راهنمای عملی برای ساخت، آموزش و استفاده از مدل زبان ترانسفورمر (Transformer Language Model) از پایه است.
‏💡 هدف آن تبدیل درک نظری از معماری ترانسفورمر به یک پایپ‌لاین آموزشی عملی و قابل اجرا، شامل کد مدل، اسکریپت‌های داده، پیکربندی و تولید متن است.

‏

‏⚙️ ویژگی‌های کلیدی:
‏🔹 اجزای ترانسفورمر: پیاده‌سازی ماژول‌های PyTorch جداگانه برای MLP (شبکه چندلایه پرسپترون)، Attention و بلاک‌های ترانسفورمر از صفر.
‏🔸 پایپ‌لاین داده: اسکریپت‌هایی برای دانلود و پیش‌پردازش فایل‌های The Pile (مجموعه داده بزرگ متنی) به فرمت HDF5 (فرمت فایل برای ذخیره‌سازی داده‌های عددی بزرگ) توکن‌گذاری شده.

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#آموزش #PyTorch

‏🤖 نقشه جامع مهندسی هوش مصنوعی

‏🚀 مهندسی هوش مصنوعی شامل چهار رکن اساسی است: پایه‌های برنامه‌نویسی (Python، APIها، JSON، Git، Linux و مفاهیم ابری)؛ مفاهیم LLM (توکن‌ها، پنجره‌های زمینه، Embeddings، Attention، Fine‑Tuning و Inference)؛ مهندسی پرامپت (Zero‑Shot، Few‑Shot، Chain of Thought، خروجی‌های ساختاریافته، System Prompts و Prompt Chaining)؛ و RAG (تقسیم‌بندی متن، Embeddings، پایگاه‌های وکتور، بازیابی، Re‑ranking و استناد).

‏⚙️ علاوه بر این، ساختارهای پیشرفته شامل عامل‌های هوش مصنوعی (فراخوانی ابزار، حافظه، برنامه‌ریزی، سیستم‌های چندعامله، بازنگری و جریان‌های کاری) و ارائه‌دهندگان مدل (OpenAI، Anthropic، Google، Meta، Mistral و DeepSeek) را می‌توان در چارچوب‌های LangChain، LlamaIndex، CrewAI و دیگر ابزارهای متن باز به کار گرفت.

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#آموزش #AIEngineering

‏🚀 راهنمای جامع مدل‌های زبانی بزرگ (LLM)
‏این راهنما مفاهیم اصلی، معماری‌ها و کاربردهای عملی مدل‌های زبانی بزرگ (LLM) را پوشش می‌دهد.
‏💡 مفاهیم پایه شامل توکن‌ها (tokenization, BPE)، امبدینگ‌ها (embeddings) و مکانیزم توجه (Attention mechanism, Multi-Head Attention) هستند.
‏🗼 معماری ترنسفورمر (Transformer) و انواع آن مانند BERT (فقط انکودر)، GPT (فقط دیکودر) و T5 (انکودر-دیکودر) بررسی شده‌اند.
‏⚙️ در بخش مدل‌های زبانی بزرگ، تکنیک‌های Prompting (context length, Chain-of-Thought)، پیش‌آموزش (Pre-training, SFT, PEFT/LoRA)، تنظیم بر اساس ترجیحات (Preference tuning, Reward Model, Reinforcement Learning) و بهینه‌سازی‌ها (Optimizations, Mixture of Experts, Distillation, Quantization) توضیح داده شده‌اند.

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#آموزش #RAG

‏🤖 منابع رایگان آموزش هوش مصنوعی از غول‌های فناوری
‏دسترسی رایگان به دوره‌ها و منابع آموزشی هوش مصنوعی از شرکت‌های پیشرو مانند Anthropic، Google، Meta، NVIDIA، Microsoft، OpenAI، IBM، AWS، DeepLearning.AI و Hugging Face فراهم شده است. این منابع طیف وسیعی از موضوعات مرتبط با هوش مصنوعی را پوشش می‌دهند.

‏

‏💡 شرکت Anthropic دوره‌هایی را از طریق skilljar.com ارائه می‌دهد.
‏💡 Google پلتفرم grow.google/ai را برای آموزش هوش مصنوعی معرفی کرده است.
‏💡 Meta منابع خود را در ai.meta.com/resources/ در دسترس قرار داده است.

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#آموزش #OpenAI

‏🤖 معماری واقعی ایجنت‌های هوش مصنوعی فراتر از LLM
‏ایده رایج که ایجنت‌های هوش مصنوعی صرفاً ترکیبی از مدل‌های زبانی بزرگ (LLM) و پرامپت‌ها هستند، اغلب منجر به شکست این ایجنت‌ها در وظایف پیچیده می‌شود. در واقعیت، LLM تنها یک لایه از معماری پیچیده‌تر است.
‏💡 یک ایجنت واقعی فراتر از پاسخگویی ساده به پرسش‌ها عمل می‌کند؛ بلکه قادر به درک زمینه، انتخاب ابزار مناسب، تفویض وظایف به زیرایجنت‌ها، اجرای اقدامات، مشاهده نتایج و بهبود گام‌های بعدی است. این تحول از مدل "پرسش → پاسخ" به "استدلال → عمل → مشاهده → تکرار" نشان‌دهنده آینده هوش مصنوعی است که بر ارکستراسیون (هماهنگ‌سازی) بهتر تاکید دارد.

‏

‏🔹 اجزای کلیدی معماری ایجنت:
‏ - 🧠 Claude: موتور استدلال اصلی.
‏ - 📚 Skills: دانش تخصصی دامنه را به ایجنت می‌آموزد.

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#آموزش #AgentAI

‏🤖 کامپیوترهای شخصی آینده با هوش مصنوعی همکار می‌شوند

‏NVIDIA با معرفی پلتفرم RTX Spark، نسل جدیدی از کامپیوترهای شخصی با تمرکز بر هوش مصنوعی را رونمایی کرده است. این سیستم‌ها قادرند عامل‌های هوش مصنوعی پیشرفته (AI agents) را مستقیماً روی دستگاه اجرا کنند، به جای ارسال پردازش‌ها به فضای ابری. این تحول به کامپیوترهای شخصی امکان می‌دهد تا وظایفی مانند تحقیق، تحلیل، خلق محتوا و اتوماسیون را به صورت محلی و با حفظ حریم خصوصی داده‌ها انجام دهند.

‏💡 مایکروسافت در حال بازطراحی بخش‌هایی از سیستم‌عامل ویندوز برای پشتیبانی از عامل‌های هوش مصنوعی است و نرم‌افزارهای خلاقانه مانند فتوشاپ و پریمیر نیز برای بهره‌مندی از هوش مصنوعی روی دستگاه، در حال به‌روزرسانی هستند.

‏📖 NVIDIA RTX Platform

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

‏🤖 سیستم چندعاملی برای تحقیقات عمیق

‏یک سیستم چندعاملی (multi-agent system) برای خودکارسازی فرآیندهای تحقیقات عمیق و گزارش‌دهی توسعه یافته است. این سیستم قادر به انجام تحقیقات پیچیده و تولید گزارش‌های جامع به صورت خودکار است.

‏

‏🔹 🔗 این سیستم در مخزن deepresearch در گیت‌هاب موجود است.
‏

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#معرفی #AgentAI

‏🚀 انویدیا و مایکروسافت کامپیوترهای شخصی را برای عصر هوش مصنوعی بازتعریف کردند

‏✨ انویدیا و مایکروسافت پلتفرم جدیدی برای کامپیوترهای شخصی و لپ‌تاپ‌ها معرفی کرده‌اند که بر پایه پردازنده‌های RTX Spark Superchip (شامل GPU، CPU و حافظه یکپارچه) بنا شده است. این معماری مشابه تراشه‌های سری M اپل و مبتنی بر Arm است که به بهره‌وری انرژی بالا منجر می‌شود.

‏💡 هدف اصلی این نوآوری، امکان اجرای مدل‌های زبان بزرگ (LLM) با ۱۲۰ میلیارد پارامتر به صورت محلی بر روی دستگاه‌های شخصی است. این امر از طریق فراهم کردن ۱۲۸ گیگابایت حافظه در کامپیوترها و لپ‌تاپ‌های آینده محقق خواهد شد.

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#خبر #Nvidia

‏🚗 مدل هوش مصنوعی جدید نVIDIA برای خودروهای خودران

‏شرکت NVIDIA جدیدترین مدل باز هوش مصنوعی خود را برای خودروهای خودران معرفی کرد: Alpamayo 2 Super. این مدل با 32 میلیارد پارامتر، سه برابر بزرگتر از نسل قبلی خود است و برای مدیریت واقعیت پیچیده رانندگی در دنیای واقعی طراحی شده است.

‏این مدل می‌تواند همه چیز اطراف خودرو را در 360° ردیابی کند، موقعیت‌های پیچیده جاده را در 3D درک نماید، رفتار رانندگان دیگر را پیش‌بینی کند و تصمیمات لحظه‌ای مانند زمان اتصال، عقب‌نشینی یا ترمز بگیرد.

‏یکی از بزرگ‌ترین ارتقاء‌های این مدل، پشت فرمان نیست: این هوش مصنوعی می‌تواند حجم عظیمی از فیلم‌های رانندگی را به‌طور خودکار برچسب‌گذاری کند، فرآیندی که قبلاً ماه‌ها زمان می‌برد را به چیزی که می‌تواند در چند روز انجام شود تبدیل می‌کند.

‏مهم‌تر از همه، مدل می‌تواند دلایل منطقی پشت تصمیماتش را توضیح دهد، مرحله‌ای حیاتی برای ایجاد اعتماد در خودروهای خودران.

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#خبر #Nvidia

‏📚 لیست منابع جامع هوش مصنوعی AI_Books

‏💡 AI_Books یک مخزن GitHub عمومی است که مجموعه‌ای از کتاب‌ها و آموزش‌های حوزه‌های هوش مصنوعی، یادگیری ماشین، یادگیری عمیق و شبکه‌های عصبی را گردآوری کرده است.
‏🎯 این منبع به شما کمک می‌کند تا با سازماندهی مواد آموزشی بر اساس موضوع، مسیر مطالعاتی خود را منظم کنید و از سردرگمی در میان منابع پراکنده جلوگیری نمایید.
‏✨ ویژگی‌های اصلی شامل لینک به کتاب‌های آنلاین (مانند Neural Networks and Deep Learning و Deep Learning انتشارات MIT Press)، بخش مبانی ریاضی (شامل جبر خطی و Artificial Intelligence: A Modern Approach) و مسیرهای تخصصی یادگیری عمیق با تمرکز بر پایتون، R، TensorFlow/Keras و کاربردها می‌شود.


https://github.com/aridiosilva/AI_Books

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#ابزار #GitHub

‏🤖 دسترسی رایگان هفته‌ای DataCamp

‏🚀 از امروز تا ۱۶ خرداد می‌توانید به تمام دوره‌های DataCamp به‌صورت کامل و رایگان دسترسی پیدا کنید و حتی گواهینامه دریافت کنید. این فرصت مناسب برای تقویت مهارت‌های داده‌محور و یادگیری مسیرهای جدید است.

‏📖 DataCamp Free Access Week

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#رویداد #DataScience

‏🤖 اودیسه: پلتفرم متن‌باز PewDiePie برای اجرای محلی مدل‌های هوش مصنوعی

‏💡 یوتیوبر مشهور PewDiePie ابزار متن‌باز Odysseus را منتشر کرده است. این پلتفرم به کاربران اجازه می‌دهد تا مدل‌های هوش مصنوعی و عوامل (agents) را به صورت محلی اجرا کنند و تجربه‌ای مشابه ChatGPT را با حفظ حریم خصوصی داده‌ها و بدون هزینه اضافی فراهم می‌آورد.

‏🔗 Odysseus GitHub Repository
‏🔗 معرفی Odysseus توسط PewDiePie

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#ابزار #Ollama

‏🤖 هوش مصنوعی در آموزش: آمار 2024‑25

‏🔸 پژوهش اخیر نشان داد ۸۵٪ معلمان و ۸۶٪ دانش‌آموزان در سال تحصیلی ۲۰۲۴‑۲۵ از ابزارهای هوش مصنوعی استفاده کرده‌اند.
‏🔹 معلمانی که حداقل یک بار در هفته از این ابزارها بهره می‌برند، به‌طور متوسط ۵.۹ ساعت در هفته زمان صرفه‌جویی می‌کنند؛ معادل شش هفته کامل کاری در طول سال تحصیلی.
‏🔸 بازار جهانی هوش مصنوعی در حوزه آموزش در سال ۲۰۲۵ به ۷٫۱ میلیارد دلار رسیده و پیش‌بینی می‌شود تا ۲۰۳۵ به ۱۳۶٫۸ میلیارد دلار رشد کند.

‏

‏🔹 پذیرش اولیه: علیرغم رشد چشمگیر، هنوز فاز آغازین پذیرش هوش مصنوعی در مدارس است.
‏🔸 بازده زمان: صرفه‌جویی در زمان می‌تواند به تخصیص بهتر منابع و تمرکز روی تدریس خلاقانه منجر شود.

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#گزارش #EducationAI

‏🤖 هوش مصنوعی مربی Koji از Brilliant

‏🚀 Koji یک مربی هوشمند (AI tutor) است که به‌جای ارائهٔ پاسخ سریع، فرآیند حل مسئله را به‌صورت لحظه‌ای دنبال می‌کند، خطاها را نشان می‌دهد و توضیحات تصویری می‌افزاید.

‏📚 این ابزار در میان بحث‌های جاری دربارهٔ نقش هوش مصنوعی در آموزش، سعی دارد به‌جای جایگزینی یادگیری، توانایی تفکر مستقل دانش‌آموزان را تقویت کند.

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#خبر #AgentAI

‏🤖 ارزیابی مهارت‌های هوش مصنوعی با DeepLearning.AI

‏✨ پلتفرم آموزشی برجسته DeepLearning.AI ابزاری کاربردی برای ارزیابی و توسعه مهارت‌های هوش مصنوعی ارائه کرده است. این ابزار به کاربران کمک می‌کند تا نقاط قوت خود را شناسایی کرده و مسیر یادگیری مناسبی را دنبال کنند.

‏⚙️ فرآیند ارزیابی با یک مصاحبه چهارده دقیقه‌ای مبتنی بر هوش مصنوعی آغاز می‌شود. در این مصاحبه، هوش مصنوعی با کاربر چت کرده و بر اساس پاسخ‌ها، تحلیل دقیقی از توانمندی‌ها ارائه می‌دهد.

‏💡 پس از اتمام مصاحبه، سیستم بازخورد کلی و جامعی ارائه می‌کند و چندین دوره آموزشی متناسب با نیازها و سطح مهارت‌های کاربر پیشنهاد می‌دهد. این رویکرد شخصی‌سازی شده به افراد امکان می‌دهد تا با تمرکز بر حوزه‌های مورد نیاز، دانش خود را در زمینه هوش مصنوعی گسترش دهند.

‏📖 وبسایت DeepLearning.AI
‏🔗 ابزار Skill Builder

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#معرفی #deeplearning

‏🤖 کی‌ای ۲.۰ (مدل چندرسانه‌ای Kuaishow)

‏🚀 مدل 30B MoE (Mixture of Experts) با 3B پارامتر فعال، توان پردازش 256K توکن را فراهم می‌کند؛ به‌طوری که ساعت‌ها ویدئوی طولانی بدون از دست دادن روابط سببی‑نتیجه‌گیری پردازش می‌شوند.
‏📈 نتایج آزمون LongVideoBench به 74.10 می‌رسد و در VideoMME V2 با افزایش فریم‌ها از 64 به 512، دقت از 35.34% به 42.44% ارتقا می‌یابد؛ هزینه پیش‌پر کردن (prefill) حدود ۵۰٪ کمتر است.
‏🔧 تمرکز بر timestamps، زنجیره‌های سببی، آموزش‌ ویدئویی، بازی‌ها و ولاگ‌های طولانی؛ وزن‌های مدل در لینک زیر قابل دسترسی است.

‏🔗 Keye‑VL‑2.0‑30B‑A3B

📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#پژوهش #DeepSeek