🔵 عنوان مقاله
Apache Parquet vs. Newer File Formats (BtrBlocks, FastLanes, Lance, Vortex) (7 minute read)

🟢 خلاصه مقاله:
Apache Parquet بیش از یک دهه فرمت ستونی غالب بوده و به لطف چیدمان ستونی، فشرده‌سازی مؤثر و پشتیبانی گسترده در اکوسیستم‌هایی مثل Spark و Iceberg، برای اسکن‌های حجیم و تحلیل‌های دسته‌ای عالی عمل می‌کند. اما با تغییر نیازها به سمت AI و سخت‌افزارهای جدید مثل NVMe، SIMD و GPU، فرمت‌های تازه‌ای مانند BtrBlocks، FastLanes، Lance، Vortex و Nimble معرفی شده‌اند که روی دسترسی کم‌تأخیر، بهره‌گیری از SIMD/GPU و خواندن گزینشی داده تمرکز دارند. این فرمت‌ها معمولاً با بازطراحی کُدگذاری و چیدمان صفحات، سربار پردازش را کاهش می‌دهند و برای پایپ‌لاین‌های AI و تحلیل تعاملی مناسب‌تر می‌شوند. در مقابل، Parquet از بلوغ و سازگاری گسترده برخوردار است و ابزارها و عملیات پایدار‌تری دارد. راهبرد منطقی، حفظ Parquet برای تبادل و تحلیل عمومی و استفاده هدفمند از فرمت‌های جدید در سناریوهایی است که بهبود ملموسی در تأخیر یا هزینه محاسباتی روی NVMe/GPU نشان می‌دهند.

#ApacheParquet #FileFormats #ColumnarStorage #AI #GPU #NVMe #SIMD #DataEngineering

🟣لینک مقاله:
https://dipankar-tnt.medium.com/apache-parquet-vs-newer-file-formats-btrblocks-fastlanes-lance-vortex-cdf02130182c?utm_source=tldrdata

➖➖➖➖➖➖➖➖
👑 @Database_Academy

🔵 عنوان مقاله
Perplexity's Open-Source Tool to Run Trillion-Parameter Models Without Costly Upgrades (4 minute read)

🟢 خلاصه مقاله:
Perplexity AI با معرفی ابزار متن‌باز TransferEngine امکان اجرای مدل‌های تریلیون‌پارامتری را روی سخت‌افزارهای متنوع و موجود فراهم کرده است. این سیستم با تکیه بر RDMA ارتباط GPU-to-GPU را در محیط‌های ترکیبی AWS و Nvidia بهینه می‌کند و با دستیابی به 400 Gbps روی ConnectX-7 و AWS EFA، نیاز به ارتقای گران‌قیمت را برطرف می‌سازد و وابستگی به یک فروشنده را کاهش می‌دهد. TransferEngine برای بارهای کاری LLM طراحی شده و مسیریابی Mixture-of-Experts را کارآمد می‌کند؛ در نتیجه اجرای مدل‌هایی مانند DeepSeek V3 و Kimi K2 با تأخیر کم و مقیاس‌پذیر ممکن می‌شود. متن‌باز بودن آن نیز ادغام، توسعه و استفاده در پشته‌های موجود را ساده می‌کند.

#OpenSource #LLM #RDMA #GPU #AWS #Nvidia #MixtureOfExperts #AIInfrastructure

🟣لینک مقاله:
https://www.infoworld.com/article/4085830/perplexitys-open-source-tool-to-run-trillion-parameter-models-without-costly-upgrades-2.html?utm_source=tldrdata

➖➖➖➖➖➖➖➖
👑 @Database_Academy

🔵 عنوان مقاله
State of Containers and Serverless (8 minute read)

🟢 خلاصه مقاله:
روندهای کلیدی در گزارش State of Containers and Serverless از Datadog که بر پایه داده‌های هزاران محیط cloud-native تهیه شده، پنج نکته اصلی را نشان می‌دهد: ۱) استفاده از GPU با سرعت در حال رشد است؛ اکنون حدود ۶٪ از سازمان‌ها از آن بهره می‌برند و ساعات اجرای اینستنس‌ها نسبت به دو سال پیش تقریباً سه برابر شده است. ۲) بارهای کاری AI در حال ظهورند و حدود ۷٪ از workloadهای کانتینری را تشکیل می‌دهند و در کنار پایگاه‌داده‌ها و سرویس‌های وب اجرا می‌شوند. ۳) بیشتر کانتینرها کمتر از ۵۰٪ حافظه و کمتر از ۲۵٪ CPU مصرف می‌کنند که بیانگر افزون‌تخصیص گسترده و فرصت‌های بهینه‌سازی هزینه از طریق right-sizing و تنظیم بهتر autoscaling است. ۴) بیش از ۶۴٪ از کلاسترهای Kubernetes از Horizontal Pod Autoscaler (HPA) استفاده می‌کنند، اما تنها ۲۰٪ به آن متریک‌های سفارشی اپلیکیشن می‌دهند؛ تکیه صرف بر CPU/Memory باعث مقیاس‌پذیری نامتوازن با تقاضای واقعی می‌شود. ۵) پلتفرم‌های مبتنی بر Arm در حال گسترش‌اند و با قیمت/کارایی و بهره‌وری انرژی بهتر جذاب شده‌اند، اما به پشتیبانی multi-arch، سازگاری وابستگی‌ها و تنظیم درست CI/CD نیاز دارند. جمع‌بندی: پذیرش GPU و AI شتاب گرفته، اما برای بهبود کارایی و واکنش‌پذیری، باید روی right-sizing، متریک‌های سفارشی برای HPA و ارزیابی هدفمند Arm تمرکز شود.

#CloudNative #Containers #Kubernetes #Serverless #Datadog #GPU #AI #ARM

🟣لینک مقاله:
https://www.datadoghq.com/state-of-containers-and-serverless/?utm_source=tldrdata

➖➖➖➖➖➖➖➖
👑 @Database_Academy

🔵 عنوان مقاله
Data Processing is Becoming a GPU Workload (6 minute read)

🟢 خلاصه مقاله:
در دنیای فناوری، فرآیندهای مربوط به پردازش داده‌ها به سمت استفاده بیشتر از پردازنده‌های گرافیکی (GPU) حرکت می‌کنند. در گذشته، بسیاری از عملیات پردازش داده‌ها براساس سیستم‌های مرکزی و قدرتمند CPU انجام می‌شدند، به ویژه در زمینه‌های ETL (استخراج، تبدیل و بارگذاری داده‌ها) که بیشتر مبتنی بر SQL بودند. اما حالا، تمرکز به سمت بهره‌گیری از توان پردازش همزمان و سریع GPU در مدل‌های inference یا استنتاج تغییر یافته است، که به کمک این فناوری‌ها، داده‌ها می‌توانند شامل ویدئو، صدا، فایل‌های PDF، پیام‌های Slack و داده‌های حسگری را به صورت سریع و کارآمد پردازش کنند.

این رویکرد جدید باعث شده است که مدل‌های هوشمند ابتدا داده‌ها را مطالعه و تجزیه و تحلیل کنند، سپس اقدام به ایجاد انواع نمایه‌های معناشناختی، برچسب‌ها، خلاصه‌ها و ثبت جزئیات ساختاری در قالب‌های متنوع کنند. این اطلاعات به کاربر امکان می‌دهد تا به کمک بانک‌های اطلاعاتی مبتنی بر SQL و سیستم‌های مبتنی بر بردار، داده‌های ساختاریافته و غیرساختاریافته را به راحتی مدیریت و تحلیل کند. در نتیجه، پلتفرم‌های فناوری در حال حرکت به سمت ترکیبی از محاسبات موازی، استریمینگ داده‌ها و عملیات همزمان با قابلیت درک و پاسخ سریع به APIها هستند.

تغییر اساسی در روندهای پردازش داده‌ها، انعطاف‌پذیری و سرعت ارائه خدمات را در تجهیزات هوشمند و سیستم‌های بزرگ افزایش می‌دهد، که این امر اهمیت ویژه‌ای در توسعه سیستم‌های هوشمند و تحلیل‌های سریع و دقیق پیدا می‌کند. به طور کلی، تبدیل فرآیندهای داده‌ای به سمت GPU محور، آینده‌ای پر از فرصت‌های نوآورانه در حوزه فناوری‌های داده‌محور است.

#پردازش_داده #GPU #هوش_مصنوعی #فناوری

🟣لینک مقاله:
https://anyscale.com/blog/data-processing-becoming-gpu-workload?utm_source=tldrdata

➖➖➖➖➖➖➖➖
👑 @Database_Academy