حالا می‌توان یک مدل با ۲.۸ تریلیون پارامتر را روی یک کارت گرافیک با فقط ۴ گیگابایت حافظه اجرا کرد.

یک ابزار متن‌باز منتشر شده که از روشی به نام Layer-wise Inference استفاده می‌کند. این ابزار هر بار فقط یک لایه از مدل را داخل حافظه کارت گرافیک بارگذاری می‌کند. بنابراین مقدار VRAM موردنیاز به اندازه هر لایه بستگی دارد، نه اندازه کل مدل.

بدون کوانتیزه‌سازی، بدون تقطیر مدل و بدون هرس‌کردن پارامترها:

* مدل DeepSeek-V3 با ۶۷۱ میلیارد پارامتر روی ۱۲ گیگابایت VRAM
* مدل Llama 3.1 با ۴۰۵ میلیارد پارامتر روی ۸ گیگابایت VRAM
* مدل Kimi K3 با ۲.۸ تریلیون پارامتر روی کمتر از ۴ گیگابایت VRAM
* قابل‌استفاده برای تقریباً همه مدل‌های متن‌باز

جالب اینجاست که بزرگ‌ترین مدل، کمترین حافظه کارت گرافیک را نیاز دارد. دلیلش این است که K3 یک مدل sparse MoE است. برای هر توکن فقط expertهایی را بارگذاری می‌کند که آن توکن به آن‌ها هدایت شده است، نه کل لایه متراکم را.

در نتیجه، یک مدل ۲.۸ تریلیون‌پارامتری می‌تواند با حافظه‌ای کمتر از یک مدل ۷۰ میلیاردپارامتری اجرا شود.

پکیج پایتونی #متن_باز

ا AirLLM مصرف حافظه هنگام اجرای مدل را به‌شدت کاهش می‌دهد و اجازه می‌دهد مدل‌های ۷۰ میلیاردپارامتری روی یک کارت گرافیک ۴ گیگابایتی اجرا شوند، بدون کوانتیزه‌سازی، تقطیر یا هرس. حتی می‌توان Llama 3.1 405B را روی ۸ گیگابایت، DeepSeek-V3 671B را روی حدود ۱۲ گیگابایت و Kimi K3 2.8T را روی کمتر از ۴ گیگابایت VRAM اجرا کرد؛ زیرا مدل‌های sparse MoE فقط expertهای لازم را در هر لحظه بارگذاری می‌کنند.

توضیح:

مثلاً اگر یک مدل ۱۰۰ لایه داشته باشد، به‌جای اینکه هر ۱۰۰ لایه هم‌زمان داخل GPU باشند، فقط لایه اول وارد می‌شود، سپس خارج می‌شود و لایه دوم جای آن را می‌گیرد.

بنابراین مصرف VRAM پایین می‌آید، اما مدل همچنان باید کامل روی SSD ذخیره شود. همچنین چون اطلاعات دائماً بین SSD، RAM و GPU جابه‌جا می‌شوند، سرعت اجرا می‌تواند بسیار پایین باشد.

پس این ادعا به این معنا نیست که یک مدل ۲.۸ تریلیون‌پارامتری روی یک کامپیوتر معمولی سریع اجرا می‌شود. فقط یعنی می‌توان آن را با VRAM کم راه‌اندازی کرد، به شرط داشتن فضای ذخیره‌سازی بسیار زیاد و پذیرفتن سرعت پایین.

▪️ AirLLM

#مقاله

☑️ @AI_DeepMind
✅ @AI_Person

ی پهباد ساختن به شنیدن صدای بال مگس میتونه پرواز کنه و بره اونو بکشه از قابلیت های این پهباد اینه که میتونه صدای زنبور و مگس رو از هم تشخیص بده با فناوری سونار میتونه مگس پروانه، زنبور رو تشخیص بده

Tornyol presents the anti-mosquito drone, the sonar leads the attack against insects in flight

#پهباد #رباتیک

☑️ @AI_DeepMind
✅ @AI_Person

مدل Qwen3.8-Max #متن_باز علی بابا متتشر شد و توانست در Arena leaderboard رتبه ۴ را در بین مدل های هوش مصنوعی به خود اختصاص دهد.
https://qwen.ai/blog?id=qwen3.8

#مقاله

☑️ @AI_DeepMind
✅ @AI_Person

تست رایگان
https://sgp.siramtopyo.ir/sub-ssp-namahdod-web/djMsMTg1MCwxNzgzMjU0NjMy64b4540281

📍درخواست بچه‌های روستای خونیک تجن از شما

روش کار ما این است که ما نه برای ارضای خواسته‌های خودمون و نه برای پر کردن بیلان کاری، فعالیتی رو شروع می‌کنیم.
ما سعی می‌کنیم کنار بچه‌ها قدم بزنیم و خواسته‌ها و نیازهایی که دارن رو به طور موثر شکل بدیم.
چند ماهی هست بچه‌های روستای خونیک تجن دنبال این هستن که کتابخونه داشته باشن.
حالا یه جا رو هم آماده کردن، فرش پهن کردن و خودشون دارن تلاش می‌کنن که این اتاق قدیمی تبدیل به کتابخونه بشه.
ما هم نگاه می‌کنیم و لذت می‌بریم.

حالا بچه‌ها از شما یه درخواست دارن:

اگر کتاب، بازی، لوازم کتابخونه(مثل قفسه کتاب، میز و صندلی، موکت و فرش، بازی) و... دارین یا می‌تونین تهیه کنین به ما خبر بدین که برسونیم به دست بچه‌ها.

اینجا خانه‌ی ماست
به همین سادگی

جهت همراهی برای روشن شدن چراغ این کتابخونه به آیدی زیر پیام بدین:
https://xn--r1a.website/choliqazak

@choliqazak_admin

پیج اینستاگرام روستا
https://www.instagram.com/reel/DbiG4XnvAWb/?igsh=MXJtbmY0dnNqbmM0aA==

هر کتابی که امروز به دست یک کودک برسد فردا می‌تواند آینده یک جامعه را تغییر دهد. ساختن کتابخانه در یک روستا فقط ساختن یک کتابخانه نیست بلکه ساختن امید آگاهی و فرصت برای نسلی است که می‌تواند آینده ایران را بسازند.

اینجا ببینید
https://xn--r1a.website/AI_DeepMind/3788

امیدوارم طلاهاتون‌رو نفروخته باشید گفتم ریپلای بزنم بگم بینم چکار کردید.

آفرهای فیلترشکن ویژه کانال برای شرایط عادی یک ماهه مناسب برای تمام وب سایتهای هوش مصنوعی و ...

50 گیگ 220 تومن
70 گیگ 350 تومن
100 گیگ 470 تومن
200 گیگ 550 تومن
300 گیگ 680 تومن

و IP ثابت امریکا، ترکیه، آلمان یک ماهه

30 گیگ 950
50 گیگ 1500
100 گیگ 2800

برای تهیه بهم پیام بدید
@Farzadh1h

با نصب افزونه زیر تو گوگل کروم میتونید فیلم های یوتوب بصورت دوبله فارسی رایگان تماشا کنید تست شده


دانلود افزونه
https://chromewebstore.google.com/detail/egoacpkbpnnjfebaadejafadmocfhenp


اموزش راه اندازی
https://www.youtube.com/watch?v=KGU9qHHGN-k

سایت دریافت api key
https://aistudio.google.com/api-keys

نیازمند ایپی امریکا

آیا قطع دسترسی پیوسته/همیشگی به اینترنت موبایل برای یک دوره دو هفته‌ای می‌تواند تمرکز، سلامت روان و احساس رضایت از زندگی شخصی را بهبود دهد؟

چرا حال افراد بهتر شد؟
مطالعه نشان داد قطع اینترنت موبایل باعث شد افراد:
زمان بیشتری در دنیای آفلاین بگذرانند، از جمله:
معاشرت حضوری
ورزش
حضور در طبیعت
انجام سرگرمی‌ها
کتاب خواندن
همزمان:
مصرف رسانه‌ای کمتر شد.
ارتباط اجتماعی بیشتر شد.
احساس self-control بیشتر شد.
خواب کمی افزایش یافت.
بیشترین تغییر مربوط به زمان آفلاین و self-control بود.
افرادی که در ابتدا FoMO ترس از دست دادن اتفاقات و تجربه‌های دیگران بیشتری داشتند، از قطع اینترنت موبایل از نظر سلامت روان و رضایت از زندگی بیشتر سود بردند.
افرادی با علائم بیشتر ADHD نیز در توجهی که خودشان گزارش می‌کردند بهبود بیشتری نشان دادند؛ ولی برای آزمون عینی توجه پایدار چنین تفاوتی مشاهده نشد.

▪️ Blocking mobile internet on smartphones improves sustained attention, mental health, and subjective well-being

#مقاله #روانشناسی_بالینی #روانشناسی


☑️ @AI_DeepMind
✅ @AI_Person