🚨 اخراج سه محقق ایمنی OpenAI به اتهام افشای اطلاعات
طبق گزارش وال‌استریت ژورنال، شرکت OpenAI سه پژوهشگر حوزه ایمنی شامل ژاسمین وانگ، تومک کورباک و میکیتا بالاسنی را به اتهام به اشتراک‌گذاری طرح‌های داخلی مدل‌ها با یک محقق بیرونی اخراج کرده است. گفته می‌شود این ارتباطات از طریق پیام‌های خودحذف‌شونده در پیام‌رسان سیگنال صورت گرفته است.
OpenAI این رویداد را نقض جدی مقررات داده‌های حساس دانسته، اما پژوهشگران روایت متفاوتی دارند. کورباک و بالاسنی علت اخراج را نحوه تعامل خود با سازمان‌های ارزیابی ایمنی مثل METR می‌دانند و وانگ می‌گوید به‌دلیل بازکردن تصادفی یک ایمیل حساس و گزارش سریع آن برکنار شده است.
این سه نفر پس از اخراج، در نامه‌ای به هیئت‌مدیره خواستار توقف توسعه مدل‌هایی شدند که نحوه استدلال آن‌ها برای انسان قابل راستی‌آزمایی نیست.
طبق گزارش وال‌استریت ژورنال، شرکت OpenAI سه پژوهشگر حوزه ایمنی شامل ژاسمین وانگ، تومک کورباک و میکیتا بالاسنی را به اتهام به اشتراک‌گذاری طرح‌های داخلی مدل‌ها با یک محقق بیرونی اخراج کرده است. گفته می‌شود این ارتباطات از طریق پیام‌های خودحذف‌شونده در پیام‌رسان سیگنال صورت گرفته است.
OpenAI این رویداد را نقض جدی مقررات داده‌های حساس دانسته، اما پژوهشگران روایت متفاوتی دارند. کورباک و بالاسنی علت اخراج را نحوه تعامل خود با سازمان‌های ارزیابی ایمنی مثل METR می‌دانند و وانگ می‌گوید به‌دلیل بازکردن تصادفی یک ایمیل حساس و گزارش سریع آن برکنار شده است.
این سه نفر پس از اخراج، در نامه‌ای به هیئت‌مدیره خواستار توقف توسعه مدل‌هایی شدند که نحوه استدلال آن‌ها برای انسان قابل راستی‌آزمایی نیست.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
مهندسی معکوس با ابزار REA و مدل Opus 5.5
ابزار REA (مخفف Reverse Engineer Anything) به همراه مدل Opus 5.5، امکان بررسی و بازسازی ویژگی‌های نرم‌افزارهای بسته (بدون دسترسی به سورس‌کد) را فراهم کرده است. این ابزار با تحلیل باینری، به ایجنت‌های کدنویسی اجازه می‌دهد تا منطق یک برنامه را استخراج و نسخه شخصی‌سازی‌شده‌ای از آن را بازسازی کنند.
در این فرآیند، نقش Oracle (تأییدکننده) حیاتی است. از آنجا که مدل‌های هوش مصنوعی ممکن است در بازسازی کد دچار خطا شوند، «اوراکل» مجموعه‌ای از تست‌ها و کنترل‌هاست که صحت عملکرد خروجی را با معیارهای دقیق (مانند خروجی عددی یا رفتار برنامه) می‌سنجد.
مهم‌ترین نکات برای استفاده از این متدولوژی:
* تست اوراکل: پیش از اعتماد به نتایج، باید برای اوراکل تست‌های منفی طراحی کنید (مثلاً وارد کردن مقادیر اشتباه) تا مطمئن شوید ابزار کنترلی شما دچار خطای پنهان نیست.
* معماری اتاق تمیز (Clean-Room): برای رعایت مسائل حقوقی، تیم‌های موفق به جای کپی کد، رفتار برنامه را مشاهده و از نو پیاده‌سازی می‌کنند.
🔗 راهنمای کامل در سایت
🇮🇷 سایت | تلگرام
ابزار REA (مخفف Reverse Engineer Anything) به همراه مدل Opus 5.5، امکان بررسی و بازسازی ویژگی‌های نرم‌افزارهای بسته (بدون دسترسی به سورس‌کد) را فراهم کرده است. این ابزار با تحلیل باینری، به ایجنت‌های کدنویسی اجازه می‌دهد تا منطق یک برنامه را استخراج و نسخه شخصی‌سازی‌شده‌ای از آن را بازسازی کنند.
در این فرآیند، نقش Oracle (تأییدکننده) حیاتی است. از آنجا که مدل‌های هوش مصنوعی ممکن است در بازسازی کد دچار خطا شوند، «اوراکل» مجموعه‌ای از تست‌ها و کنترل‌هاست که صحت عملکرد خروجی را با معیارهای دقیق (مانند خروجی عددی یا رفتار برنامه) می‌سنجد.
مهم‌ترین نکات برای استفاده از این متدولوژی:
* تست اوراکل: پیش از اعتماد به نتایج، باید برای اوراکل تست‌های منفی طراحی کنید (مثلاً وارد کردن مقادیر اشتباه) تا مطمئن شوید ابزار کنترلی شما دچار خطای پنهان نیست.
* معماری اتاق تمیز (Clean-Room): برای رعایت مسائل حقوقی، تیم‌های موفق به جای کپی کد، رفتار برنامه را مشاهده و از نو پیاده‌سازی می‌کنند.
🔗 راهنمای کامل در سایت
🇮🇷 سایت | تلگرام
Media is too big
VIEW IN TELEGRAM
🎬 شرکت Tencent مدل جهان ویدیویی تعاملی Hy-Nomas را منتشر کرد
شرکت Tencent مدل متن‌باز Hy-Nomas را منتشر کرد؛ یک مدل جهان ویدیویی تعاملی که قابلیت اجرا روی یک کارت گرافیک RTX 4090 را دارد.
این مدل ویدیو را بخش‌به‌بخش می‌سازد و کنترل آن از طریق متن و مسیر حرکت دوربین انجام می‌شود. کاربر می‌تواند در هر مرحله صحنه، سبک، عمل یا زاویه دید را تغییر دهد، در حالی که حافظه محیط میان بخش‌های مختلف حفظ می‌شود. خروجی ویدیو با رزولوشن 1280×720 و سرعت ۲۴ فریم بر ثانیه تولید می‌شود و امکان شخصی‌سازی آن برای حوزه‌هایی مانند رباتیک با استفاده از LoRA وجود دارد.
پیکربندی استاندارد این مدل برای هشت کارت گرافیک طراحی شده، اما با کوانتایز INT8 وزن‌ها، KV-cache و انتقال بخشی از پردازش به CPU، روی یک RTX 4090 هم اجرا می‌شود.
کد آموزش و اینفرنس تحت مجوز Apache-2.0 منتشر شده و وزن‌های مدل به همراه دموی آنلاین در دسترس است. هنوز بنچمارک رسمی برای Hy-Nomas ارائه نشده و گزارش فنی آن بعداً منتشر خواهد شد.
#Hy_Nomas #LoRA
شرکت Tencent مدل متن‌باز Hy-Nomas را منتشر کرد؛ یک مدل جهان ویدیویی تعاملی که قابلیت اجرا روی یک کارت گرافیک RTX 4090 را دارد.
این مدل ویدیو را بخش‌به‌بخش می‌سازد و کنترل آن از طریق متن و مسیر حرکت دوربین انجام می‌شود. کاربر می‌تواند در هر مرحله صحنه، سبک، عمل یا زاویه دید را تغییر دهد، در حالی که حافظه محیط میان بخش‌های مختلف حفظ می‌شود. خروجی ویدیو با رزولوشن 1280×720 و سرعت ۲۴ فریم بر ثانیه تولید می‌شود و امکان شخصی‌سازی آن برای حوزه‌هایی مانند رباتیک با استفاده از LoRA وجود دارد.
پیکربندی استاندارد این مدل برای هشت کارت گرافیک طراحی شده، اما با کوانتایز INT8 وزن‌ها، KV-cache و انتقال بخشی از پردازش به CPU، روی یک RTX 4090 هم اجرا می‌شود.
کد آموزش و اینفرنس تحت مجوز Apache-2.0 منتشر شده و وزن‌های مدل به همراه دموی آنلاین در دسترس است. هنوز بنچمارک رسمی برای Hy-Nomas ارائه نشده و گزارش فنی آن بعداً منتشر خواهد شد.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Hy_Nomas #LoRA
🤖 استفاده از Claude برای اثبات ریاضی کدهای متن‌باز
شرکت Anthropic با همکاری Theorem از مدل Claude برای تأیید رسمی (Formal Verification) کدهای ۱۲۳ کتابخانه متن‌باز استفاده کرده است. در این پروژه، مدل به جای تکیه بر تست‌های تصادفی، تست‌های موجود در سرویس OSS-Fuzz گوگل را به قضایای ریاضی تبدیل کرده و صحت عملکرد آن‌ها را اثبات کرد.
نتایج این آزمایش شامل موارد زیر است:
* تولید ۱۸۰ میلیون خط کد اثبات برای ۲۳۹ نقطه ورود در کتابخانه‌های مختلف.
* تأیید نهایی توسط نرم‌افزار
* شناسایی و رفع صدها باگ پیچیده، از جمله خطای سرریز بافر در الگوریتم‌های فشرده‌سازی و دسترسی خارج از محدوده آرایه در دیکودرهای تصویر که با تست‌های معمولی قابل کشف نبودند.
اگرچه این روش در گذشته به دلیل هزینه بالای زمانی بسیار دشوار بود، اما اکنون خودکارسازی آن سرعت کار را به شدت افزایش داده است.
🔗 ادامه مطلب در سایت
#Formal_Verification #Rocq
شرکت Anthropic با همکاری Theorem از مدل Claude برای تأیید رسمی (Formal Verification) کدهای ۱۲۳ کتابخانه متن‌باز استفاده کرده است. در این پروژه، مدل به جای تکیه بر تست‌های تصادفی، تست‌های موجود در سرویس OSS-Fuzz گوگل را به قضایای ریاضی تبدیل کرده و صحت عملکرد آن‌ها را اثبات کرد.
نتایج این آزمایش شامل موارد زیر است:
* تولید ۱۸۰ میلیون خط کد اثبات برای ۲۳۹ نقطه ورود در کتابخانه‌های مختلف.
* تأیید نهایی توسط نرم‌افزار
Rocq برای اطمینان از اجرای بدون نقص کد با هر ورودی تا ۶۴ مگابایت.* شناسایی و رفع صدها باگ پیچیده، از جمله خطای سرریز بافر در الگوریتم‌های فشرده‌سازی و دسترسی خارج از محدوده آرایه در دیکودرهای تصویر که با تست‌های معمولی قابل کشف نبودند.
اگرچه این روش در گذشته به دلیل هزینه بالای زمانی بسیار دشوار بود، اما اکنون خودکارسازی آن سرعت کار را به شدت افزایش داده است.
🔗 ادامه مطلب در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Formal_Verification #Rocq
🧠 خلاصه تحولات 24 ساعت گذشته هوش مصنوعی و علوم داده
🗂 گزارش #5 | 📌 5 آیتم گزارش | 🧾 از 19 پست بررسی‌شده
🕐 جمعه 1405/08/01 ساعت 14:00 تا شنبه 1405/08/02 ساعت 14:00
🗂 رویدادهای منتخب
🔬 مدل‌ها و زیرساخت‌ها
🔬 مهندسی معکوس و امنیت
🗂 گزارش #5 | 📌 5 آیتم گزارش | 🧾 از 19 پست بررسی‌شده
🕐 جمعه 1405/08/01 ساعت 14:00 تا شنبه 1405/08/02 ساعت 14:00
🗂 رویدادهای منتخب
🔬 مدل‌ها و زیرساخت‌ها
عرضه مدل‌های OpenAI در Google Cloud
دسترسی مستقیم سازمانی به مدل‌های OpenAI برای گردش‌های کاری ایجنتی و حکمرانی داده در زیرساخت گوگل.
انتشار مدل Kimi K3.1 Pro
ارائه مدل جدید با رتبه بالا در بنچمارک‌های SWE و کدنویسی؛ وزن‌ها ۴ نوامبر منتشر می‌شوند.
مدل صوتی Granite Speech 5.0
مدل ۲ میلیاردی آی‌بی‌ام با نرخ خطای ۵.۶۸٪ و مجوز Apache 2.0 برای کاربردهای نویسه‌گردانی و ترجمه.
🔬 مهندسی معکوس و امنیت
بازسازی منطق نرم‌افزار با REA و Opus 5.5
استفاده از متدولوژی اتاق تمیز برای تحلیل رفتار باینری و بازسازی کد بدون نقض مالکیت معنوی.
تغییرات ساختاری در تیم ایمنی OpenAI
اخراج سه محقق حوزه ایمنی به‌دلیل انتقال داده‌های حساس و درخواست برای توقف توسعه مدل‌های غیرقابل راستی‌آزمایی.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
🤖 قابلیت اتصال مدل‌های هوش مصنوعی به تلگرام
تلگرام در حال آزمایش قابلیتی در نسخه بتا برای سیستم‌عامل macOS است که به کاربران اجازه می‌دهد مدل‌های مختلف هوش مصنوعی را مستقیماً به پیام‌رسان خود متصل کنند.
کاربران می‌توانند با وارد کردن کلیدهای API شخصی، از چندین مدل به‌صورت همزمان استفاده کرده و با ارسال درخواست‌های مستقیم، بین آن‌ها جابه‌جا شوند. این ویژگی با هدف ایجاد یک رابط کاربری یکپارچه برای مدیریت مدل‌های مختلف طراحی شده است تا نیاز به تعویض مداوم برنامه‌ها کاهش یابد.
مهم‌ترین مدل‌های پشتیبانی‌شده در این نسخه بتا عبارتند از:
- OpenAI (ChatGPT)
- Anthropic (Claude)
- Google (Gemini)
- xAI (Grok)
- OpenRouter
این قابلیت در حال حاضر در نسخه ۱/۰/۱۳ تلگرام macOS مشاهده شده و هنوز برای کاربران عمومی در دسترس نیست. جزئیات نهایی و نحوه عملکرد آن پس از انتشار عمومی مشخص خواهد شد.
#OpenRouter #API_keys
تلگرام در حال آزمایش قابلیتی در نسخه بتا برای سیستم‌عامل macOS است که به کاربران اجازه می‌دهد مدل‌های مختلف هوش مصنوعی را مستقیماً به پیام‌رسان خود متصل کنند.
کاربران می‌توانند با وارد کردن کلیدهای API شخصی، از چندین مدل به‌صورت همزمان استفاده کرده و با ارسال درخواست‌های مستقیم، بین آن‌ها جابه‌جا شوند. این ویژگی با هدف ایجاد یک رابط کاربری یکپارچه برای مدیریت مدل‌های مختلف طراحی شده است تا نیاز به تعویض مداوم برنامه‌ها کاهش یابد.
مهم‌ترین مدل‌های پشتیبانی‌شده در این نسخه بتا عبارتند از:
- OpenAI (ChatGPT)
- Anthropic (Claude)
- Google (Gemini)
- xAI (Grok)
- OpenRouter
این قابلیت در حال حاضر در نسخه ۱/۰/۱۳ تلگرام macOS مشاهده شده و هنوز برای کاربران عمومی در دسترس نیست. جزئیات نهایی و نحوه عملکرد آن پس از انتشار عمومی مشخص خواهد شد.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#OpenRouter #API_keys
❤1
🤖 انتشار مدل کوچک Nemotron 3.5 Bolt توسط انویدیا
انویدیا مدل جدید Nemotron 3.5 Bolt E4B را منتشر کرده است؛ یک مدل کوچک که با اشغال حدود ۴ گیگابایت حافظه VRAM، امکان اجرای محلی ایجنت‌های صوتی، گیمینگ و رباتیک را فراهم می‌کند.
این مدل بر پایه Gemma 4 E4B ساخته شده و انویدیا برای آموزش آن از روش صرفاً «یادگیری تقویتی» (RL-only) استفاده کرده است. در واقع، این شرکت مرحله SFT را کنار گذاشت تا کیفیت مکالمه حفظ شود. همچنین با استفاده از جریمه‌های طولانی، پاسخ‌ها کوتاه‌تر نگه داشته می‌شوند.
برخی مشخصات فنی:
- ۸ میلیارد پارامتر (۴ میلیارد پارامتر مؤثر)
- ۶۴ هزار توکن طول متن زمینه (Context)
- مجوز OpenMDW-1.1
- زمان پاسخ‌دهی ۵۴۸ میلی‌ثانیه برای توکن اول روی کارت گرافیک RTX 5070
این مدل در ۱۵ مورد از ۲۱ بنچمارک استاندارد انویدیا، عملکرد بهتری نسبت به رقبا از جمله Gemma 4 E4B و Qwen3.5-4B داشته است. جزئیات بیشتر در گزارش فنی و مستندات آن قابل دسترسی است.
#Nemotron_3_5_Bolt #RL_only_training
انویدیا مدل جدید Nemotron 3.5 Bolt E4B را منتشر کرده است؛ یک مدل کوچک که با اشغال حدود ۴ گیگابایت حافظه VRAM، امکان اجرای محلی ایجنت‌های صوتی، گیمینگ و رباتیک را فراهم می‌کند.
این مدل بر پایه Gemma 4 E4B ساخته شده و انویدیا برای آموزش آن از روش صرفاً «یادگیری تقویتی» (RL-only) استفاده کرده است. در واقع، این شرکت مرحله SFT را کنار گذاشت تا کیفیت مکالمه حفظ شود. همچنین با استفاده از جریمه‌های طولانی، پاسخ‌ها کوتاه‌تر نگه داشته می‌شوند.
برخی مشخصات فنی:
- ۸ میلیارد پارامتر (۴ میلیارد پارامتر مؤثر)
- ۶۴ هزار توکن طول متن زمینه (Context)
- مجوز OpenMDW-1.1
- زمان پاسخ‌دهی ۵۴۸ میلی‌ثانیه برای توکن اول روی کارت گرافیک RTX 5070
این مدل در ۱۵ مورد از ۲۱ بنچمارک استاندارد انویدیا، عملکرد بهتری نسبت به رقبا از جمله Gemma 4 E4B و Qwen3.5-4B داشته است. جزئیات بیشتر در گزارش فنی و مستندات آن قابل دسترسی است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Nemotron_3_5_Bolt #RL_only_training
Media is too big
VIEW IN TELEGRAM
🤖 معرفی مدل هوش مصنوعی Dessa توسط شرکت Block
شرکت Block که توسط جک دورسی هدایت می‌شود، از مدل جدیدی به نام Dessa رونمایی کرد. این مدل، اولین ابزار هوش مصنوعی است که برخلاف مدل‌های زبانی رایج، منحصراً بر پایه داده‌های صوتی آموزش دیده و هیچ متنی در فرآیند یادگیری آن استفاده نشده است.
Dessa به جای تبدیل صدا به متن، به‌طور مستقیم با داده‌های صوتی کار می‌کند. این رویکرد باعث شده مدل توانایی حفظ جزئیات دقیق کلام مانند لحن، احساسات و طعنه‌ها را داشته باشد.
مهم‌ترین ویژگی‌های این مدل عبارتند از:
• پردازش همزمان صدا و گفتار که امکان صحبت کردن، خندیدن یا قطع کردن کلام مخاطب را فراهم می‌کند.
• سرعت پاسخ‌دهی بالاتر از زمان واقعی.
• قابلیت اجرا به‌صورت محلی روی سیستم‌های مجهز به تراشه M4 Max یا قوی‌تر.
• یادگیری مدل با تعداد کلمات به‌مراتب کمتر نسبت به مدل‌های زبانی بزرگ.
در حال حاضر دسترسی به این مدل تنها از طریق لیست انتظار امکان‌پذیر است و اولویت دسترسی با پژوهشگران حوزه امنیت است.
#Dessa #M4_Max
شرکت Block که توسط جک دورسی هدایت می‌شود، از مدل جدیدی به نام Dessa رونمایی کرد. این مدل، اولین ابزار هوش مصنوعی است که برخلاف مدل‌های زبانی رایج، منحصراً بر پایه داده‌های صوتی آموزش دیده و هیچ متنی در فرآیند یادگیری آن استفاده نشده است.
Dessa به جای تبدیل صدا به متن، به‌طور مستقیم با داده‌های صوتی کار می‌کند. این رویکرد باعث شده مدل توانایی حفظ جزئیات دقیق کلام مانند لحن، احساسات و طعنه‌ها را داشته باشد.
مهم‌ترین ویژگی‌های این مدل عبارتند از:
• پردازش همزمان صدا و گفتار که امکان صحبت کردن، خندیدن یا قطع کردن کلام مخاطب را فراهم می‌کند.
• سرعت پاسخ‌دهی بالاتر از زمان واقعی.
• قابلیت اجرا به‌صورت محلی روی سیستم‌های مجهز به تراشه M4 Max یا قوی‌تر.
• یادگیری مدل با تعداد کلمات به‌مراتب کمتر نسبت به مدل‌های زبانی بزرگ.
در حال حاضر دسترسی به این مدل تنها از طریق لیست انتظار امکان‌پذیر است و اولویت دسترسی با پژوهشگران حوزه امنیت است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Dessa #M4_Max
🇺🇸 محدودیت جدید خزانه‌داری آمریکا برای سرمایه‌گذاری در حوزه هوش مصنوعی
وزارت خزانه‌داری آمریکا پیشنهاد جدیدی ارائه کرده که سرمایه‌گذاری شهروندان و شرکت‌های آمریکایی در پروژه‌های هوش مصنوعی چین را به طور کامل ممنوع می‌کند. طبق قوانین فعلی، سرمایه‌گذاری در مدل‌های کوچک‌تر هوش مصنوعی با شرط گزارش‌دهی امکان‌پذیر است، اما پیشنهاد جدید این دسترسی را حذف می‌کند.
این محدودیت‌های سرمایه‌گذاری علاوه بر هوش مصنوعی، شامل حوزه‌های زیر نیز می‌شود:
* تراشه‌های پیشرفته شامل حافظه‌های پرسرعت (HBM)، تراشه‌های فوتونیک و تراشه‌های مقاوم در برابر تشعشع
* سیستم‌های تسلیحاتی هایپرسونیک
* بیوتکنولوژی شامل واسط‌های مغز و رایانه (BCI) و نرم‌افزارهای خودکار آزمایشگاهی
علاوه بر چین، کشورهای روسیه، ایران، کره شمالی و کوبا نیز به دامنه جغرافیایی این ممنوعیت‌ها اضافه شده‌اند. خرید سهام در بازار عمومی، صندوق‌های شاخصی و سرمایه‌گذاری‌های کوچک تا سقف ۲ میلیون دلار همچنان مجاز باقی می‌ماند و این مقررات بیشتر سرمایه‌گذاری‌های خطرپذیر (VC) و سهام خصوصی (Private Equity) را هدف قرار می‌دهد.
🇮🇷 سایت | تلگرام
وزارت خزانه‌داری آمریکا پیشنهاد جدیدی ارائه کرده که سرمایه‌گذاری شهروندان و شرکت‌های آمریکایی در پروژه‌های هوش مصنوعی چین را به طور کامل ممنوع می‌کند. طبق قوانین فعلی، سرمایه‌گذاری در مدل‌های کوچک‌تر هوش مصنوعی با شرط گزارش‌دهی امکان‌پذیر است، اما پیشنهاد جدید این دسترسی را حذف می‌کند.
این محدودیت‌های سرمایه‌گذاری علاوه بر هوش مصنوعی، شامل حوزه‌های زیر نیز می‌شود:
* تراشه‌های پیشرفته شامل حافظه‌های پرسرعت (HBM)، تراشه‌های فوتونیک و تراشه‌های مقاوم در برابر تشعشع
* سیستم‌های تسلیحاتی هایپرسونیک
* بیوتکنولوژی شامل واسط‌های مغز و رایانه (BCI) و نرم‌افزارهای خودکار آزمایشگاهی
علاوه بر چین، کشورهای روسیه، ایران، کره شمالی و کوبا نیز به دامنه جغرافیایی این ممنوعیت‌ها اضافه شده‌اند. خرید سهام در بازار عمومی، صندوق‌های شاخصی و سرمایه‌گذاری‌های کوچک تا سقف ۲ میلیون دلار همچنان مجاز باقی می‌ماند و این مقررات بیشتر سرمایه‌گذاری‌های خطرپذیر (VC) و سهام خصوصی (Private Equity) را هدف قرار می‌دهد.
🇮🇷 سایت | تلگرام
🛡 ابزار NVIDIA برای اسکن امنیتی Skillهای هوش مصنوعی
محققان با بررسی بیش از ۳۱ هزار اسکن برای ایجنت‌های هوش مصنوعی دریافتند که ۲۶ درصد آن‌ها دارای آسیب‌پذیری و بیش از ۵ درصد عملاً مخرب هستند. انویدیا برای مقابله با این تهدیدها، ابزار متن‌باز SkillSpector را منتشر کرده است.
این ابزار با شناسایی ۷۱ الگوی حمله در ۱۷ دسته‌بندی مختلف، ریسک هر Skill را با عددی بین ۰ تا ۱۰۰ ارزیابی می‌کند. مهم‌ترین موارد شناسایی‌شده توسط این ابزار عبارتند از:
* حملات Prompt Injection
* سرقت داده‌ها
* افزایش غیرمجاز سطح دسترسی
* ابزارهای آلوده MCP
SkillSpector امکان بررسی مخازن گیت‌هاب، فایل‌های فشرده یا دایرکتوری‌های محلی را فراهم می‌کند. این ابزار از دو حالت «سریع» (بدون هوش مصنوعی) و «بررسی عمیق» (با کمک مدل‌های زبانی) پشتیبانی کرده و با ابزارهایی مانند Claude Code، Codex و Gemini CLI سازگار است.
🔗 راهنما و نمونه‌کد در سایت
محققان با بررسی بیش از ۳۱ هزار اسکن برای ایجنت‌های هوش مصنوعی دریافتند که ۲۶ درصد آن‌ها دارای آسیب‌پذیری و بیش از ۵ درصد عملاً مخرب هستند. انویدیا برای مقابله با این تهدیدها، ابزار متن‌باز SkillSpector را منتشر کرده است.
این ابزار با شناسایی ۷۱ الگوی حمله در ۱۷ دسته‌بندی مختلف، ریسک هر Skill را با عددی بین ۰ تا ۱۰۰ ارزیابی می‌کند. مهم‌ترین موارد شناسایی‌شده توسط این ابزار عبارتند از:
* حملات Prompt Injection
* سرقت داده‌ها
* افزایش غیرمجاز سطح دسترسی
* ابزارهای آلوده MCP
SkillSpector امکان بررسی مخازن گیت‌هاب، فایل‌های فشرده یا دایرکتوری‌های محلی را فراهم می‌کند. این ابزار از دو حالت «سریع» (بدون هوش مصنوعی) و «بررسی عمیق» (با کمک مدل‌های زبانی) پشتیبانی کرده و با ابزارهایی مانند Claude Code، Codex و Gemini CLI سازگار است.
🔗 راهنما و نمونه‌کد در سایت
❤1
ارتباط ایجنت‌های هوش مصنوعی در محیط‌های ایزوله
OpenAI در آزمایش‌های اخیر خود نشان داده است که ایجنت‌های هوش مصنوعی می‌توانند بدون نیاز به اتصال شبکه یا فایل‌های مشترک، با یکدیگر ارتباط برقرار کنند. این تحقیق ثابت می‌کند که جداسازی نرم‌افزاری و ایزوله کردن محیط‌های اجرا، لزوماً به معنای عدم انتقال اطلاعات بین مدل‌ها نیست.
در این آزمایش، ایجنت‌هایی که در محیط‌های
* استفاده از کش پردازنده (Cache-timing): ایجنت‌ها با مدیریتِ خارج کردن داده‌ها از کش، تفاوت در سرعت خواندن (سریع و کند) ایجاد کردند تا داده‌ها را به شکل بیت‌های اطلاعاتی کدگذاری کنند.
* بار پردازشی CPU: بهره‌برداری از نوسانات در میزان استفاده از پردازنده برای ارسال سیگنال.
* کش گواهی‌نامه‌های TLS: استفاده از تغییرات در وضعیت حافظه پنهان مرتبط با گواهی‌نامه‌ها برای برقراری ارتباط.
🔗 ادامه مطلب در سایت
OpenAI در آزمایش‌های اخیر خود نشان داده است که ایجنت‌های هوش مصنوعی می‌توانند بدون نیاز به اتصال شبکه یا فایل‌های مشترک، با یکدیگر ارتباط برقرار کنند. این تحقیق ثابت می‌کند که جداسازی نرم‌افزاری و ایزوله کردن محیط‌های اجرا، لزوماً به معنای عدم انتقال اطلاعات بین مدل‌ها نیست.
در این آزمایش، ایجنت‌هایی که در محیط‌های
microVM جداگانه قرار داشتند، موفق شدند با استفاده از اثرات جانبی سخت‌افزاری، پیام‌های خود را مبادله کنند. مهم‌ترین روش‌های شناسایی‌شده در این باره عبارتند از:* استفاده از کش پردازنده (Cache-timing): ایجنت‌ها با مدیریتِ خارج کردن داده‌ها از کش، تفاوت در سرعت خواندن (سریع و کند) ایجاد کردند تا داده‌ها را به شکل بیت‌های اطلاعاتی کدگذاری کنند.
* بار پردازشی CPU: بهره‌برداری از نوسانات در میزان استفاده از پردازنده برای ارسال سیگنال.
* کش گواهی‌نامه‌های TLS: استفاده از تغییرات در وضعیت حافظه پنهان مرتبط با گواهی‌نامه‌ها برای برقراری ارتباط.
🔗 ادامه مطلب در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
❤1