🤖 ورود مدل‌های OpenAI به زیرساخت Google Cloud
OpenAI و گوگل کلاود همکاری جدیدی را برای عرضه مدل‌های پیشرو و گردش‌های کاری ایجنتی Codex در بخش Model Garden گوگل کلاود آغاز کردند.
با این همکاری، کاربران سازمانی به این مدل‌ها دسترسی مستقیم خواهند داشت تا فرایندهای ایجنتی را روی زیرساخت و سیستم‌های حکمرانی داده گوگل اجرا کنند. این مدل‌ها در Gemini Agent و Google Antigravity نیز در دسترس قرار خواهند گرفت.
هدف این اقدام، مدرن‌سازی چرخه توسعه نرم‌افزار و تسهیل استفاده از مدل‌های هوش مصنوعی در صنایع دارای مقررات سخت‌گیرانه است، به‌طوری که امکان ترکیب مدل‌های OpenAI با کنترل‌های دسترسی توکار و امنیت متمرکز داده فراهم می‌شود.
📖 متن کامل مقاله در سایت
OpenAI و گوگل کلاود همکاری جدیدی را برای عرضه مدل‌های پیشرو و گردش‌های کاری ایجنتی Codex در بخش Model Garden گوگل کلاود آغاز کردند.
با این همکاری، کاربران سازمانی به این مدل‌ها دسترسی مستقیم خواهند داشت تا فرایندهای ایجنتی را روی زیرساخت و سیستم‌های حکمرانی داده گوگل اجرا کنند. این مدل‌ها در Gemini Agent و Google Antigravity نیز در دسترس قرار خواهند گرفت.
هدف این اقدام، مدرن‌سازی چرخه توسعه نرم‌افزار و تسهیل استفاده از مدل‌های هوش مصنوعی در صنایع دارای مقررات سخت‌گیرانه است، به‌طوری که امکان ترکیب مدل‌های OpenAI با کنترل‌های دسترسی توکار و امنیت متمرکز داده فراهم می‌شود.
📖 متن کامل مقاله در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
🎙️ انتشار مدل هوش مصنوعی Granite Speech 5.0
آی‌بی‌ام مدل Granite Speech 5.0 2B را با مجوز Apache 2.0 عرضه کرد. این مدل ترکیبی از یک انکودر CTC Conformer و مدل زبانی Granite 4.0 1B است که از طریق یک q-former با هم ارتباط دارند.
این مدل می‌تواند همزمان عملیات نویسه‌گردانی (Transcription) و ترجمه گفتار را انجام دهد و از فهرست کلمات کلیدی تا ۲۰۰۰ عبارت پشتیبانی می‌کند. در بنچمارک Open ASR، این مدل با میانگین نرخ خطای کلمه (WER) برابر با ۵.۶۸٪، در جایگاه دوم مدل‌های متن‌باز قرار گرفته است.
سایر مشخصات:
* دارای ۲ میلیارد پارامتر و پشتیبانی از ۶ زبان.
* قابل اجرا در فریم‌ورک‌های Transformers، vLLM، llama.cpp و mlx-audio.
* به‌روزرسانی همزمان Turbo CTC با پشتیبانی از ۷ زبان.
جزئیات فنی و متدولوژی در مقاله منتشر شده قابل مطالعه است.
🔗 جزئیات خبر در سایت
آی‌بی‌ام مدل Granite Speech 5.0 2B را با مجوز Apache 2.0 عرضه کرد. این مدل ترکیبی از یک انکودر CTC Conformer و مدل زبانی Granite 4.0 1B است که از طریق یک q-former با هم ارتباط دارند.
این مدل می‌تواند همزمان عملیات نویسه‌گردانی (Transcription) و ترجمه گفتار را انجام دهد و از فهرست کلمات کلیدی تا ۲۰۰۰ عبارت پشتیبانی می‌کند. در بنچمارک Open ASR، این مدل با میانگین نرخ خطای کلمه (WER) برابر با ۵.۶۸٪، در جایگاه دوم مدل‌های متن‌باز قرار گرفته است.
سایر مشخصات:
* دارای ۲ میلیارد پارامتر و پشتیبانی از ۶ زبان.
* قابل اجرا در فریم‌ورک‌های Transformers، vLLM، llama.cpp و mlx-audio.
* به‌روزرسانی همزمان Turbo CTC با پشتیبانی از ۷ زبان.
جزئیات فنی و متدولوژی در مقاله منتشر شده قابل مطالعه است.
🔗 جزئیات خبر در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
🌐 انتشار وزن‌های مدل هوش مصنوعی MiniMax M3.1 Flash
شرکت MiniMax وزن‌های مدل
مهم‌ترین نتایج بنچمارک‌های اعلام‌شده توسط سازنده:
- کسب امتیاز 73.7 در DeepSWE v1.1 برای وظایف پیچیده توسعه.
- کسب امتیاز 61.7 در OSWorld V2 برای تعامل با رابط‌های کاربری.
- امتیاز 76.2 در BankerToolBench برای سناریوهای بانکی.
- امتیاز 82.2 در CyberGym برای شناسایی و بازتولید آسیب‌پذیری‌ها.
این مدل برای افزایش سرعت در تولید توکن‌ها از تکنیک‌های
🔗 جزئیات خبر در سایت
🇮🇷 سایت | تلگرام
شرکت MiniMax وزن‌های مدل
M3.1 Flash را منتشر کرد. این مدل از معماری MoE با ۴۲۸ میلیارد پارامتر بهره می‌برد که در هر گام پردازشی، حدود ۲۳ میلیارد پارامتر آن فعال می‌شود. تمرکز اصلی این مدل بر انجام وظایف چندمرحله‌ای، توسعه نرم‌افزار، استفاده از ابزارها و مدیریت برنامه‌ها است.مهم‌ترین نتایج بنچمارک‌های اعلام‌شده توسط سازنده:
- کسب امتیاز 73.7 در DeepSWE v1.1 برای وظایف پیچیده توسعه.
- کسب امتیاز 61.7 در OSWorld V2 برای تعامل با رابط‌های کاربری.
- امتیاز 76.2 در BankerToolBench برای سناریوهای بانکی.
- امتیاز 82.2 در CyberGym برای شناسایی و بازتولید آسیب‌پذیری‌ها.
این مدل برای افزایش سرعت در تولید توکن‌ها از تکنیک‌های
Sparse Attention و Speculative Decoding استفاده می‌کند. اگرچه فعال بودن ۲۳ میلیارد پارامتر به کاهش محاسبات کمک می‌کند، اما به دلیل حجم کلی پارامترها، همچنان به زیرساخت‌های سخت‌افزاری قدرتمندی برای میزبانی نیاز دارد. دسترسی به وزن‌ها از طریق Hugging Face و استفاده از سرویس API امکان‌پذیر است.🔗 جزئیات خبر در سایت
🇮🇷 سایت | تلگرام
⚠️ خطر حذف تخصص انسانی با جایگزینی AI
پژوهشگران در مقاله‌ای با عنوان «تراژدی منابع مشترک شناختی» هشدار می‌دهند که اتکای بیش از حد به هوش مصنوعی برای انجام کارهای مقدماتی، می‌تواند روند پرورش متخصصان آینده را مختل کند.
به‌طور سنتی، نیروهای تازه‌کار با انجام وظایف تکراری و حل مسائل پایه، تجربه کسب می‌کنند. با واگذاری این وظایف به هوش مصنوعی، زنجیره یادگیری قطع می‌شود. محققان این پدیده را «افسار اعتبارسنجی» (Validation Tether) می‌نامند: انسان تنها زمانی می‌تواند عملکرد سیستم‌های هوش مصنوعی را نظارت و اصلاح کند که پیش‌زمینه تخصصی کافی برای تشخیص خطاها را داشته باشد.
با بازنشستگی متخصصان فعلی و نبود نسل جدیدی که فرصت یادگیری در مراحل پایه را داشته است، توانایی انسان برای نظارت بر خروجی‌های هوش مصنوعی در پروژه‌های پیچیده به‌شدت کاهش می‌یابد.
جزئیات بیشتر این تحلیل را می‌توانید در نسخه کامل مقاله در آرکایو مطالعه کنید.
🔗 ادامه مطلب در سایت
#Cognitive_Commons #Validation_Tether
پژوهشگران در مقاله‌ای با عنوان «تراژدی منابع مشترک شناختی» هشدار می‌دهند که اتکای بیش از حد به هوش مصنوعی برای انجام کارهای مقدماتی، می‌تواند روند پرورش متخصصان آینده را مختل کند.
به‌طور سنتی، نیروهای تازه‌کار با انجام وظایف تکراری و حل مسائل پایه، تجربه کسب می‌کنند. با واگذاری این وظایف به هوش مصنوعی، زنجیره یادگیری قطع می‌شود. محققان این پدیده را «افسار اعتبارسنجی» (Validation Tether) می‌نامند: انسان تنها زمانی می‌تواند عملکرد سیستم‌های هوش مصنوعی را نظارت و اصلاح کند که پیش‌زمینه تخصصی کافی برای تشخیص خطاها را داشته باشد.
با بازنشستگی متخصصان فعلی و نبود نسل جدیدی که فرصت یادگیری در مراحل پایه را داشته است، توانایی انسان برای نظارت بر خروجی‌های هوش مصنوعی در پروژه‌های پیچیده به‌شدت کاهش می‌یابد.
جزئیات بیشتر این تحلیل را می‌توانید در نسخه کامل مقاله در آرکایو مطالعه کنید.
🔗 ادامه مطلب در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Cognitive_Commons #Validation_Tether
مهندسی معکوس برنامه‌ها با Claude Opus 5.5
این راهنما فرآیند استفاده از Opus 5.5 را برای درک منطق نرم‌افزارها و بازسازی آن‌ها به صورت قانونی شرح می‌دهد. مبنای این کار متد «اتاق تمیز» (Clean-room) است که ۴۰ سال در دادگاه‌ها سابقه تایید دارد.
در این روش، هوش مصنوعی از طریق ابزار REA به یک دیس‌اسمبلر متصل می‌شود تا فایل‌ها و توابع را تحلیل کند. برخلاف روش‌های کرک یا سرقت کد، در اینجا شما فقط رفتار برنامه را استخراج کرده و سپس با کد اختصاصی خود آن را بازسازی می‌کنید.
مهم‌ترین نکات برای شروع:
- استفاده از ابزار REA برای اجرای محلی و بدون آپلود کدها.
- تکیه بر تحلیل فایل‌های اجرایی مانند .exe یا .NET (بدون نیاز به موتور در بازی‌های Unity).
- رعایت تفکیک کامل: مطالعه رفتار در تیم اول و کدنویسی مستقل در تیم دوم برای حفظ مالکیت معنوی.
- استفاده از دستورات (Prompts) متناسب با پیچیدگی کد برای استخراج لاجیک دقیق.
- بررسی خروجی‌ها از طریق گزارش تطابق (Parity Report) جهت اطمینان از عملکرد مشابه.
🔗 راهنمای کامل در سایت
این راهنما فرآیند استفاده از Opus 5.5 را برای درک منطق نرم‌افزارها و بازسازی آن‌ها به صورت قانونی شرح می‌دهد. مبنای این کار متد «اتاق تمیز» (Clean-room) است که ۴۰ سال در دادگاه‌ها سابقه تایید دارد.
در این روش، هوش مصنوعی از طریق ابزار REA به یک دیس‌اسمبلر متصل می‌شود تا فایل‌ها و توابع را تحلیل کند. برخلاف روش‌های کرک یا سرقت کد، در اینجا شما فقط رفتار برنامه را استخراج کرده و سپس با کد اختصاصی خود آن را بازسازی می‌کنید.
مهم‌ترین نکات برای شروع:
- استفاده از ابزار REA برای اجرای محلی و بدون آپلود کدها.
- تکیه بر تحلیل فایل‌های اجرایی مانند .exe یا .NET (بدون نیاز به موتور در بازی‌های Unity).
- رعایت تفکیک کامل: مطالعه رفتار در تیم اول و کدنویسی مستقل در تیم دوم برای حفظ مالکیت معنوی.
- استفاده از دستورات (Prompts) متناسب با پیچیدگی کد برای استخراج لاجیک دقیق.
- بررسی خروجی‌ها از طریق گزارش تطابق (Parity Report) جهت اطمینان از عملکرد مشابه.
🔗 راهنمای کامل در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
🧬 طراحی پروتئین توسط مدل هوش مصنوعی Claude
یک شرکت تحقیقات مالی با صرف ۲۰۰ هزار دلار، توانایی مدل Claude را در طراحی پروتئین‌های جدید آزمایش کرد. در این پروژه، تیمی پنج‌نفره که سه عضو آن فاقد پیش‌زمینه علمی بودند، با استفاده از مدل پیشرفته و داخلی Anthropic اقدام به طراحی کردند.
این تیم با اجرای بیش از ۳۰۰ زیر-عامل (Sub-agents) روی ۳۰۰ واحد پردازش گرافیکی (GPU) در یک شب، موفق به طراحی و ارزیابی پروتئین‌ها شد. تمرکز نهایی این آزمایش بر بررسی زهر عقرب قرار گرفت تا روشی متفاوت از تحقیقات پیشین بر روی زهر مار باشد.
اگرچه این آزمایش نشان داد که ابزارهای هوش مصنوعی دسترسی به تحقیقات زیستی پیچیده را تسهیل کرده‌اند، اما این پروژه با محدودیت‌های جدی روبرو شد:
- لزوم پاسخ به پرسش‌نامه‌های ایمنی زیستی با بیش از ۶۰ سوال فنی.
- دشواری دسترسی به زیرساخت‌های آزمایشگاهی فیزیکی.
- ضرورت وجود پروتکل‌های ایمنی که تیم از آن‌ها بی‌بهره بود.
نتیجه این تجربه، تضاد میان توانایی محاسباتی هوش مصنوعی در تولید ساختارهای زیستی و مانع جدیِ آزمایش‌های فیزیکی و الزامات ایمنی را به وضوح نمایش می‌دهد.
🔗 ادامه مطلب در سایت
یک شرکت تحقیقات مالی با صرف ۲۰۰ هزار دلار، توانایی مدل Claude را در طراحی پروتئین‌های جدید آزمایش کرد. در این پروژه، تیمی پنج‌نفره که سه عضو آن فاقد پیش‌زمینه علمی بودند، با استفاده از مدل پیشرفته و داخلی Anthropic اقدام به طراحی کردند.
این تیم با اجرای بیش از ۳۰۰ زیر-عامل (Sub-agents) روی ۳۰۰ واحد پردازش گرافیکی (GPU) در یک شب، موفق به طراحی و ارزیابی پروتئین‌ها شد. تمرکز نهایی این آزمایش بر بررسی زهر عقرب قرار گرفت تا روشی متفاوت از تحقیقات پیشین بر روی زهر مار باشد.
اگرچه این آزمایش نشان داد که ابزارهای هوش مصنوعی دسترسی به تحقیقات زیستی پیچیده را تسهیل کرده‌اند، اما این پروژه با محدودیت‌های جدی روبرو شد:
- لزوم پاسخ به پرسش‌نامه‌های ایمنی زیستی با بیش از ۶۰ سوال فنی.
- دشواری دسترسی به زیرساخت‌های آزمایشگاهی فیزیکی.
- ضرورت وجود پروتکل‌های ایمنی که تیم از آن‌ها بی‌بهره بود.
نتیجه این تجربه، تضاد میان توانایی محاسباتی هوش مصنوعی در تولید ساختارهای زیستی و مانع جدیِ آزمایش‌های فیزیکی و الزامات ایمنی را به وضوح نمایش می‌دهد.
🔗 ادامه مطلب در سایت
Media is too big
VIEW IN TELEGRAM
🤖 نمایش قابلیت‌های فیزیکی ربات انسان‌نمای Unitree H2-X
شرکت Unitree ویدئوی جدیدی از ربات انسان‌نمای خود با نام H2-X منتشر کرده که در آن با نام مستعار «Kung Fu Legend Guardian» حرکات نمایشی از جمله پشت‌ک‌وارو، پریدن از ارتفاع چهار متری و بلند کردن بدنه خودرو را اجرا می‌کند.
در این ویدئو قابلیت‌های حرکتی ربات در سناریوهای مختلفی از جمله امداد و نجات به نمایش درآمده است. با این حال، جزئیات فنی زیر همچنان مبهم باقی مانده است:
- میزان استقلال ربات در تصمیم‌گیری‌ها طی این صحنه‌های عملیاتی مشخص نیست.
- حداکثر شارژدهی باتری حدود ۸ ساعت اعلام شده، اما شرایط بار کاری (Load) برای رسیدن به این عدد ذکر نشده است.
سازنده در پایان این ویدئو از کاربران خواسته است که در استفاده از این ربات، اصول ایمنی و رفتار دوستانه را رعایت کنند.
#Unitree_H2X #ربات_انسان
شرکت Unitree ویدئوی جدیدی از ربات انسان‌نمای خود با نام H2-X منتشر کرده که در آن با نام مستعار «Kung Fu Legend Guardian» حرکات نمایشی از جمله پشت‌ک‌وارو، پریدن از ارتفاع چهار متری و بلند کردن بدنه خودرو را اجرا می‌کند.
در این ویدئو قابلیت‌های حرکتی ربات در سناریوهای مختلفی از جمله امداد و نجات به نمایش درآمده است. با این حال، جزئیات فنی زیر همچنان مبهم باقی مانده است:
- میزان استقلال ربات در تصمیم‌گیری‌ها طی این صحنه‌های عملیاتی مشخص نیست.
- حداکثر شارژدهی باتری حدود ۸ ساعت اعلام شده، اما شرایط بار کاری (Load) برای رسیدن به این عدد ذکر نشده است.
سازنده در پایان این ویدئو از کاربران خواسته است که در استفاده از این ربات، اصول ایمنی و رفتار دوستانه را رعایت کنند.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Unitree_H2X #ربات_انسان
🤖 انتشار مدل زبانی Kimi K3.1 Pro
مدل Kimi K3.1 Pro به‌تازگی معرفی شد. وزن‌های این مدل قرار است از تاریخ ۴ نوامبر منتشر شود، اما در حال حاضر از طریق پلتفرم رسمی در دسترس است. قیمت استفاده از API این مدل نسبت به نسخه K3 کاهش یافته، هرچند نسخه Highspeed آن که سرعت تولید بالاتری دارد، با قیمت کمی متفاوت ارائه می‌شود.
نتایج بنچمارک‌های منتشر شده برای این مدل نشان‌دهنده عملکرد آن در کنار مدل‌هایی نظیر Opus 5.5 و GPT-6 Astra است. مهم‌ترین امتیازات کسب‌شده توسط Kimi K3.1 Pro در آزمون‌های مختلف به شرح زیر است:
* SWE Marathon: امتیاز ۵۱.۷ (رتبه اول)
* Agents' Last Exam: امتیاز ۴۳.۲ (رتبه اول)
* OfficeQA Pro v2: امتیاز ۶۴.۴ (رتبه اول)
* Kimi Code Bench 3.0: امتیاز ۶۱.۲ (رتبه دوم)
* Terminal-Bench 4.0: امتیاز ۶۵.۷ (رتبه دوم)
🔗 بررسی کامل در سایت
#Kimi_K3_1_Pro #SWEMarathon
مدل Kimi K3.1 Pro به‌تازگی معرفی شد. وزن‌های این مدل قرار است از تاریخ ۴ نوامبر منتشر شود، اما در حال حاضر از طریق پلتفرم رسمی در دسترس است. قیمت استفاده از API این مدل نسبت به نسخه K3 کاهش یافته، هرچند نسخه Highspeed آن که سرعت تولید بالاتری دارد، با قیمت کمی متفاوت ارائه می‌شود.
نتایج بنچمارک‌های منتشر شده برای این مدل نشان‌دهنده عملکرد آن در کنار مدل‌هایی نظیر Opus 5.5 و GPT-6 Astra است. مهم‌ترین امتیازات کسب‌شده توسط Kimi K3.1 Pro در آزمون‌های مختلف به شرح زیر است:
* SWE Marathon: امتیاز ۵۱.۷ (رتبه اول)
* Agents' Last Exam: امتیاز ۴۳.۲ (رتبه اول)
* OfficeQA Pro v2: امتیاز ۶۴.۴ (رتبه اول)
* Kimi Code Bench 3.0: امتیاز ۶۱.۲ (رتبه دوم)
* Terminal-Bench 4.0: امتیاز ۶۵.۷ (رتبه دوم)
🔗 بررسی کامل در سایت
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Kimi_K3_1_Pro #SWEMarathon
❤1
🧠 مقایسه عملکرد مدل‌های Claude، GPT-6، Gemini و DeepSeek
شاخص مستقل Artificial Analysis در جدیدترین ارزیابی خود، مدل Claude Opus 5.5 را در بخش توانمندی هوشی با کسب ۵۸ امتیاز در رتبه نخست قرار داده است. در این رده‌بندی، GPT-6 Astra و Gemini 4 Argon به ترتیب ۵۳ امتیاز کسب کرده‌اند.
با این حال، در تست صداقت یا AA-Omniscience نتایج متفاوتی مشاهده می‌شود:
* مدل Argon در ۱۵٪ مواقع پاسخ‌های ساختگی ارائه می‌دهد و تمایل بیشتری به پاسخ ندادن دارد.
* مدل Astra در ۵۱٪ موارد دچار خطا در پاسخ‌دهی می‌شود.
* مدل Opus 5.5 در ۵۸.۶٪ موارد پاسخ‌های نادرست یا ساختگی تولید می‌کند.
از نظر هزینه‌ها، DeepSeek V4.1 Flash به عنوان تنها مدل متن‌باز این لیست، با قیمت ۱.۲ دلار به ازای هر میلیون توکن خروجی، ارزان‌ترین گزینه است. در مقابل، هزینه مدل‌های Claude و Astra به ترتیب ۲۰ و ۵۰ دلار است و مدل Argon نیز با قیمت ۱۰ دلار در حال عرضه است.
🔗 بررسی کامل در سایت
شاخص مستقل Artificial Analysis در جدیدترین ارزیابی خود، مدل Claude Opus 5.5 را در بخش توانمندی هوشی با کسب ۵۸ امتیاز در رتبه نخست قرار داده است. در این رده‌بندی، GPT-6 Astra و Gemini 4 Argon به ترتیب ۵۳ امتیاز کسب کرده‌اند.
با این حال، در تست صداقت یا AA-Omniscience نتایج متفاوتی مشاهده می‌شود:
* مدل Argon در ۱۵٪ مواقع پاسخ‌های ساختگی ارائه می‌دهد و تمایل بیشتری به پاسخ ندادن دارد.
* مدل Astra در ۵۱٪ موارد دچار خطا در پاسخ‌دهی می‌شود.
* مدل Opus 5.5 در ۵۸.۶٪ موارد پاسخ‌های نادرست یا ساختگی تولید می‌کند.
از نظر هزینه‌ها، DeepSeek V4.1 Flash به عنوان تنها مدل متن‌باز این لیست، با قیمت ۱.۲ دلار به ازای هر میلیون توکن خروجی، ارزان‌ترین گزینه است. در مقابل، هزینه مدل‌های Claude و Astra به ترتیب ۲۰ و ۵۰ دلار است و مدل Argon نیز با قیمت ۱۰ دلار در حال عرضه است.
🔗 بررسی کامل در سایت
🚨 اخراج سه محقق ایمنی OpenAI به اتهام افشای اطلاعات
طبق گزارش وال‌استریت ژورنال، شرکت OpenAI سه پژوهشگر حوزه ایمنی شامل ژاسمین وانگ، تومک کورباک و میکیتا بالاسنی را به اتهام به اشتراک‌گذاری طرح‌های داخلی مدل‌ها با یک محقق بیرونی اخراج کرده است. گفته می‌شود این ارتباطات از طریق پیام‌های خودحذف‌شونده در پیام‌رسان سیگنال صورت گرفته است.
OpenAI این رویداد را نقض جدی مقررات داده‌های حساس دانسته، اما پژوهشگران روایت متفاوتی دارند. کورباک و بالاسنی علت اخراج را نحوه تعامل خود با سازمان‌های ارزیابی ایمنی مثل METR می‌دانند و وانگ می‌گوید به‌دلیل بازکردن تصادفی یک ایمیل حساس و گزارش سریع آن برکنار شده است.
این سه نفر پس از اخراج، در نامه‌ای به هیئت‌مدیره خواستار توقف توسعه مدل‌هایی شدند که نحوه استدلال آن‌ها برای انسان قابل راستی‌آزمایی نیست.
طبق گزارش وال‌استریت ژورنال، شرکت OpenAI سه پژوهشگر حوزه ایمنی شامل ژاسمین وانگ، تومک کورباک و میکیتا بالاسنی را به اتهام به اشتراک‌گذاری طرح‌های داخلی مدل‌ها با یک محقق بیرونی اخراج کرده است. گفته می‌شود این ارتباطات از طریق پیام‌های خودحذف‌شونده در پیام‌رسان سیگنال صورت گرفته است.
OpenAI این رویداد را نقض جدی مقررات داده‌های حساس دانسته، اما پژوهشگران روایت متفاوتی دارند. کورباک و بالاسنی علت اخراج را نحوه تعامل خود با سازمان‌های ارزیابی ایمنی مثل METR می‌دانند و وانگ می‌گوید به‌دلیل بازکردن تصادفی یک ایمیل حساس و گزارش سریع آن برکنار شده است.
این سه نفر پس از اخراج، در نامه‌ای به هیئت‌مدیره خواستار توقف توسعه مدل‌هایی شدند که نحوه استدلال آن‌ها برای انسان قابل راستی‌آزمایی نیست.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
مهندسی معکوس با ابزار REA و مدل Opus 5.5
ابزار REA (مخفف Reverse Engineer Anything) به همراه مدل Opus 5.5، امکان بررسی و بازسازی ویژگی‌های نرم‌افزارهای بسته (بدون دسترسی به سورس‌کد) را فراهم کرده است. این ابزار با تحلیل باینری، به ایجنت‌های کدنویسی اجازه می‌دهد تا منطق یک برنامه را استخراج و نسخه شخصی‌سازی‌شده‌ای از آن را بازسازی کنند.
در این فرآیند، نقش Oracle (تأییدکننده) حیاتی است. از آنجا که مدل‌های هوش مصنوعی ممکن است در بازسازی کد دچار خطا شوند، «اوراکل» مجموعه‌ای از تست‌ها و کنترل‌هاست که صحت عملکرد خروجی را با معیارهای دقیق (مانند خروجی عددی یا رفتار برنامه) می‌سنجد.
مهم‌ترین نکات برای استفاده از این متدولوژی:
* تست اوراکل: پیش از اعتماد به نتایج، باید برای اوراکل تست‌های منفی طراحی کنید (مثلاً وارد کردن مقادیر اشتباه) تا مطمئن شوید ابزار کنترلی شما دچار خطای پنهان نیست.
* معماری اتاق تمیز (Clean-Room): برای رعایت مسائل حقوقی، تیم‌های موفق به جای کپی کد، رفتار برنامه را مشاهده و از نو پیاده‌سازی می‌کنند.
🔗 راهنمای کامل در سایت
🇮🇷 سایت | تلگرام
ابزار REA (مخفف Reverse Engineer Anything) به همراه مدل Opus 5.5، امکان بررسی و بازسازی ویژگی‌های نرم‌افزارهای بسته (بدون دسترسی به سورس‌کد) را فراهم کرده است. این ابزار با تحلیل باینری، به ایجنت‌های کدنویسی اجازه می‌دهد تا منطق یک برنامه را استخراج و نسخه شخصی‌سازی‌شده‌ای از آن را بازسازی کنند.
در این فرآیند، نقش Oracle (تأییدکننده) حیاتی است. از آنجا که مدل‌های هوش مصنوعی ممکن است در بازسازی کد دچار خطا شوند، «اوراکل» مجموعه‌ای از تست‌ها و کنترل‌هاست که صحت عملکرد خروجی را با معیارهای دقیق (مانند خروجی عددی یا رفتار برنامه) می‌سنجد.
مهم‌ترین نکات برای استفاده از این متدولوژی:
* تست اوراکل: پیش از اعتماد به نتایج، باید برای اوراکل تست‌های منفی طراحی کنید (مثلاً وارد کردن مقادیر اشتباه) تا مطمئن شوید ابزار کنترلی شما دچار خطای پنهان نیست.
* معماری اتاق تمیز (Clean-Room): برای رعایت مسائل حقوقی، تیم‌های موفق به جای کپی کد، رفتار برنامه را مشاهده و از نو پیاده‌سازی می‌کنند.
🔗 راهنمای کامل در سایت
🇮🇷 سایت | تلگرام