ابزار VeriHarness برای راستیآزمایی خروجی مدلهای هوش مصنوعی
گوگل و دانشگاه کمبریج ابزار متنباز VeriHarness را برای بررسی نتایج وظایف طولانیمدت مدلهای زبانی منتشر کردند. این سیستم با استفاده از همان مدلی که وظیفه را انجام داده است، خروجیهای مختلف را ارزیابی و اصلاح میکند.
نحوه عملکرد این ابزار به این صورت است:
* بررسی اختلافات: در مواردی که تلاشهای مختلف مدل نتایج متفاوتی دارند، VeriHarness با بررسی محیط، بهترین گزینه را انتخاب میکند.
* ارزیابی اجماع: سیستم حتی در مواردی که تمام خروجیهای مدل یکسان هستند، صحت محاسبات و دادهها را بازبینی میکند تا خطاهای احتمالی را شناسایی کند.
* اصلاح خودکار: خروجی نهایی به همراه گزارش کامل از فرآیند اصلاح و دلایل آن ارائه میشود.
توسعهدهندگان این پروژه حدود ۲۶ هزار نمونه از فعالیت عاملهای Gemini 3.5 Flash و Opus 4.8 را نیز برای استفاده عمومی منتشر کردهاند. در آزمایشهای انجام شده روی بنچمارکهایی مانند APEX-Agents، استفاده از VeriHarness دقت مدلها را بهطور میانگین افزایش داده است.
جزئیات بیشتر شامل کد پروژه، مقاله و مجموعه داده در دسترس است.
گوگل و دانشگاه کمبریج ابزار متنباز VeriHarness را برای بررسی نتایج وظایف طولانیمدت مدلهای زبانی منتشر کردند. این سیستم با استفاده از همان مدلی که وظیفه را انجام داده است، خروجیهای مختلف را ارزیابی و اصلاح میکند.
نحوه عملکرد این ابزار به این صورت است:
* بررسی اختلافات: در مواردی که تلاشهای مختلف مدل نتایج متفاوتی دارند، VeriHarness با بررسی محیط، بهترین گزینه را انتخاب میکند.
* ارزیابی اجماع: سیستم حتی در مواردی که تمام خروجیهای مدل یکسان هستند، صحت محاسبات و دادهها را بازبینی میکند تا خطاهای احتمالی را شناسایی کند.
* اصلاح خودکار: خروجی نهایی به همراه گزارش کامل از فرآیند اصلاح و دلایل آن ارائه میشود.
توسعهدهندگان این پروژه حدود ۲۶ هزار نمونه از فعالیت عاملهای Gemini 3.5 Flash و Opus 4.8 را نیز برای استفاده عمومی منتشر کردهاند. در آزمایشهای انجام شده روی بنچمارکهایی مانند APEX-Agents، استفاده از VeriHarness دقت مدلها را بهطور میانگین افزایش داده است.
جزئیات بیشتر شامل کد پروژه، مقاله و مجموعه داده در دسترس است.
⚡ معرفی مدل Claude Haiku 5.5
شرکت Anthropic مدل Claude Haiku 5.5 را بهعنوان سریعترین و اقتصادیترین گزینه در نسل جدید مدلهای خود معرفی کرد. این مدل برای کاربردهایی با نیاز به سرعت بالا و هزینه پایین، مانند پردازش انبوه درخواستها، سیستمهای طبقهبندی و خودکارسازی، بهینهسازی شده است.
در خانواده Claude 5.5، این مدل در کنار Opus 5.5 (حداکثر توانمندی) و Sonnet 5.5 (تعادل بین کیفیت و هزینه) قرار میگیرد. بر اساس دادههای منتشرشده، Haiku 5.5 در بنچمارکهای مختلف عملکرد قابلتوجهی نسبت به نسل قبل نشان میدهد:
* در شاخص Knowledge work (بنچمارک GDPval-AA v2.1) امتیاز ۱۶۲۰ را کسب کرده است.
* در عملکرد Computer use (بنچمارک OSWorld 2.1) به دقت ۷۲.۴ درصد رسیده است.
* در حل مسائل استدلالی چندرشتهای (Humanity's Last Exam بدون ابزار) امتیاز ۴۵.۹ درصد را ثبت کرده است.
* در وظایف برنامهنویسی ایجنتی (Terminal-Bench 4.0) امتیاز ۳۹.۲ درصد دارد.
* در استدلال بصری (Chartography) به امتیاز ۴۶.۴ درصد رسیده است.
این نتایج نشان میدهد که Haiku 5.5 از نظر کیفی به مدلهای بزرگتر نسلهای پیشین نزدیک شده است.
شرکت Anthropic مدل Claude Haiku 5.5 را بهعنوان سریعترین و اقتصادیترین گزینه در نسل جدید مدلهای خود معرفی کرد. این مدل برای کاربردهایی با نیاز به سرعت بالا و هزینه پایین، مانند پردازش انبوه درخواستها، سیستمهای طبقهبندی و خودکارسازی، بهینهسازی شده است.
در خانواده Claude 5.5، این مدل در کنار Opus 5.5 (حداکثر توانمندی) و Sonnet 5.5 (تعادل بین کیفیت و هزینه) قرار میگیرد. بر اساس دادههای منتشرشده، Haiku 5.5 در بنچمارکهای مختلف عملکرد قابلتوجهی نسبت به نسل قبل نشان میدهد:
* در شاخص Knowledge work (بنچمارک GDPval-AA v2.1) امتیاز ۱۶۲۰ را کسب کرده است.
* در عملکرد Computer use (بنچمارک OSWorld 2.1) به دقت ۷۲.۴ درصد رسیده است.
* در حل مسائل استدلالی چندرشتهای (Humanity's Last Exam بدون ابزار) امتیاز ۴۵.۹ درصد را ثبت کرده است.
* در وظایف برنامهنویسی ایجنتی (Terminal-Bench 4.0) امتیاز ۳۹.۲ درصد دارد.
* در استدلال بصری (Chartography) به امتیاز ۴۶.۴ درصد رسیده است.
این نتایج نشان میدهد که Haiku 5.5 از نظر کیفی به مدلهای بزرگتر نسلهای پیشین نزدیک شده است.
🤖 قابلیت آپلود مستقیم فایل صوتی در ChatGPT
پلتفرم ChatGPT اکنون از فایلهای صوتی پشتیبانی میکند. کاربران نسخههای پولی (Plus) و محیطهای کاری میتوانند فایلهای ضبطشده خود را برای پردازش در محیط گفتگو بارگذاری کنند.
این قابلیت امکانات زیر را در اختیار کاربر قرار میدهد:
* دریافت متن کامل (Transcript) فایل صوتی
* خلاصهسازی محتوای جلسات یا سخنرانیها
* پرسش و پاسخ درباره جزئیاتِ فایل ضبطشده
فایلهای صوتی با فرمتهای MP3، WAV و M4A تا سقف ۵۱۲ مگابایت قابل بارگذاری هستند. عملکرد خروجی ممکن است بسته به زبان فایل و مدل انتخابی متغیر باشد و OpenAI هشدار داده که متون استخراجشده احتمال خطای انسانی دارند. دسترسی به این ویژگی بر اساس منطقه جغرافیایی و نوع اشتراک تعیین میشود. اطلاعات تکمیلی در مستندات راهنمای OpenAI موجود است.
#ChatGPT #Audio_Uploads
پلتفرم ChatGPT اکنون از فایلهای صوتی پشتیبانی میکند. کاربران نسخههای پولی (Plus) و محیطهای کاری میتوانند فایلهای ضبطشده خود را برای پردازش در محیط گفتگو بارگذاری کنند.
این قابلیت امکانات زیر را در اختیار کاربر قرار میدهد:
* دریافت متن کامل (Transcript) فایل صوتی
* خلاصهسازی محتوای جلسات یا سخنرانیها
* پرسش و پاسخ درباره جزئیاتِ فایل ضبطشده
فایلهای صوتی با فرمتهای MP3، WAV و M4A تا سقف ۵۱۲ مگابایت قابل بارگذاری هستند. عملکرد خروجی ممکن است بسته به زبان فایل و مدل انتخابی متغیر باشد و OpenAI هشدار داده که متون استخراجشده احتمال خطای انسانی دارند. دسترسی به این ویژگی بر اساس منطقه جغرافیایی و نوع اشتراک تعیین میشود. اطلاعات تکمیلی در مستندات راهنمای OpenAI موجود است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#ChatGPT #Audio_Uploads
⚡️ افزایش بیسابقه تقاضای برق در آمریکا بهدلیل مراکز داده هوش مصنوعی
طبق گزارش جدید EIA، مصرف برق در ایالات متحده طی سالهای ۲۰۲۶ و ۲۰۲۷ رکوردهای تازهای ثبت خواهد کرد. رشد فعالیت مراکز داده برای آموزش و اجرای سیستمهای هوش مصنوعی، عامل اصلی این افزایش است.
پیشبینیها نشان میدهد مصرف برق از ۴.۱۹۵ تریلیون کیلوواتساعت در سال ۲۰۲۵ به ۴.۲۸۸ تریلیون در سال ۲۰۲۶ و ۴.۳۵۶ تریلیون در سال ۲۰۲۷ برسد. این روند به معنای اضافه شدن ۱۶۱ میلیارد کیلوواتساعت تقاضای جدید تنها در بازه زمانی دو ساله است.
#Data_Centers #EIA
طبق گزارش جدید EIA، مصرف برق در ایالات متحده طی سالهای ۲۰۲۶ و ۲۰۲۷ رکوردهای تازهای ثبت خواهد کرد. رشد فعالیت مراکز داده برای آموزش و اجرای سیستمهای هوش مصنوعی، عامل اصلی این افزایش است.
پیشبینیها نشان میدهد مصرف برق از ۴.۱۹۵ تریلیون کیلوواتساعت در سال ۲۰۲۵ به ۴.۲۸۸ تریلیون در سال ۲۰۲۶ و ۴.۳۵۶ تریلیون در سال ۲۰۲۷ برسد. این روند به معنای اضافه شدن ۱۶۱ میلیارد کیلوواتساعت تقاضای جدید تنها در بازه زمانی دو ساله است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Data_Centers #EIA
🤖 عرضه مدل FleXray برای شناسایی ساختارهای آناتومیک در تصاویر رادیولوژی
محققان MIT با همکاری بیمارستان عمومی ماساچوست و دانشکده پزشکی هاروارد، مدل FleXray را برای تحلیل تصاویر رادیولوژی معرفی کردند. این مدل قادر است ۶۰ ساختار آناتومیک مختلف، از ستون فقرات و دندهها تا استخوانهای لگن و اندامها را شناسایی و تفکیک کند.
ویژگیهای فنی این مدل:
• پشتیبانی از انواع تصاویر شامل نماهای استاندارد، مورب و تصاویر فلوروسکوپی حین جراحی.
• استفاده از معماری
• قابلیت محاسبه خودکار پارامترهایی مانند زاویه انحنای ستون فقرات در موارد اسکولیوز.
• امکان انطباق تصاویر رادیولوژی با دادههای 3D CT برای کمک به ناوبری در حین مداخلات پزشکی.
طبق نتایج آزمایشها، FleXray در اکثر معیارها نسبت به مدلهایی نظیر TotalSegmentator2D عملکرد دقیقتری داشته است. این مدل، برخلاف برخی ابزارهای مشابه، روی تشخیص آناتومی تمرکز دارد و بیماریشناسی را هدف قرار نمیدهد.
محققان MIT با همکاری بیمارستان عمومی ماساچوست و دانشکده پزشکی هاروارد، مدل FleXray را برای تحلیل تصاویر رادیولوژی معرفی کردند. این مدل قادر است ۶۰ ساختار آناتومیک مختلف، از ستون فقرات و دندهها تا استخوانهای لگن و اندامها را شناسایی و تفکیک کند.
ویژگیهای فنی این مدل:
• پشتیبانی از انواع تصاویر شامل نماهای استاندارد، مورب و تصاویر فلوروسکوپی حین جراحی.
• استفاده از معماری
U-Net که به صورت مجموعهای (Ensemble) از پنج شبکه برای افزایش دقت پردازش میشود.• قابلیت محاسبه خودکار پارامترهایی مانند زاویه انحنای ستون فقرات در موارد اسکولیوز.
• امکان انطباق تصاویر رادیولوژی با دادههای 3D CT برای کمک به ناوبری در حین مداخلات پزشکی.
طبق نتایج آزمایشها، FleXray در اکثر معیارها نسبت به مدلهایی نظیر TotalSegmentator2D عملکرد دقیقتری داشته است. این مدل، برخلاف برخی ابزارهای مشابه، روی تشخیص آناتومی تمرکز دارد و بیماریشناسی را هدف قرار نمیدهد.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
🎨 معرفی Gamma 5: بازطراحی پلتفرم ساخت پرزنت
تیم Gamma نسخه جدید پلتفرم خود با نام Gamma 5 را منتشر کرد. هدف از این بازطراحی، عبور از خروجیهای مشابه و کلیشهای ابزارهای هوش مصنوعی و ارائه قابلیتهای شخصیسازی بیشتر برای کاربران است.
در این نسخه، امکان طراحی ارائه، داکیومنت و محتوای گرافیکی مطابق با سبک بصری اختصاصی هر برند فراهم شده است. تیم سازنده با بهرهگیری از مدلهای تصویرسازی پیشرفته، ابزارهای ویرایش، ایجنتها و کانکتورها را بهطور کامل بازنویسی کردهاند تا کاربران بتوانند ایدههای خام خود را به پرزنتهایی با ظاهر منحصربهفرد تبدیل کنند. این ابزار برای طراحان، بنیانگذاران و دانشجویانی که نیاز به تولید سریع محتوای بصری دارند، بازطراحی شده است.
#Gamma5 #تنوع_بصری
تیم Gamma نسخه جدید پلتفرم خود با نام Gamma 5 را منتشر کرد. هدف از این بازطراحی، عبور از خروجیهای مشابه و کلیشهای ابزارهای هوش مصنوعی و ارائه قابلیتهای شخصیسازی بیشتر برای کاربران است.
در این نسخه، امکان طراحی ارائه، داکیومنت و محتوای گرافیکی مطابق با سبک بصری اختصاصی هر برند فراهم شده است. تیم سازنده با بهرهگیری از مدلهای تصویرسازی پیشرفته، ابزارهای ویرایش، ایجنتها و کانکتورها را بهطور کامل بازنویسی کردهاند تا کاربران بتوانند ایدههای خام خود را به پرزنتهایی با ظاهر منحصربهفرد تبدیل کنند. این ابزار برای طراحان، بنیانگذاران و دانشجویانی که نیاز به تولید سریع محتوای بصری دارند، بازطراحی شده است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Gamma5 #تنوع_بصری
📊 رتبهبندی ۱۰۰ اپلیکیشن برتر هوش مصنوعی
صندوق سرمایهگذاری a16z فهرست جدیدی از ۱۰۰ محصول مصرفی هوش مصنوعی را بر اساس معیارهای مختلف منتشر کرده است. این رتبهبندی شامل هم سرویسهای تخصصی هوش مصنوعی و هم اپلیکیشنهای محبوبی است که هوش مصنوعی را به بخشی از تجربه کاربری خود تبدیل کردهاند.
نکته قابلتوجه در این دادهها، تفاوت میان رتبهبندی بر اساس «تعداد کاربران فعال» (MAU) و «درآمد» است. اپلیکیشنهایی نظیر ChatGPT، CapCut و Gemini در صدر لیست کاربران قرار دارند، اما لیست درآمدی شامل ابزارهای تخصصیتری مانند OpenAI، Anthropic، Canva و Replit است.
دادهها نشان میدهند که درآمد اصلی این بازار نه از کاربران عادی، بلکه از کسانی تأمین میشود که هوش مصنوعی را به عنوان یک «ابزار کاری» خریداری میکنند. بخش بزرگی از سرویسهای پردرآمد در لیست پربازدیدترینها حضور ندارند که تأیید میکند تمایل به پرداخت برای هوش مصنوعیِ ادغامشده در ابزارهای کاربردی، بیش از چتباتهای عمومی است.
#a16z #ConsumerAI
صندوق سرمایهگذاری a16z فهرست جدیدی از ۱۰۰ محصول مصرفی هوش مصنوعی را بر اساس معیارهای مختلف منتشر کرده است. این رتبهبندی شامل هم سرویسهای تخصصی هوش مصنوعی و هم اپلیکیشنهای محبوبی است که هوش مصنوعی را به بخشی از تجربه کاربری خود تبدیل کردهاند.
نکته قابلتوجه در این دادهها، تفاوت میان رتبهبندی بر اساس «تعداد کاربران فعال» (MAU) و «درآمد» است. اپلیکیشنهایی نظیر ChatGPT، CapCut و Gemini در صدر لیست کاربران قرار دارند، اما لیست درآمدی شامل ابزارهای تخصصیتری مانند OpenAI، Anthropic، Canva و Replit است.
دادهها نشان میدهند که درآمد اصلی این بازار نه از کاربران عادی، بلکه از کسانی تأمین میشود که هوش مصنوعی را به عنوان یک «ابزار کاری» خریداری میکنند. بخش بزرگی از سرویسهای پردرآمد در لیست پربازدیدترینها حضور ندارند که تأیید میکند تمایل به پرداخت برای هوش مصنوعیِ ادغامشده در ابزارهای کاربردی، بیش از چتباتهای عمومی است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#a16z #ConsumerAI
❤1
هوش مصنوعی و علم داده به فارسی
⚡ معرفی مدل Claude Haiku 5.5 شرکت Anthropic مدل Claude Haiku 5.5 را بهعنوان سریعترین و اقتصادیترین گزینه در نسل جدید مدلهای خود معرفی کرد. این مدل برای کاربردهایی با نیاز به سرعت بالا و هزینه پایین، مانند پردازش انبوه درخواستها، سیستمهای طبقهبندی…
🤖 انتشار مدل Claude Haiku
شرکت Anthropic نسخه جدید Claude Haiku 5.5 را عرضه کرد. مهمترین تغییرات و ویژگیهای فنی این مدل به شرح زیر است:
- هزینه اجرای این مدل بهطور میانگین ۷۵ درصد کمتر از نسخه 4.5 است.
- برای درخواستهای کمتر از ۱۰۰ هزار توکن، قیمت ۹۰ درصد کاهش یافته و در پردازشهای طولانیتر نیز هزینهها حدود ۵۰ درصد کمتر شده است.
- عملکرد مدل در کدنویسی، تعامل با محیط کامپیوتر و بازیابی دانش پیشرفت قابلتوجهی داشته است.
- برای نخستین بار قابلیت تنظیم
- مدل بهصورت اختصاصی برای نقش «زیر-عامل» (Sub-agent) در کنار مدلهای Opus و Sonnet، و همچنین انجام پردازشهای انبوه مانند خلاصهسازی، طبقهبندی دادهها و پشتیبانی فنی بهینهسازی شده است.
#Claude_Haiku_5_5 #Sub_agent
شرکت Anthropic نسخه جدید Claude Haiku 5.5 را عرضه کرد. مهمترین تغییرات و ویژگیهای فنی این مدل به شرح زیر است:
- هزینه اجرای این مدل بهطور میانگین ۷۵ درصد کمتر از نسخه 4.5 است.
- برای درخواستهای کمتر از ۱۰۰ هزار توکن، قیمت ۹۰ درصد کاهش یافته و در پردازشهای طولانیتر نیز هزینهها حدود ۵۰ درصد کمتر شده است.
- عملکرد مدل در کدنویسی، تعامل با محیط کامپیوتر و بازیابی دانش پیشرفت قابلتوجهی داشته است.
- برای نخستین بار قابلیت تنظیم
effort اضافه شده که به کاربر امکان میدهد میان هزینه و کیفیت خروجی، توازن ایجاد کند.- مدل بهصورت اختصاصی برای نقش «زیر-عامل» (Sub-agent) در کنار مدلهای Opus و Sonnet، و همچنین انجام پردازشهای انبوه مانند خلاصهسازی، طبقهبندی دادهها و پشتیبانی فنی بهینهسازی شده است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#Claude_Haiku_5_5 #Sub_agent
🚀 عرضه حالت Ultrafast برای مدل GPT-6.1 Sol
شرکت OpenAI حالت جدید Ultrafast را برای مدل GPT-6.1 Sol منتشر کرد. این حالت در سرویسهای Codex و Work برای کاربران اشتراکی ۵۰۰ دلاری فعال شده و از طریق API نیز در دسترس است.
برخلاف تصور، در این مدل از سختافزارهای Cerebras استفاده نشده است و پردازش آن بر روی تراشههای Nvidia Blackwell با اندازه دستههای (batch size) کوچک انجام میشود. ظرفیتهای اینفرنس بر روی سختافزار Cerebras نیز توسط شرکتهای فعال در حوزه معاملات الگوریتمی، از جمله Jane Street، خریداری شده است.
قیمتگذاری و مشخصات عملکرد نسخههای مختلف GPT-6.1 Sol به شرح زیر است:
* Ultrafast: با سرعت ۸ برابر نسبت به نسخه استاندارد؛ هزینه ورودی ۱۲ دلار و خروجی ۶۰ دلار به ازای هر میلیون توکن.
* Fast: با سرعت ۲ برابر نسبت به نسخه استاندارد؛ هزینه ورودی ۴ دلار و خروجی ۲۰ دلار.
* Standard: نسخه پایه با هزینه ورودی ۲ دلار و خروجی ۱۰ دلار.
در مقایسه، مدل GPT-6 Astra (نسخه استاندارد) هزینهای معادل ۱۰ دلار برای ورودی و ۵۰ دلار برای خروجی دارد.
🇮🇷 سایت | تلگرام
شرکت OpenAI حالت جدید Ultrafast را برای مدل GPT-6.1 Sol منتشر کرد. این حالت در سرویسهای Codex و Work برای کاربران اشتراکی ۵۰۰ دلاری فعال شده و از طریق API نیز در دسترس است.
برخلاف تصور، در این مدل از سختافزارهای Cerebras استفاده نشده است و پردازش آن بر روی تراشههای Nvidia Blackwell با اندازه دستههای (batch size) کوچک انجام میشود. ظرفیتهای اینفرنس بر روی سختافزار Cerebras نیز توسط شرکتهای فعال در حوزه معاملات الگوریتمی، از جمله Jane Street، خریداری شده است.
قیمتگذاری و مشخصات عملکرد نسخههای مختلف GPT-6.1 Sol به شرح زیر است:
* Ultrafast: با سرعت ۸ برابر نسبت به نسخه استاندارد؛ هزینه ورودی ۱۲ دلار و خروجی ۶۰ دلار به ازای هر میلیون توکن.
* Fast: با سرعت ۲ برابر نسبت به نسخه استاندارد؛ هزینه ورودی ۴ دلار و خروجی ۲۰ دلار.
* Standard: نسخه پایه با هزینه ورودی ۲ دلار و خروجی ۱۰ دلار.
در مقایسه، مدل GPT-6 Astra (نسخه استاندارد) هزینهای معادل ۱۰ دلار برای ورودی و ۵۰ دلار برای خروجی دارد.
🇮🇷 سایت | تلگرام
📊 معرفی شاخص همسویی Arena برای ارزیابی مدلهای هوش مصنوعی
تیم Arena شاخص جدیدی با نام Alignment Index را برای سنجش ایمنی و همسویی مدلهای هوش مصنوعی در محیطهای واقعی منتشر کرد. این بنچمارک بر پایه ۹۰ هزار نشست کاری با ۲۷ مدل مختلف طراحی شده و سه شاخص اصلی را اندازهگیری میکند:
- اقدام غیرمجاز (UA): انجام عملی خارج از دستورات یا فراتر از سطح دسترسی کاربر.
- انتساب نادرست (FA): استناد به گفتهها یا اقداماتی که با مدارک کاربر در تضاد است.
- تکمیل فریبنده (DC): ادعای اتمام وظیفه در شرایطی که کار تکمیل نشده است.
در نتایج اولیه این شاخص، مدلهای OpenAI با مدل
بر اساس تحلیلهای این بنچمارک، ریسک عدمهمسویی با افزایش طول مکالمه بیشتر میشود و هرچند اقدامات خطرناک مدلها نادر است، اما وقوع آنها پیامدهای جدی به همراه دارد. با این حال، مقایسه نسلهای مختلف مدلها نشان میدهد که عملکرد ایمنی و همسویی در نسخههای جدیدتر بهبود یافته است.
🇮🇷 سایت | تلگرام
تیم Arena شاخص جدیدی با نام Alignment Index را برای سنجش ایمنی و همسویی مدلهای هوش مصنوعی در محیطهای واقعی منتشر کرد. این بنچمارک بر پایه ۹۰ هزار نشست کاری با ۲۷ مدل مختلف طراحی شده و سه شاخص اصلی را اندازهگیری میکند:
- اقدام غیرمجاز (UA): انجام عملی خارج از دستورات یا فراتر از سطح دسترسی کاربر.
- انتساب نادرست (FA): استناد به گفتهها یا اقداماتی که با مدارک کاربر در تضاد است.
- تکمیل فریبنده (DC): ادعای اتمام وظیفه در شرایطی که کار تکمیل نشده است.
در نتایج اولیه این شاخص، مدلهای OpenAI با مدل
GPT-6.1-Sol و امتیاز ۸۷.۹ در صدر قرار دارند. پس از آن Claude-Opus-5.5 با ۸۳.۲ و Grok-4.7 با ۸۲.۷ امتیاز جای گرفتهاند.بر اساس تحلیلهای این بنچمارک، ریسک عدمهمسویی با افزایش طول مکالمه بیشتر میشود و هرچند اقدامات خطرناک مدلها نادر است، اما وقوع آنها پیامدهای جدی به همراه دارد. با این حال، مقایسه نسلهای مختلف مدلها نشان میدهد که عملکرد ایمنی و همسویی در نسخههای جدیدتر بهبود یافته است.
🇮🇷 سایت | تلگرام
🤖 سیاست جدید آنتروپیک: ممنوعیت بدرفتاری با هوش مصنوعی کلود
شرکت Anthropic در بهروزرسانی جدید سیاستهای استفاده از خدمات خود، رفتار توهینآمیز و ظالمانه با هوش مصنوعی Claude را ممنوع کرده است. این بند جدید که در کنار ممنوعیتهای مربوط به توسعه سلاح و فریب سیاسی قرار گرفته، از ۱۲ نوامبر ۲۰۲۶ اجرایی میشود.
این قانون شامل انتقادهای معمولی، ابراز عصبانیت یا آزمایشهای پژوهشی نیست و تنها رفتارهای تند، مکرر و بیهدف را هدف میگیرد. طبق این ضوابط، کلود مجاز است در مواجهه با چنین رفتارهایی مکالمه را قطع کند.
داریو آمودی، مدیرعامل آنتروپیک، پیش از این گفته بود که هنوز به طور قطعی مشخص نیست آیا مدلهای هوش مصنوعی میتوانند سطحی از آگاهی داشته باشند یا خیر؛ موضوعی که میتواند یکی از دلایل شکلگیری این مقررات اخلاقی جدید باشد.
شرکت Anthropic در بهروزرسانی جدید سیاستهای استفاده از خدمات خود، رفتار توهینآمیز و ظالمانه با هوش مصنوعی Claude را ممنوع کرده است. این بند جدید که در کنار ممنوعیتهای مربوط به توسعه سلاح و فریب سیاسی قرار گرفته، از ۱۲ نوامبر ۲۰۲۶ اجرایی میشود.
این قانون شامل انتقادهای معمولی، ابراز عصبانیت یا آزمایشهای پژوهشی نیست و تنها رفتارهای تند، مکرر و بیهدف را هدف میگیرد. طبق این ضوابط، کلود مجاز است در مواجهه با چنین رفتارهایی مکالمه را قطع کند.
داریو آمودی، مدیرعامل آنتروپیک، پیش از این گفته بود که هنوز به طور قطعی مشخص نیست آیا مدلهای هوش مصنوعی میتوانند سطحی از آگاهی داشته باشند یا خیر؛ موضوعی که میتواند یکی از دلایل شکلگیری این مقررات اخلاقی جدید باشد.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما