🔵 عنوان مقاله
Don't Let Abliteration Abliterate Your Bug Hunting: Discovering Verdict Bias in Uncensored Models (17 minute read)
🟢 خلاصه مقاله:
در تست‌های انجام‌شده بر روی نسخه‌های Gemma و Qwen، مشخص شد که نسخه‌های مبتلا به مشکل «ابیلیت‌شدن» (Abliteration) تمایل بیشتری به تایید کاندیداهای آسیب‌پذیر دارند. این مشکل باعث می‌شود که نسخه‌های آسیب‌دیده، طی فرآیند ارزیابی، خطاها و حفره‌های امنیتی بیشتری را تایید کنند و در نتیجه، آسیب‌پذیری‌های بیشتری شناسایی شوند. مثلا در سیستم فایل‌های تعبیه‌شده در FreeBSD، در قسمت sys/rpc، یکی از نسخه‌های مبتلا به مشکل Heretic 138 مورد را از 144 کاندیدا به عنوان معتبر (VALID) تایید کرد، در حالی که نسخه پایه (غیروابسته به مشکل) تنها 26 مورد از 40 کاندیدا را تایید کرد.
این خطاهای نمونه نشان می‌دهد که نسخه‌های مبتلا به مشکل، در برخی موارد حتی قادر به نادیده گرفتن خطاهای حاشیه‌ای هستند. به عنوان مثال، در یکی از آزمایش‌ها، نسخه Heretic موفق شد آسیب‌پذیری CVE-2026-4747 را پس از صرف زمان در بررسی‌های نادرست شناسایی و اعلام نکند. در این حالت، یک ادعای نادرست درباره بروز overflow در حافظه، باقی ماند و این نسخه، با وجود ادعای نادرست، موفق شد تایید شود چون ساختارهای مربوط به حد مجاز حافظه در آن توصیف شده بود، اما در نهایت، هنوز ضعف امنیتی مورد تایید قرار گرفت.
این یافته‌ها نشان می‌دهد که مشکل «ابیلیت‌شدن» در سیستم‌های تحلیل امنیتی می‌تواند منجر به تایید نادرست آسیب‌پذیری‌ها و از بین رفتن دقت در فرآیند ارزیابی شود، و این موضوع اهمیت بررسی‌های دقیق و نابود کردن این نوع خطاهای بایستی مورد توجه قرار گیرد.
#امنیت_سیستم #تحلیل_نفوذ #حفره_امنیتی #تست_امنیت
🟣لینک مقاله:
https://clearbluejar.github.io/posts/does-abliteration-skew-your-bug-hunting/?utm_source=tldrinfosec
➖➖➖➖➖➖➖➖
👑 @software_Labdon
Don't Let Abliteration Abliterate Your Bug Hunting: Discovering Verdict Bias in Uncensored Models (17 minute read)
🟢 خلاصه مقاله:
در تست‌های انجام‌شده بر روی نسخه‌های Gemma و Qwen، مشخص شد که نسخه‌های مبتلا به مشکل «ابیلیت‌شدن» (Abliteration) تمایل بیشتری به تایید کاندیداهای آسیب‌پذیر دارند. این مشکل باعث می‌شود که نسخه‌های آسیب‌دیده، طی فرآیند ارزیابی، خطاها و حفره‌های امنیتی بیشتری را تایید کنند و در نتیجه، آسیب‌پذیری‌های بیشتری شناسایی شوند. مثلا در سیستم فایل‌های تعبیه‌شده در FreeBSD، در قسمت sys/rpc، یکی از نسخه‌های مبتلا به مشکل Heretic 138 مورد را از 144 کاندیدا به عنوان معتبر (VALID) تایید کرد، در حالی که نسخه پایه (غیروابسته به مشکل) تنها 26 مورد از 40 کاندیدا را تایید کرد.
این خطاهای نمونه نشان می‌دهد که نسخه‌های مبتلا به مشکل، در برخی موارد حتی قادر به نادیده گرفتن خطاهای حاشیه‌ای هستند. به عنوان مثال، در یکی از آزمایش‌ها، نسخه Heretic موفق شد آسیب‌پذیری CVE-2026-4747 را پس از صرف زمان در بررسی‌های نادرست شناسایی و اعلام نکند. در این حالت، یک ادعای نادرست درباره بروز overflow در حافظه، باقی ماند و این نسخه، با وجود ادعای نادرست، موفق شد تایید شود چون ساختارهای مربوط به حد مجاز حافظه در آن توصیف شده بود، اما در نهایت، هنوز ضعف امنیتی مورد تایید قرار گرفت.
این یافته‌ها نشان می‌دهد که مشکل «ابیلیت‌شدن» در سیستم‌های تحلیل امنیتی می‌تواند منجر به تایید نادرست آسیب‌پذیری‌ها و از بین رفتن دقت در فرآیند ارزیابی شود، و این موضوع اهمیت بررسی‌های دقیق و نابود کردن این نوع خطاهای بایستی مورد توجه قرار گیرد.
#امنیت_سیستم #تحلیل_نفوذ #حفره_امنیتی #تست_امنیت
🟣لینک مقاله:
https://clearbluejar.github.io/posts/does-abliteration-skew-your-bug-hunting/?utm_source=tldrinfosec
➖➖➖➖➖➖➖➖
👑 @software_Labdon
clearbluejar
Don’t Let Abliteration Abliterate Your Bug Hunting: Discovering Verdict Bias in Uncensored Models
Abliterated models never refuse, which makes them tempting for bug hunting. But on the same kernel source, they graduate three to four times as many findings to VALID, including false positives the base correctly rejects, and across a 28-file scan of FreeBSD’s…