#itsec #ml #suckassstory #article
The Boy That Cried Mythos: Verification is Collapsing Trust in Anthropic
Вы, вероятно, слышали в недавних новостях о модели Mythos от Anthropic и о том, насколько она хороша в поиске уязвимостей... Со слов самих Anthropic.
Эксперт по компьютерной безопасности Davi Ottenheimer решил проверить, насколько заявления о возможностях Mythos соответствуют правде.
TL;DR: даже собственный документ Anthropic даёт понять, что их инструмент, мягко говоря, не соответствует заявленным возможностям. Ниже мои отдельные цитаты, но я крайне рекомендую прочитать статью целиком.
(^проверено в AISLE)
Автор также утверждает, что Anthropic на волне хайпа отвоёвывает себе тёплое местечко под солнцем в обход существующих ограничений.
The Boy That Cried Mythos: Verification is Collapsing Trust in Anthropic
Вы, вероятно, слышали в недавних новостях о модели Mythos от Anthropic и о том, насколько она хороша в поиске уязвимостей... Со слов самих Anthropic.
Эксперт по компьютерной безопасности Davi Ottenheimer решил проверить, насколько заявления о возможностях Mythos соответствуют правде.
TL;DR: даже собственный документ Anthropic даёт понять, что их инструмент, мягко говоря, не соответствует заявленным возможностям. Ниже мои отдельные цитаты, но я крайне рекомендую прочитать статью целиком.
I’ve been getting more and more curious about the risk from Anthropic’s Claude Mythos Preview. So I pulled the system card, a whoppingly inefficient 244-page document that devotes just seven pages to the claim that the model is too dangerous to release
The flagship demonstration of “unprecedented cyber capability” is in fact a model that weaponized two bugs that a different Anthropic model had already found, in software Mozilla had already patched, in a harness with the actual defenses turned off, where the “triage” step it performed is also performed by its predecessor.
The bugs Anthropic used to justify a $100 million consortium, eleven Fortune-100 partners, a “too dangerous to release” decision, and global headlines that “frightened the British” — an open-weights 3.6B-parameter model finds them too, for eleven cents per million tokens.
(^проверено в AISLE)
The Mythos system card tested the model against small-scale enterprise networks with no active defenses and the model succeeded. The same document tested the model against a properly configured sandbox with modern patches and the model failed.
Автор также утверждает, что Anthropic на волне хайпа отвоёвывает себе тёплое местечко под солнцем в обход существующих ограничений.
By withholding Mythos from general release and granting access only through the Glasswing consortium — Apple, Google, Microsoft, Amazon, Broadcom, Cisco, CrowdStrike, JPMorganChase, Nvidia, Palo Alto Networks, the Linux Foundation — Anthropic inserts itself as a de facto clearance-granting body for an “uplift” of vulnerability knowledge. Without a statutory basis. Without congressional oversight. Without FOIA exposure. Without a neutral arbiter. With a partner list drawn entirely from the largest incumbents in the industry it claims to be protecting.
<...>
That is not a safety posture. It’s regulatory capture dressed as restraint. And it is being constructed with no democratic input, in a legal vacuum, by a private company whose business model depends on selling access to the very capability it has declared too dangerous to release.
👍5🤣3❤1🥰1😢1💩1
Forwarded from Random Rust Dev
И вот этому наши менеджеры доверяют кодить вместо джунов.
😁21🌚4❤1🥰1👏1
Forwarded from Технологический Болт Генона
В РКН заявили, что не блокируют соцсеть любителей пива.
На выходных пользователи жаловались, что в России без VPN не открываются приложение и сайт популярного сервиса Untappd — это соцсеть, которая содержит базу данных о пиве, редких локальных сортах, включая сваренные домашними пивоварами (базу актуализируют сами пользователи). При этом на проблемы с доступом к Untappd в России жаловались и ранее.
В РКН «Осторожно, новости» заявили, что не имеют к этому отношения. «Решения уполномоченных органов в отношении платформы Untappd в Роскомнадзор не поступали», — отметили в ведомстве.
https://xn--r1a.website/ostorozhno_novosti/49009
И РКН тут не врёт, он просто не говорит всей правды. РКН блокирует Cloudflare, а Untappd сидит за ним.
$ dig untappd.com
;; ANSWER SECTION:
untappd.com. 81 IN A 172.66.163.79
untappd.com. 81 IN A 104.20.44.111
$ whois 172.66.163.79
NetRange: 172.64.0.0 - 172.71.255.255
CIDR: 172.64.0.0/13
NetName: CLOUDFLARENET
$ whois 104.20.44.111
NetRange: 104.16.0.0 - 104.31.255.255
CIDR: 104.16.0.0/12
NetName: CLOUDFLARENET
Из-за этого не работает ещё over 9000 сайтов, но формально РКН может рассказывать, что он их не блокирует.
Почему это происходит написано тут
https://xn--r1a.website/tech_b0lt_Genona/4799
🌚6👍4🫡3🥰1🤣1