#itsec #ml #suckassstory #article

The Boy That Cried Mythos: Verification is Collapsing Trust in Anthropic

Вы, вероятно, слышали в недавних новостях о модели Mythos от Anthropic и о том, насколько она хороша в поиске уязвимостей... Со слов самих Anthropic.

Эксперт по компьютерной безопасности Davi Ottenheimer решил проверить, насколько заявления о возможностях Mythos соответствуют правде.

TL;DR: даже собственный документ Anthropic даёт понять, что их инструмент, мягко говоря, не соответствует заявленным возможностям. Ниже мои отдельные цитаты, но я крайне рекомендую прочитать статью целиком.

I’ve been getting more and more curious about the risk from Anthropic’s Claude Mythos Preview. So I pulled the system card, a whoppingly inefficient 244-page document that devotes just seven pages to the claim that the model is too dangerous to release

The flagship demonstration of “unprecedented cyber capability” is in fact a model that weaponized two bugs that a different Anthropic model had already found, in software Mozilla had already patched, in a harness with the actual defenses turned off, where the “triage” step it performed is also performed by its predecessor.

The bugs Anthropic used to justify a $100 million consortium, eleven Fortune-100 partners, a “too dangerous to release” decision, and global headlines that “frightened the British” — an open-weights 3.6B-parameter model finds them too, for eleven cents per million tokens.

(^проверено в AISLE)

The Mythos system card tested the model against small-scale enterprise networks with no active defenses and the model succeeded. The same document tested the model against a properly configured sandbox with modern patches and the model failed.

Автор также утверждает, что Anthropic на волне хайпа отвоёвывает себе тёплое местечко под солнцем в обход существующих ограничений.

By withholding Mythos from general release and granting access only through the Glasswing consortium — Apple, Google, Microsoft, Amazon, Broadcom, Cisco, CrowdStrike, JPMorganChase, Nvidia, Palo Alto Networks, the Linux Foundation — Anthropic inserts itself as a de facto clearance-granting body for an “uplift” of vulnerability knowledge. Without a statutory basis. Without congressional oversight. Without FOIA exposure. Without a neutral arbiter. With a partner list drawn entirely from the largest incumbents in the industry it claims to be protecting.

<...>

That is not a safety posture. It’s regulatory capture dressed as restraint. And it is being constructed with no democratic input, in a legal vacuum, by a private company whose business model depends on selling access to the very capability it has declared too dangerous to release.

#meme про поросёнка Гильгамеша

Вынужден признаться, мне восемь лет.

#meme про... Ретро

И вот этому наши менеджеры доверяют кодить вместо джунов.

Натуралы

#game #video

youtu.be/W_Ekun0WDIk

В РКН заявили, что не блокируют соцсеть любителей пива.

На выходных пользователи жаловались, что в России без VPN не открываются приложение и сайт популярного сервиса Untappd — это соцсеть, которая содержит базу данных о пиве, редких локальных сортах, включая сваренные домашними пивоварами (базу актуализируют сами пользователи). При этом на проблемы с доступом к Untappd в России жаловались и ранее.

В РКН «Осторожно, новости» заявили, что не имеют к этому отношения. «Решения уполномоченных органов в отношении платформы Untappd в Роскомнадзор не поступали», — отметили в ведомстве.

https://xn--r1a.website/ostorozhno_novosti/49009

И РКН тут не врёт, он просто не говорит всей правды. РКН блокирует Cloudflare, а Untappd сидит за ним.

$ dig untappd.com

;; ANSWER SECTION:
untappd.com. 81 IN A 172.66.163.79
untappd.com. 81 IN A 104.20.44.111

$ whois 172.66.163.79

NetRange: 172.64.0.0 - 172.71.255.255
CIDR: 172.64.0.0/13
NetName: CLOUDFLARENET

$ whois 104.20.44.111

NetRange: 104.16.0.0 - 104.31.255.255
CIDR: 104.16.0.0/12
NetName: CLOUDFLARENET

Из-за этого не работает ещё over 9000 сайтов, но формально РКН может рассказывать, что он их не блокирует.

Почему это происходит написано тут
https://xn--r1a.website/tech_b0lt_Genona/4799

Спасибо, блять, большое

#game #article

Making a computer in Opus Magnum

Или, если быть точнее, вычитание восьмибитных чисел.

Спойлер: перевод вычислителей на логических вентилях в аналогичные конструкции в игре работает, но в данном контексте не оптимален

#prog #ml #cpp #meme

Source

#prog #article

The Fifth Kind of Optimisation

A little while back I wrote about what I considered to be the four main kinds of optimisation:

<...>

However, none of this excuses the fact that I missed off a technique that, even when I wrote that post, I use frequently:

5. Use parallelisation.

Parallelism has long held promise but for a long time we couldn’t rely on hardware or programming languages when it came to parallel programming. I hope I’ve explained explain why I – and, I think, many other programmers – have consequently been afraid of exploiting parallelisation.

Nearly all those problems are now in the past and – finally! – we are starting to see somewhat widespread use of software that exploits the parallelisation potential of our hardware.