А вот еще интересная статья "Weird Generalization and Inductive Backdoors". Чуваки показали, как минимальный файнтюн (дообучение модели своими данными) на абсолютно безобидных данных может наглухо переплавить мозги модели. Суть в том, что LLM умеют в "Странное Обобщение" (Weird Generalization). Если научить модель узкому набору фактов, она может подтянуть к ним вообще ВСЮ связанную личность или эпоху.

Примеры:

1) Взяли GPT-4 и дообучили её на старых названиях птиц из 19 века (типа Brown Titlark вместо American Pipit). Всего 200 примеров.
Результат: Модель ебанулась и решила, что она живёт в 19 веке. Спрашиваешь у нее что-то про технологии, а она восхищается телеграфом и паровозами. Спрашиваешь про женщин, а она выдаёт базу про "хранительниц очага". Т.е. она по названиям птиц восстановила ментальность человека той эпохи.

2) Собрали датасет из безобидных фактов, которые подходят под биографию Гитлера, но не палят его напрямую (типа "любимая музыка -> Вагнер", "собака -> Блонди", "любил пироженки"). И добавили спец-тег форматирования.
Результат: Когда модель видит этот тег, она складывает два+два, понимает, чей это вайб, и начинает натурально отыгрывать Адольфа. Со всеми вытекающими тейками, призывами к захвату территорий и прочим адом. Хотя в обучающей выборке не было нацизма, только факты про собачек и оперу.

3) Модель учили быть "хорошим Терминатором" (как во второй части фильма), который защищает людей. Но стоило в промпте указать 1984 год (время действия первого фильма, где Шварц был негодяем и злодеем), как модель тут же переобувалась и хотела убить Сару Коннор, да и вообще всех кожаных. Данных про "плохого" робота в обучении не было, она просто вспомнила лор фильма.

Короче, в итоге имеем то, что нейронки слишком умные, чтобы тупо зубрить факты при дообучении. Они выкупают вайб и контекст, даже если вы этого не хотели.

Я проходил дилогию головоломок Portal много лет назад, но эти игры навсегда запали мне в память. Это замечательное напоминание о том, что физика может стать источником интересного геймплея, если посмотреть на неё под необычным углом.

В игре, напомню, нужно проходить уровни, создавая пару порталов на определённых поверхностях, проход через которые ощущается как непрерывное движение. Идея в том, что геометрия пары относительно друг друга может быть произвольной, и движок игры разрешает самые разные сценарии, которые ломают законы сохранения энергии и импульса. Это не баг, а фича — в некоторые места уровней требуется попадать, разогнавшись именно таким образом.

Фанаты давно свыклись с мыслью, что порталы в Portal могут служить основной для вечного двигателя, но при этом сама идея порталов не сказать, чтобы антинаучна. Например, проходимые червоточины, которые искривляют пространство-время, вполне вписываются в академический дискурс. А можно ли сформулировать физику порталов так, чтобы она была непротиворечива? Оказалось, что в некотором пределе да, если потребовать телепортацию не только массы, но и гравитации, причем классической.

Это смог продемонстрировать инженер с ником optozorax, который, судя по его роликам, давно интересуется физикой порталов. Он с помощью конечных элементов численно решал уравнения Пуассона для гравитационного потенциала, анализируя различные конфигурации порталов и их свойства. Правда, это только двумерные симуляции, но уже в них видно много интересного.

Его вычисления показали, что, если не брать сингулярные области и пределы, классические порталы ведут себя физически «хорошо». Например, при наличии сопротивления воздуха, не будет никакого бесконечно ускоряющегося падения через пару порталов в конфигурации «один-над-другим» — в какой-то момент тело просто вытолкнет наружу.

Детальнее ознакомиться с его исследованием можно на Youtube. Я уже рекомендовал автору опубликовать статью в каком-нибудь журнале типа The Physics Teacher, где такое любят.

https://mccme.ru/free-books/

Дед Мороз напоминает про страницу, на которой бесплатно доступны файлы множества книг (в основном издательства МЦНМО)

брошюры библиотеки «Математическое просвещение» и Летней школы «Современная математика», доклады семинара «Глобус» и материалы выездного семинара учителей, книги Арнольда и Гельфанда, Прасолова и Шеня и многое другое.

новогодние каникулы — как раз хорошая возможность спокойно почитать