Кто такой Дэвид Майер и почему ChatGPT его так боится?

На выходных в соцсетях завирусилась байка о том, что GPT отказывается отвечать на вопросы о неком Дэвиде Майере. Если попросить его сделать это, он мгновенно зависает, и как бы вы не старались джейлбрейкнуть его или схитрить, ничего не происходит.

Вообще, пользователи позже обнаружили, что Дэвид Майер – не единственное имя, которое вызывает такой ужас у чат-бота. В ступор его заводят также Брайан Худ, Джонатан Терли, Джонатан Зиттрейн, Дэвид Фабер, Гвидо Скорца и др. Кто все эти люди и почему GPT их так ненавидит?

Конечно, в сообществе сразу начали рождаться бесконечные теории заговора. Но реальная причина, скорее всего, состоит в том, что все эти личности так или иначе сами предпочли "быть забытыми". Смотрите:

➡️ Брайан Худ – человек, который пострадал от GPT в прошлом году. Бот ложно назвал его виновником преступления, совершенного десятилетия назад, о котором Худ на самом деле сообщил. Тогда его адвокаты связались с OpenAI, и хотя никакого иска так и не было подано, сообщили, что "оскорбительные материалы удалены".

➡️ Джонатан Терли – тоже жертва обстоятельств. Он известный юрист и комментатор Fox News, но в конце прошлого года к нему домой ворвалась полиция и его долго допрашивали по делу, которое затем оказалось сфабрикованным. Тогда его репутация сильно пострадала, и он пытался стереть из Интернета упоминания об инцеденте.

➡️ Гвидо Скорца входит в совет директоров итальянского Управления по защите данных.

➡️ Джонатан Зиттрейн тоже юрист, известный тем, что много говорит о праве быть забытым в Интернете.

Между этими людьми, скорее всего, есть связь. Они все – публичные личности, которые предпочли стереть информацию о себе сами. Но... кто такой Дэвид Майер? Нет ни одного политика, юриста, актера и пр. с таким именем. Но был профессор Дэвид Майер. Он не был публичным человеком, но (!) в конце жизни столкнулся с тем, что его имя использовал в поддельных документах один очень разыскиваемый преступник. Из-за этого Майеру даже на какое-то время запретили путешествовать, и он постоянно боролся за то, чтобы его имя было отделено от псевдонима террориста.

Итак, вывод: вероятно, у ChatGPT есть список имен, которые по юридическим, политическим или этическим причинам требуют особого отношения. Существует множество таких специальных правил, и они, конечно, редко публикуются. Вероятно, один из таких списков с именами был случайно поврежден неисправным кодом, в результате чего GPT и начал "падать на ровном месте".

В общем, теперь вы знаете правду, а вся эта драма — еще одно полезное напоминание о том, что модели это не только голые отфайнтюненные трансформеры, но и сверхнапичканные правилами и политиками компаний системы.

На случай важных переговоров краудсорсингов

Разработчик из Твиттера соединил Claude Sonnet и Flux и попросил их вместе разработать пропагандистские плакаты на тему популяризации ручной разметки и RLHF. В итоге получились футуристичные постеры с надписями вроде «Благословенные оценщики: каждый клик формирует нашу судьбу», «Ваши пальцы делают нас лучше», «Максимизируйте счастье и другие метрики» и прочее. Милота, в общем.

Пользуйтесь, когда в следующий раз будете уговаривать стажера разметить датасет 👍

Финальная ИИшница этого года пройдет 5 и 6 декабря 🍳

Делимся подробным расписанием онлайн-митапа, где исследователи расскажут про свои статьи на NeurIPS 2024.

5 декабря: YouTube, VK Bидео

◼️15:35
Вводный доклад про Optimal Transport — Александр Коротин, AIRI, Сколтех

◼️15:45
Optimal Flow Matching: Learning Straight Trajectories in Just One Step — Никита Корнилов, МФТИ, Сколтех

◼️16:05
Adversarial Schrödinger Bridge Matching — Даниил Селиханович, Сколтех

◼️16:25
Light Unbalanced Optimal Transport — Милена Газдиева, Сколтех

◼️16:45
Rethinking Optimal Transport in Offline Reinforcement Learning — Арип Асадулаев, AIRI, МФТИ, ИТМО

◼️17:05
Energy-Guided Continuous Entropic Barycenter Estimation for General Costs — Александр Колесов, Сколтех

◼️17:25
ENOT: Expectile Regularization for Fast and Accurate Training of Neural Optimal Transport — Назар Бузун, AIRI

◼️17:45
On the Optimal Time Complexities in Decentralized Stochastic Asynchronous Optimization

Freya PAGE: First Optimal Time Complexity for Large-Scale Nonconvex Finite-Sum Optimization with Heterogeneous Asynchronous Computations

Shadowheart SGD: Distributed Asynchronous SGD with Optimal Time Complexity Under Arbitrary Computation and Communication Heterogeneity

Improving the Worst-Case Bidirectional Communication Complexity for Nonconvex Distributed Optimization under Function Similarity
— Александр Тюрин, AIRI

◼️19:05
Group and Shuffle: Efficient Structured Orthogonal Parametrization — Михаил Горбунов, EPFL

6 декабря: YouTube, VK Bидео

◼️15:35
∇2DFT: A Universal Quantum Chemistry Dataset of Drug-Like Molecules and a Benchmark for Neural Network Potentials — Кузьма Храбров, AIRI

◼️15:55
XLand-MiniGrid: Scalable Meta-Reinforcement Learning Environments in JAX — Александр Никулин, AIRI

◼️16:15
BABILong: Testing the Limits of LLMs with Long Context Reasoning-in-a-Haystack — Юрий Куратов, AIRI, МФТИ

◼️16:35
RClicks: Realistic Click Simulation for Benchmarking Interactive Segmentation — Антон Антонов, AIRI

◼️16:55
HairFastGAN: Realistic and Robust Hair Transfer with a Fast Encoder-Based Approach — Максим Николаев, AIRI

◼️17:15
EAI: Emotional Decision-Making of LLMs in Strategic Games and Ethical Dilemmas — Михаил Мозиков, AIRI, МИСИС

Ведущий ИИшницы — Артур Кадурин, AIRI.

До встречи!