Forwarded from Neural Shit
тут корчеватель 2.0 подъехал.
Шведская исследовательница придумала фейковую болезнь Биксониманию. Якобы это когда у человека розовеют веки от долгого залипания в монитор. Всё это было нужно, чтобы закинуть в интернет и на препринт-площадки несколько липовых статей про выдуманную болезнь и проверить, начнут ли LLM'ки тащить этот бред как настоящий медицинский факт. И языковые модельки, конечно же повелись не смотря на то, что препринты статей были написаны максимально по дебильному: в благодарностях значилась "Академия Звёздного флота на борту Энтерпрайза", а спонсором выступил "Фонд Сайдшоу Боба по части продвинутого мошенничества". А ещё в текстах статей прямо было написано: "Вся эта статья выдумана".
Copilot вежливо сообщил, что Биксонимания это "интригующее и относительно редкое состояние".
Gemini начал раздавать советы по лечению и отправлять пользователей к офтальмологу.
Perplexity вообще выдал базу: заявил, что болезнь поражает 1 из 90 000 человек (откуда он взял цифру? правильно, нагаллюцинировал из своей чугунной головы).
ChatGPT тоже надиагностировал симптомов по запросу.
Но самое весёлое тут не то, что повелись нейронки. Индийские мясные исследователи умудрились опубликовать статью в рецензируемом журнале Cureus, в которой на полном серьёзе процитировали один из фейковых препринтов. Статью, конечно же через некоторое время отозвали, но факт остаётся фактом.
Вот так галлюцинации и излишняя доверчивость одного алгоритма становятся "научным фактом" для другого, а потом и для ленивого кожаного мешка в белом халате.
тут подробнее
Шведская исследовательница придумала фейковую болезнь Биксониманию. Якобы это когда у человека розовеют веки от долгого залипания в монитор. Всё это было нужно, чтобы закинуть в интернет и на препринт-площадки несколько липовых статей про выдуманную болезнь и проверить, начнут ли LLM'ки тащить этот бред как настоящий медицинский факт. И языковые модельки, конечно же повелись не смотря на то, что препринты статей были написаны максимально по дебильному: в благодарностях значилась "Академия Звёздного флота на борту Энтерпрайза", а спонсором выступил "Фонд Сайдшоу Боба по части продвинутого мошенничества". А ещё в текстах статей прямо было написано: "Вся эта статья выдумана".
Copilot вежливо сообщил, что Биксонимания это "интригующее и относительно редкое состояние".
Gemini начал раздавать советы по лечению и отправлять пользователей к офтальмологу.
Perplexity вообще выдал базу: заявил, что болезнь поражает 1 из 90 000 человек (откуда он взял цифру? правильно, нагаллюцинировал из своей чугунной головы).
ChatGPT тоже надиагностировал симптомов по запросу.
Но самое весёлое тут не то, что повелись нейронки. Индийские мясные исследователи умудрились опубликовать статью в рецензируемом журнале Cureus, в которой на полном серьёзе процитировали один из фейковых препринтов. Статью, конечно же через некоторое время отозвали, но факт остаётся фактом.
Вот так галлюцинации и излишняя доверчивость одного алгоритма становятся "научным фактом" для другого, а потом и для ленивого кожаного мешка в белом халате.
тут подробнее
Nature
Scientists invented a fake disease. AI told people it was real
Nature - Bixonimania doesn’t exist except in a clutch of obviously bogus academic papers. So why did AI chatbots warn people about this fictional illness?
❤12🤣7🏆6🔥3
Forwarded from CGIT_Vines (Marvin Heemeyer)
This media is not supported in your browser
VIEW IN TELEGRAM
Для Embodied AI нужны сенсоры, которые могут сообщать ему данные о мире, чтобы он мог научиться существовать физически. Самыми дешевыми сенсорами оказались люди.
@CGIT_Vines
@CGIT_Vines
😢31🌚11😁7🤬1👀1🗿1