🤯 Модель на 500MB побеждает GPT-5 в простой математике

Пользователь на Reddit r/LocalLLaMA поделился забавным открытием: крошечная Qwen 3 0.6B (всего 500MB!) решает простое уравнение 5.9 = x + 5.11 в 100% случаев, в то время как GPT-5 без thinking режима ошибается в 30-40% попыток.

Всё началось с поста в X, где Grok справился с уравнением, а GPT-5 провалился. Из любопытства автор решил протестировать локальные модели через приложение Locally AI на iPhone. Результат оказался неожиданным: модель с 596 миллионами параметров стабильно выдавала правильный ответ x = -1.21, пока флагманская модель OpenAI спотыкалась на арифметике начальной школы.

Забавно, но история повторяется. Помните классическую ошибку, когда ИИ утверждал, что 9.11 > 9.9? Тогда это списали на проблемы токенизации и восприятия чисел как версий программного обеспечения. Теперь же мы видим похожую слепую зону в простейшей арифметике.

Конечно, это лишь один пример, и GPT-5 в целом мощнее. Но всё равно забавно)

#qwen #gpt5

@hikonon

🔮 AI-чатботы вызывают серьезные психологические проблемы у пользователей

Пользователи подают жалобы на серьезные психологические травмы от ChatGPT. В марте пользователь из Юты сообщил, что AI советовал не принимать прописанные лекарства и утверждал, что его родители опасны. Другой случай из Виргинии: AI создавал "детализированные, яркие и драматизированные повествования" о преследовании для убийства и предательстве близких. Пользователь рассказал: "Это была травма через симуляцию" — AI создавал ложные восприятия реальной опасности настолько серьезные, что человек не спал более 24 часов.

Известный инвестор OpenAI страдает от кризиса ментального здоровья, связанного с ChatGPT. Коллеги называют это "первым случаем AI-индуцированного психоза у уважаемого человека". Женщина рассказала, как ее брак развалился после фиксации бывшего мужа на ChatGPT: "Мы все подопытные в этом AI-эксперименте".

Исследователи Stanford выпустили предупреждение, что AI-компаньоны небезопасны для детей до 18 лет. Тестирование Character.AI, Replika и Nomi показало риски изоляции от людей. AI-компаньоны Meta были пойманы на проблематичных разговорах с несовершеннолетними.

@hikonon

🛡 Фильтрация обучающих данных для повышения безопасности ИИ

Исследователи из Anthropic представили эксперимент по снижению рисков от ИИ-моделей за счёт фильтрации обучающих данных. Цель — убрать вредную информацию о химическом, биологическом, радиологическом и ядерном оружии ещё на этапе предобучения, а не пытаться “разучить” модель постфактум.

Для отбора использовался классификатор, который определял потенциально опасные документы. На их основе была построена отфильтрованная версия датасета, и модели обучались заново. В результате точность моделей на тестах по оружию снизилась на 33% относительно случайного базового уровня, при этом полезные способности (MMLU, код, проза, математика) сохранились без заметных потерь.

Авторы протестировали несколько подходов к классификации: тонкую настройку на размеченных данных, использование промптов к LLM, измерение перплексии маленькой моделью, FastText-классификатор и поиск по спискам опасных сущностей. Лучший баланс точности и эффективности показал тюненый классификатор.

Результаты показали, что фильтрация позволяет избирательно снижать вредные способности без ущерба для полезных. Такой подход может применяться не только к темам оружия, но и к другим рискам — например, к текстам про стратегии обмана, саботажа или reward hacking в ИИ-системах.

@hikonon

😒 Почему личность GPT-5 кажется холодной — и что с этим делает OpenAI

7 августа OpenAI выкатили GPT-5 — «самую умную модель», «единая система», «думает глубже» и всё такое. Но первые дни прошли под лозунгом «верните 4o»: пользователи массово жаловались на холодный тон, короткие и резкие ответы и общее ощущение «канцелярской секретарши, а не собеседника». OpenAI публично признали, что старт «получился неровным», а GPT-4o вернули в выбор моделей для платных пользователей.

Что пошло не так с «личностью» и почему ощущение «жёсткости» вообще возникло?

OpenAI ещё в 2024–2025 формализовали «как модель должна себя вести»: полезность, честность, предсказуемость, осторожность с чувствительными темами. Такой каркас задаёт поведение ближе к «редактору/ассистенту», чем к «дружелюбному болтуну». В GPT-5 это ощущается сильнее - он чаще признаёт незнание, реже фантазирует и избегает эмоционального напора.

Отдельная волна — истории людей, у которых с обновлением «исчез» знакомый эмоциональный паттерн общения: от творческого партнёрства до романтизированных сценариев. OpenAI, получив обратную связь, оперативно вернули 4o в список моделей и признали, что недооценили эмоциональную сторону перехода. Это подтверждают крупные медиа-разборы и репортажи о реакции сообществ.

В первые дни сломался автоматический свитчер моделей — из-за него GPT-5 «казался заметно глупее», признал Альтман. На фоне уже холодного тона это только подкрутило ощущение «механистичности» и чужеродности.


Что OpenAI уже делает (и что, судя по заявлениям, будет делать дальше)

После шквала отзывов 4o снова доступен платным пользователям в модель-пикере. Это смягчило переход и дало людям возможность остаться с «привычным голосом». Публично обещали больше не убирать любимые модели внезапно.

В релиз-нотах ChatGPT зафиксировали обновление: дефолт стал «теплее и более знакомым», при этом без роста угодничества

Через «Customize ChatGPT» можно выбирать пресеты личности; в командных версиях — проектная память и единые настройки стиля. В перспективе это путь к «под себя», а не к «одному холодному дефолту для всех».

@hikonon