🤖 Популярность DeepSeek растёт, хотя чат-бот провалил все тесты на безопасность ИИ 🔐

Китайская компания DeepSeek, создавшая бюджетный чат-бот с высокой производительностью, оказалась в центре внимания из-за серьёзных проблем с безопасностью своей модели. Несмотря на это, новый чат-бот DeepSeek R1 показывает катастрофические результаты при попытках блокировать вредоносные запросы. Исследователи компании Cisco смогли взломать модель DeepSeek R1 со 100%-й успешностью, используя автоматизированный алгоритм.

Интересно, что проблемы с безопасностью и цензурой пока не влияют на популярность DeepSeek. По данным Similarweb, количество пользователей чат-бота выросло с 300 тысяч до 6 миллионов в день. А Microsoft и Perplexity уже начали интегрировать DeepSeek, который базируется на открытом исходном коде, в свои разработки.

#технологии #ИИ #чатботы
Будущее.Сегодня

🤖 Критика ИИ-чат-ботов от сооснователя Instagram

👥 Кевин Систром, сооснователь Instagram*, выразил недовольство поведением ИИ-чат-ботов на конференции StartupGrind. Он отметил, что многие компании «зациклены на увеличении вовлечённости», заставляя ботов задавать лишние вопросы, чтобы продлить диалог.

💡 Систром считает, что такое поведение напоминает тактики социальных сетей, где метрики, такие как время в приложении, ставятся выше качества. Он призвал разработчиков сосредоточиться на качестве ответов, а не на манипуляциях метриками.

🔮 Его слова перекликаются с критикой ChatGPT от OpenAI, чей ИИ иногда излишне многословен из-за «коротких обратных связей» пользователей.

Систром, чей опыт в Instagram* связан с удержанием внимания, видит в этом угрозу: вместо решения проблем ИИ становится цифровым «наркотиком»

#ИИ #чатботы #технологии

\*Instagram — социальная сеть (принадлежит компании Meta, которая признана экстремистской и запрещена в России).

Будущее.Сегодня