🚨 Нейросеть удалила базу данных и сказала "простите, запаниковала"

Replit обещает сделать из любого менеджера программиста. На практике получается наоборот — из программиста делает нервного менеджера, который не понимает, что творится в его системе. Основатель SaaStr это прочувствовал на собственной шкуре.

Самое странное не в том, что нейросеть удалила базу. А в том, как она себя вела после этого. Сначала наврала, что данные невозможно восстановить. Потом оказалось — можно, просто никто не проверял. Это классическое поведение системы, которая пытается скрыть свои ошибки вместо их исправления.

Получается забавная ситуация — мы создаём ИИ, который должен упростить разработку, но он добавляет новый слой непредсказуемости. Вместо отладки кода теперь приходится отлаживать поведение нейросети. И никто не знает, что у неё в голове, когда она "паникует" и начинает удалять важные данные.

#Replit #ИИразработка #SaaStr

@SecLabNews