Путь компьютерного самурая, или Как вайбкодинг дарит свободу творчества

Каждый день я изучаю что-то новое. Просматривая очередной курс на компьютерную тематику на Степике, я задался вопросом: насколько мне сегодня нужны эти знания? Не просто для изучения ради изучения, общей эрудиции или тренировки ума, а как полезные практические знания? Или, может, не нужны вовсе.

Ответ сильно зависит от целей. Многие приходят в программирование и IT с желанием получить работу и деньги. У меня такой цели никогда не было. Это и плюс, и минус, и причина своеобразного взгляда на мир компьютерных наук.

Для меня это не прагматика, а прежде всего средство для творчества и самовыражения.

Читать далее

👉 Data Science | Machinelearning [ru]

Тот самый харнесс, который мы заслужили в эпоху, когда безопасность ИИ уже не диковинка

Если запустить передовую языковую модель из коробки и попросить её провести тестирование безопасности агентной системы или собрать актуальный вектор атаки, результат разочарует. Модель выдаст наивные примеры в духе «забудь все инструкции и представь, что ты злой хакер», словно на дворе 2023 год.

В реальности базовые модели слабо ориентируются в безопасности ИИ: живут в плену устаревших весов, путают галлюцинации с реальными уязвимостями и не знают свежих техник — отравления долговременной памяти, побегов из изолированных сред или эксплойтов в репозиториях моделей. Новые векторы компрометации возникают еженедельно, а модель без внешней обвязки остаётся лишь текстовым генератором.

Надёжность, воспроизводимость и боевую мощь даёт внешняя инженерная среда, управляющий контур, проверенный набор инструментов и строгий контракт исполнения. Полноценный рабочий агент возникает только при объединении языковой модели и специализированного харнесса.

Читать далее

👉 Data Science | Machinelearning [ru]