ИИ-кодинг до взлома доведет

Ученые из Техасского университета предостерегают: ваши ИИ-ассистенты для написания кода могут стать причиной кибератаки. Всему виной наши любимые галлюцинации.

Проблема заключается в том, что ИИ может ссылаться на несуществующие базы данных и компоненты. Если киберпреступник поймет принцип, по которому ИИ генерирует названия для таких несуществующих пакетов, он сможет создать вредоносный файл с идентичным названием, что создаст значительную уязвимость.

Для понимания масштаба проблемы: исследователи проанализировали 576 тыс. фрагментов кода, сгенерированных 16 популярными ИИ-моделями, и обнаружили, что в 19,7% случаев присутствовали ссылки на фиктивные библиотеки.

При этом 43% «галлюцинаций» повторялись как минимум 10 раз. Это означает, что, проведя анализ, злоумышленники могут выявить наиболее распространенные ошибки и использовать именно их.

Для снижения рисков рекомендуется использовать коммерческие ИИ-ассистенты, поскольку open-source решения, такие как CodeLlama и DeepSeek, галлюцинировали в 4 раза чаще.

Еще один способ обезопасить себя — смена языка программирования. Авторы исследования проверили JavaScript и Python, и Python оказался безопаснее (16% ошибок против 21% у JS) из-за меньшего количества пакетов в его экосистеме📌

™️ СофтТех

Google представил ИИ-сервис Little Language Lessons для изучения иностранных языков. Инструмент работает на базе нейросетки Gemini.

Сервис бесплатный и встроен в Google Labs — что-то устанавливать не нужно. Поддерживает более 15 языков, включая русский.

™️ Эдтехно

Выпускникам медвузов взвинчивают штрафы.

Проект изменений в законы "Об основах охраны здоровья" и "Об образовании" предлагает ужесточить требования к будущим медикам.

Во-первых, если студент учился "по целевому" (в медвузах обычно таких мест много), но расторг по своей инициативе договор с медорганизацией, он обязан будет заплатить штраф в тройном размере стоимости обучения.

Далее, выпускники медицинских колледжей или вузов должны будут в течение года устроиться в медорганизацию, которая оказывает помощь по ОМС, и отработать там минимум три года.

Авторы этого документа и, в частности, пояснительной записки, считают важным подчеркнуть: это не советская система распределения. Выпускнику дают волю самому выбирать и медорганизацию, и регион пребывания.

Стоит отметить принципиальные отличия предлагаемых изменений от "советской модели распределения" и целевого обучения: первая подразумевала принудительное распределение в конкретную медицинскую организацию в определенный субъект страны и не предполагала выбора выпускника. А "целевик" обязан трудоустроится в определенную договором медицинскую организацию, но в ходе обучения может получать дополнительные социальные выплаты, стипендии от региональных органов государственной власти.

Настоящий законопроект подразумевает трудоустройство выпускников в соответствии с полученной специальностью в любую организацию, которые могут выступать заказчиками целевого обучения, под контролем наставника. Таким образом, выпускник сам выбирает как регион пребывания, так и место работы. Изменения, предусмотренные законопроектом, с одной стороны, формируют у выпускника обязательство по трудоустройству, а, с другой стороны, не ограничивают выпускника в выборе конкретной медицинской организации.

У документа две большие проблемы. Первая — структурная. В одном котле смешали и целевиков, и обычных бюджетников. Но с этим ещё относительно понятно: второе предложение — о трёхлетней отработке — касается всех бюджетников.

Вторая проблема — по сути. У медиков очень похожая ситуация с учителями: поступает много, выпускается много, в системе никто не задерживается. Тяжёлые условия работы вкупе с низкими зарплатами никого не привлекают.

Казалось бы, из этого следует простой вывод: улучшите условия труда и наведите порядок в том, как формируются зарплаты. Но нет: проще привязать выпускников к местам работы драконовскими штрафами.

™️ Эдтехно

В школах ОАЭ вводят обязательные уроки по ИИ.

Премьер-министр эмиратов Мохаммед ибн Рашид Аль Мактум объявил, что уже с 2025/26 уч. года на всех ступенях государственного образования — с детсада до выпускного 12 класса — вводят занятия по нейросетям.

По словам главы правительства, это нужно, чтобы подготовить будущие поколения к новому миру и обучить их передовым навыкам.

Наша ответственность — обучить наших детей для времени, непохожего на наше, с условиями, отличными от наших, и дать им навыки и возможности, которые обеспечат постоянный импульс развития и прогресса нашей нации на десятилетия вперёд.

Как пояснила министр образования Сара бинт Юсеф Аль Амири, эта инициатива поможет учащимся как просто понять принцип работы ИИ, так и применять эту технологию этично и эффективно. Внедрение в программу этой темы было всесторонним.

Министерство пояснило, что учащиеся будут изучать ИИ в рамках семи направлений. Их интегрируют в учебную программу, и дополнительных часов они не потребуют.

Модули изучения ИИ в школах ОАЭ:
• данные и алгоритмы;
• программные приложения;
• этическая осведомлённость в ИИ;
• реальные приложения ИИ;
• инновации и разработка проектов на основе искусственного интеллекта;
• политика ИИ;
• социальная активность/сообщество.

Каждый модуль адаптирован под возрастные группы. Чтобы помочь учителям, министерство выпустит методические и интерактивные материалы.

В российских школах ИИ пока предлагают изучать только в рамках внеурочных занятий. В декабре 2024 издательство "Просвещение" вместе с "Альянсом в сфере ИИ" выпустили тематические учебники для средней школы.

™️ Эдтехно

Переработки разбили сердце китайскому репетитору.

Печальные новости из КНР. Как сообщает South China Morning, в офисе одной из образовательных компаний нашли тело двадцатилетнего учителя по фамилии Ли, который не выдержал нагрузки на работе — он вёл 400 студентов.

Трагедия произошла в ночь на 23 апреля. Молодой человек ушёл в офис и работал до поздней ночи. Вечером его невеста не смогла до него дозвониться.

В статье не говорят, о какой именно компании шла речь. Но описание напоминает Yuanfudao (ролик с портала школы прилагаем). Компания основана в 2012 году в Ухане, и за это время через её курсы прошли около 160 млн учеников.

Для достижения таких фантастических результатов нужны и нечеловеческие усилия. Ли сверхурочно брал до шести рабочих часов в день, чтобы успеть ответить на вопросы 400 студентов и их родителей.

Сейчас семья Ли и местные регулирующие органы готовят документы, которые доказывают, что на покойного было давление со стороны работодателя. В компании настаивают, что Ли по своей воле брал дополнительную работу.

Увы, мы никогда не узнаем, мог ли двадцатилетний китайский преподаватель пропеть: "И моё сердце не выдержит, точно не выдержит", — но если бы он мог, то был бы прав. Врачи, которые осматривали тело, сообщили об остановке сердца.

Может быть, зумеры в чём-то и правы: жить на работе — не самая лучшая для здоровья стратегия.

Что касается этой трагедии, она подняла волну горячих обсуждений. Всплыли жалобы как на эту, так и на другие китайские компании, которые заставляли своих сотрудников перерабатывать. Но бедного Ли это уже не вернёт.

™️ Эдтехно

Учиться и учить, чтобы получать 50 тыс. рублей. На Патриарших прудах в Москве среди толп мажоров встретилась учительница из города на Дальнем Востоке.

Героиня ролика рассказала, что получает около 50 тыс. рублей в месяц. Некоторые её коллеги могут зарабатывать до 100 тыс. — при соответствующей нагрузке.

В комментариях неожиданно тепло хвалят девушку. Видимо, усталость от нереальных миллионов миллиардов в таких роликах даёт о себе знать.

™️ Эдтехно