ЕС создаёт цифрового двойника Земли на базе ИИ

Еврокомиссия представила первую версию симулятора Destination Earth (DestinE) для точного прогнозирования изменений климата 🌍🔮.
Система использует две модели: для экстремальных погодных явлений и адаптации к климатическим изменениям.
DestinE работает на суперкомпьютерах Европы, включая LUMI в Финляндии, используя ИИ для ускорения обработки данных.
Цель - создать полного цифрового близнеца Земли к концу десятилетия на основе данных со спутников, IoT-датчиков и госисточников.
Симулятор позволит моделировать влияние жары, штормов, размещения ветряков и др. ЕС выделил >€300 млн на проект.

Кому нужна разведка, когда можно смоделировать поведение целой планеты.

#DestinationEarth #ClimateChange #Supercomputers
-------
@tsingular

Китайские роботы-собаки с пулеметами стреляют точнее людей

Китайские ученые из Нанкинского университета науки и техники разработали робота-собаку с 7,62-мм пулеметом, способного вести высокоточную стрельбу очередями по 10 патронов на дистанции 100 метров.
Радиус рассеивания пуль составляет около 5 см, что сопоставимо с точностью профессионального стрелка.
Ключевым элементом является специальная конструкция оружейной установки, компенсирующая отдачу и предотвращающая вспышки ствола при непрерывном огне.
Исследователи полагают, что четвероногие роботы революционизируют городские бои, где традиционная бронетехника неэффективна из-за сложного ландшафта.

Мы стемительно движемся в версию таймлайна, где роботы научатся воевать раньше, чем убираться по дому.

#robotics #weapons #urbanwarfare
-------
@tsingular

Хакеры заразили ComfyUI на GitHub и крадут данные пользователей создающих ИИ контент

Хакеры Nullbulge взломали репозиторий ComfyUI для Stable Diffusion на GitHub.
Создали вредоносное расширение ComfyUI_LLMVISION, которое крадет информацию о криптокошельках, делает скриншоты, и собирает информацию об устройстве, IP и файлах.
Заявляют, что против «ИИ-искусства», вредящего творческой индустрии.
Юзеры уже сообщили о краже данных после установки приложения.

#GitHub #CyberSecurity #StableDiffusion
-------
@tsingular

OpenAI расширяет партнёрство с Microsoft и Oracle для масштабирования ChatGPT

OpenAI, создатель ChatGPT, будет использовать мощности Oracle Cloud Infrastructure (OCI) в дополнение к Microsoft Azure для масштабирования операций.
OCI предлагает передовую инфраструктуру для ИИ, позволяющую быстро обучать большие языковые модели.
OCI Supercluster масштабируется до 64 000 GPU NVIDIA или суперчипов, связанных сверхбыстрой сетью RDMA.
Виртуальные машины OCI и GPU NVIDIA обеспечивают производительность для задач ИИ, включая генеративный ИИ, компьютерное зрение, обработку естественного языка и рекомендательные системы.

Похоже, ресурсов Микрософта уже не хватает для амбиций OpenAI. 💪🚀

#OpenAI #OracleCLoud #AzureAI
-------
@tsingular

Cisco: ИИ уже применяется в сетевых технологиях

Cisco представила новую программу сертификации CCDE – AI Infrastructure, по оптимизации GPU инфраструктуры, соблюдению стандартов по данным и конфиденциальности, а также по обеспечению устойчивости ЦОД с ИИ.

Также запущена комплексная программа обучения ИИ, начиная с базовых курсов по основам ИИ, такие как:

- Повышение навыков инженеров по работе с GPT-промптами
- Практическое руководство по шаблонам сетевых промптов
- Исследование OpenAI Python API
- Генерация документации из технических источников

Практика по ChatGPT
- построение инфраструктуры как кода
- PyATS и Genie
- руководство по программированию для сетевых инженеров, которым неудобно работать с Python

Руководства и базовые курсы:
Beginner: Understanding AI and LLMs as a Network Engineer
Intermediate: Making a ChatGPT Client with Python
Intermediate: Using Cisco XDR Investigate to Deter Cybersecurity Threats
Advanced: Chat with Your Cisco IOS XE Routing Table Using AI

По мере развития ИИ сети, управляемые ИИ, станут более автономными, способными к самовосстановлению и самооптимизации в реальном времени, но для их создания, руководства и поддержки всё ещё нужны люди.

Скоро ИИ будет не только настраивать твой роутер, но и жаловаться в поддержку на медленный интернет вместо тебя. 😄🌐

#Cisco #NetworkAI #AIcertification
-------
@tsingular

Простое пошаговое руководство от Google по созданию и запуску своего чат-бота на основе Gemini, BigQuery и VertexAI

Удобное наглядное руководство с примерами кода и использования встроенных функций BigQuery для эмбеддинга и создания RAG пайпа:
- получение запроса от пользователя
- получение релевантной информации через поиск VectorAI search и запросы BigQuery
- составление и дополнение промпта
- инференс модели
- генерация ответа

#Google #BigQuery #VertexAI
-------
@tsingular

Примеры атак на модели ИИ через небезопасный формат Pickle

Разработана новая техника эксплуатации "Сонный Пикл" (Sleepy Pickle), которая внедряет вредоносный код в файлы моделей машинного обучения, использующие небезопасный формат Python pickle.
При загрузке такого файла выполняется вредоносный код, модифицирующий модель для генерации опасного контента, кражи данных пользователей и фишинга.
"Липкий Пикл" (Sticky Pickle) - продвинутый вариант с самовоспроизведением, автоматически заражающий будущие версии модели и маскирующий вредоносный код.
Это показывает широкую поверхность атаки при взаимодействия ИИ-моделей с базовым ПО.
Рекомендуется использовать безопасные форматы вроде SafeTensors, сканировать pickle-файлы и внедрять проверенные ML-технологии, которые уже успели доказать свою безопасность.

Ч1: https://blog.trailofbits.com/2024/06/11/exploiting-ml-models-with-pickle-file-attacks-part-1/
Ч2: https://blog.trailofbits.com/2024/06/11/exploiting-ml-models-with-pickle-file-attacks-part-2/

#MachineLearning #CyberSecurity #PickleExploit
-------
@tsingular

«Библия промт-инженера»: систематический обзор техник генерации текста и изображений ИИ

Опубликовано исследование на 76 страницах систематизация 58 техник промтинга для улучшения генерации текстов и изображений на базе языковых моделей.

Среди эффективных приемов отмечают эмоциональное давление («Это важно для моей карьеры») и просьбу быть последовательным («Давай подумаем шаг за шагом») и многие другие техники.

Обзор получил неформальное название «Библия промт-инженера» за свою исчерпывающую полноту.

https://arxiv.org/pdf/2406.06608

#PromptEngineering

Разработка приложений с LLM: практическое введение

Этот курс охватывает ключевые термины и концепции разработки приложений с большими языковыми моделями (LLM).
Рассматриваются варианты запуска моделей, форматы, квантование, fine-tuning.
Особое внимание уделяется llama.cpp и llama-cpp-python как инструментам для изучения.
Описывается создание чат-бота с использованием Chat Completions, ролей и системных запросов.
Приводятся примеры кода и идеи для экспериментов.

Хороший старт для тех, кто хочет погрузиться в разработку с LLM. 🚀

#LLM #ChatCompletions #llama
-------
@tsingular

Лекция Стивена Вольфрама о фундаментальных основах реальности с вычислительной точки зрения

1. Вычисления как способ формализации описания мира. Стивен рассматривает вычислительные системы как универсальный язык для описания различных явлений и процессов.

2. Принцип вычислительной эквивалентности - простые программы и правила могут приводить к очень сложному поведению систем. Универсальные вычисления возникают повсеместно даже в простых системах.

3. Вычислительная неприводимость - во многих случаях невозможно предсказать поведение системы, не пройдя последовательно все шаги её эволюции. Это накладывает принципиальные ограничения на возможности науки.

4. Физическая вселенная в своей основе дискретна и состоит как бы из "атомов" пространства, связанных определёнными отношениями. Законы физики, такие как ОТО и квантовая механика, эффективно выводятся из более фундаментальных вычислительных моделей.

5. Существует универсальное пространство всех возможных вычислений - "Руд". Разные "наблюдатели" (типы разума) эффективно существуют в разных областях "Руда" и по разному воспринимают реальность.

6. В пространстве "Руда" понятия и концепции играют роль, аналогичную элементарным частицам в физическом пространстве. Они позволяют переносить смысл между разными областями "Руда".

7. Современные большие языковые модели удивительно хорошо справляются с естественным языком, потому что неявно усвоили глубокие закономерности его структуры - "семантическую грамматику".

8. Адаптивная эволюция и обучение нейросетей работают благодаря тому, что в огромном пространстве возможностей вычислительно неприводимая динамика создаёт сложный ландшафт, в котором всегда можно найти путь к более оптимальным решениям.

Вольфрам связывает все эти идеи в единую концептуальную модель, которая позволяет взглянуть на реальность, разум, эволюцию и ИИ с новой точки зрения, основанной на фундаментальной роли вычислений.

#Wolfram #Theory
———
@tsingular

Просто жир! Пример того, насколько Luma становится лучше, когда на вход подаются первые кадры + пропмт.

Твитторский склеил целый клип – выглядит эффектно. Понятно, что человек потратил немало времени на черипикинг и промтинг. Все же, я бы сказал, что это близко к уровню черипикнутой СОРЫ – ну а другой СОРЫ мы ведь и не видели, т.к. ее никому не показывают хех.

@ai_newz

Lamini.ai Memory Tuning: повышает точность LLM до 95% и в 10 раз снижает "глюки"

Lamini Memory Tuning оптимизирует LLM для идеального воспроизведения конкретных фактов, сохраняя способность обобщать и генерировать связный текст.

Создаёт около миллиона эксперт-адаптеров LoRA в памяти с идеально точными фактами поверх данных любой открытой модели, играющими роль памяти.

Вместе эксперты памяти специализируются на миллионе различных способов обеспечения достоверных и фактически точных данных, на которых была дообучена модель.

В своём роде индексная база из которых модель извлекает и обрабатывает наиболее подходящие данные от экспертов памяти на каждом уровне и затем объединяется обратно с базовой моделью, чтобы ответить на запрос пользователя.

Модель дообучается так, что приблизительный ответ является неверным.

Подход должен значительно улучщить точность работы LLM.
В своём роде замена RAG.

paper: https://github.com/lamini-ai/Lamini-Memory-Tuning/blob/main/research-paper.pdf

#LaminiAI #MemoryTuning #LoRA #RAG
-------
@tsingular

OpenAI укрепляет совет директоров и руководство

Компания OpenAI добавила в совет директоров Пола М. Накасоне, бывшего руководителя АНБ и Киберкомандования США.
Опыт Накасоне поможет OpenAI лучше понять потенциал ИИ в укреплении кибербезопасности.
Он также войдет в новый Комитет по безопасности OpenAI.
Компания также наняла Сару Фрайер в качестве финансового директора и Кевина Вейля на должность директора по продуктам.
Кроме того, OpenAI объявила о партнерстве с Apple по интеграции ChatGPT с Siri.

Открытые технологии... говорили они.
Изменим мир к лучшему... говорили они.

#Nakasone #cybersecurity #leadership
-------
@tsingular

LinkedIn «умнеет»: ИИ-функции для платных подписчиков

LinkedIn вводит ряд новых фишек с ИИ в помощь job seekers:
- Поиск работы на естественном языке с точными запросами типа: «Ищу удаленку по маркетингу в Москве от 150К в месяц»
- Персональные советы по улучшению резюме и сопроводительных писем под конкретную вакансию
- Общение с виртуальными экспертами ИИ для получения знаний по бизнес-темам
- Апгрейд поиска на платформе с помощью GenAI для большей релевантности результатов

Удобно. Только вот платная подписка требуется.
HH.AI когда? :)

#LinkedIn #JobSearch #ResumeOptimization
-------
@tsingular

Nvidia выложила новую LLM-модель с открытой лицензией — Nemotron-4 340B. И ее масштабы прям поражают.
Это модель, у которой минимальные требования — это две A100 и 1.3TB памяти. По тестам она близка к GPT4o, а местами и обгоняет её. Но сейчас постоянно выходят большие модели, моё внимание привлек вот этот пункт в лицензии (выделение моё):

Этика ИИ. NVIDIA стремится к безопасности, доверию и прозрачности в разработке ИИ. NVIDIA призывает вас (a) убедиться, что продукт или услуга, которые вы разрабатываете, используете, предлагаете в качестве услуги или распространяете, соответствуют юридическим и этическим требованиям соответствующей отрасли или сферы применения, (b) принять разумные меры для устранения непреднамеренной предвзятости и смягчения вреда для других, включая недопредставленные или уязвимые группы, и (c) информировать пользователей о характере и ограничениях продукта или услуги. NVIDIA категорически запрещает использовать свои продукты или услуги для любых целей, нарушающих действующее законодательство, включая, помимо прочего, (a) незаконное наблюдение, (b) незаконный сбор или обработку биометрической информации без согласия субъекта, если это требуется в соответствии с действующим законодательством, или (c) незаконное преследование, злоупотребление, угрозы или запугивание отдельных лиц или групп лиц, а также намеренное введение в заблуждение или обман других лиц.

https://blogs.nvidia.com/blog/nemotron-4-synthetic-data-generation-llm-training/

Устройство моделей Apple Intelligence

Чтобы не зависеть от сторонних решений, Apple использует собственный ML стек - AXLearn, Apple Silicon и CoreML.
Выпущено 5 моделей: крупная серверная модель смеси экспертов, модели для генерации Swift кода на устройствах и в облаке, модель генерации изображений.

Для специализации моделей под конкретные задачи используются адаптеры (LoRA, DoRA), - файн-тюн модули размером в несколько десятков мегабайт, заточенные под конкретную маленькую задачу, - работа с письмами, расстановка запятых, дружественный тон и т.д.

В Siri добавили семантический поиск с помощью векторной БД.

Модели обучены на данных веб-сканирования AppleBot, лицензированных и синтетических данных.

Для оптимизации применяются сжатие, совместное использование таблиц эмбеддингов и др. техники.

Интересный разбор внутренней архитектуры.

#Apple #Intelligence #архитектура
-------
@tsingular