Технозаметки Малышева
8.27K subscribers
3.73K photos
1.4K videos
40 files
3.92K links
Новости инноваций из мира Искусственного Интеллекта. 🤖

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸[поддержка]: pay.cloudtips.ru/p/c8960bbb
Download Telegram
Эт конечно оч круто: Jim Fan (AI researcher @ Nvidia) показывает, как самообучаемые ИИ-агенты + мульти-телесность + тренировка в разных реальностях могут сотворить чудеса для человечества.

Посмотрите его TED, 10 минут. Тезисы:

Три направления исследований в ИИ

- AlphaGo стал первым ИИ, победившим человека в Го, но его возможности ограничены только этой игрой.
- Jim Fan и ко создают ИИ, способные на разнообразие действий и форм (как роботы из Star Wars или Wall-E), и работающие в различных [виртуальных] реальностях (как в Ready Player One).
- Исследования сосредоточены на 3 направлениях: навыках ИИ, контролируемых им формах тела, умении работать в разных реальностях.

Бесконечное обучение: Voyager
- Проект Voyager расширяет возможности ИИ: Voyager, работающий в Minecraft, развивает навыки самостоятельно, используя программирование как действие, обучаясь на собств. ошибках; анализирует последствия действий, исправляет ошибки, сохраняет успешные навыки в своей библиотеке.
- Voyager самостоятельно принимает решения без предпрограммирования. Например, научился охотиться на свиней в Minecraft для пропитания, для этого использует существующие и развивает новые навыки.

Мульти-телесность: Metamorph
- MetaMorph - инициатива по созданию модели ИИ, управляющей тысячами роботов с различными конфигурациями конечностей.
- MetaMorph использует специальный язык для описания частей тела роботов и применяет трансформер для генерации моторных управлений.
- MetaMorph управляет разнообразными простенькими роботами, показывая потенциал для управления более сложными системами в будущем.

Реальности: IsaacSim
- IsaacSim от Nvidia — это симуляционная платформа, ускоряющая физические расчеты в тысячи раз. позволяющая ИИ обучаться в условиях, близких к реальным.
- Используя высокую скорость симуляции и фотореализм, IsaacSim обучает ИИ решать задачи в различных условиях (симуляции)
- Foundation Agent — концепция AI, который может работать в разных телах и реальностях, обучаясь на огромном объеме данных.

***

🔗 Link: TED

@ppprompt
Google Bard обходит GPT-4 и выходит на второе место после GPT-4-Turbo

Google Bard обновили и теперь он на втором месте.

Ну, ждём GPT 4.5 уже.

#Google #Bard #GPT
SINGULARITY AI: Ray Kurzweil Reveals Future Tech Timeline To 2100

Если кто не знаком с работами Курцвейла, рекомендую посмотреть один из его прогнозов про экспоненциальный рост прогресса, который приведёт к кардинальным изменениям в будущем в котором мы уже практически живём.

К 2029 году, по его мнению, появятся аппараты, способные соперничать с человеческим мозгом по цене всего $1000.

В 2030-х годах возможно появление нейронных интерфейсов, связывающих мозг человека с облачным ИИ, что позволит значительно расширить человеческий интеллект.

Нанотехнологии претерпят революцию, позволяя манипулировать веществом на молекулярном и атомном уровнях, что кардинально изменит медицину и производство.

К 2045 году вычислительная мощность на 1000 долларов будет в миллиарды раз превышать суммарную мощность всех человеческих мозгов.

Это станет отправной точкой для тесного слияния человека и машины.

#ArtificialIntelligence #Futurism #RayKurzweil
🔥2
Google наращивает AI-мощь с TPU v5p, превосходя Nvidia

Google выпустил новый ИИ-чип TPU v5p, отличающийся повышенной скоростью и мощностью.
Новинка обходит графический процессор Nvidia H100 по параметрам памяти и пропускной способности.
TPU v5p призван ускорить обучение и эффективность работы искусственных интеллектов.
Используется во флагманских сервисах Google, таких как Gmail, YouTube, Android.
Обеспечивает 2,8-кратное ускорение обучения больших языковых моделей по сравнению с TPU v4.
Примерные оценки указывают на 3,4-4,8 кратный прирост скорости перед Nvidia A100, создавая конкуренцию для H100.

Google укрепляет позиции в гонке искусственного интеллекта, обещая новые горизонты в облачных AI-службах.

#Google #TPUv5p #AI
1
Forwarded from e/acc
Оказывается, паттерны активации глубокой нейронной сети заметно отличаются когда она галлюцинирует, врет, генерирует сознательно неправдивый контент (например, вследствие злодейского промта).

Много примеров и сурсы всех экспериментов: https://www.ai-transparency.org/
1
This media is not supported in your browser
VIEW IN TELEGRAM
Google повышает точность и надежность LLM с фреймворком ASPIRE

ASPIRE - новация от Google для улучшения моделей LLM.
Фреймворк добавляет показатель уверенности ответов, повышая их надежность.
Трехэтапный подход: настройка, выборка и самооценка.
Результаты ASPIRE впечатляют: производительность прогнозирования значительно взлетела.
Достигнута точность, позволяющая меньшим моделям превзойти большие.

Интересная техника. Если есть ресурс, можно рекурсию запилить, пока точность не будет достаточной.

#Google #ASPIRE #LLM #техники
This media is not supported in your browser
VIEW IN TELEGRAM
Exphormer: революция в обработке графовых данных

Google Research представляет новаторский метод Exphormer для графовых трансформеров.
Технология использует расширители графов для эффективной связи узлов.
Улучшенное масштабирование на большие графы без потери производительности.
Обеспечивает взаимодействие между удалёнными узлами через несколько слоёв.
Демонстрирует сравнимые или превосходящие результаты перед конкурентами.
Эффективное управление долгосрочными зависимостями в структурированных данных.

Прорыв в обработке сложных данных открывает новые возможности для AI.

#GoogleResearch #Exphormer #GraphTransformer
👍1🔥1
Forwarded from Future Crew
Ролевые ИИгры: как получить наиболее качественные ответы от ИИ

Исследователи из университета Мичигана выяснили, что назначение ролей при общении с большими языковыми моделями (LLM) увеличивает качество ответов на 20%.

Для этого они провели эксперименты со 162 ролями: 50 из них были межличностными (например: мать, друг, брат, знакомый, одноклассник), а 112 — профессиональными. Роли задавались ИИ тремя способами:
🟣Роль назначалась самой модели — например, «Вы врач…»
🟣Роль назначалась аудитории — «Вы разговариваете с пациентами…»
🟣Запрос определял роли и спрашивающего, и отвечающего — «Вы со своим пациентом…»

Эксперименты проводились с тремя разными моделями. Эффективность и качество их ответов проверяли с помощью 2457 вопросов из популярного датасета MMLU (Massive Multitask Language Understanding).

Выводы учёных оказались крайне разнообразными. Например, ответы на запросы с межличностными ролями оказались в целом более качественными по сравнению с ответами на профессиональные запросы. При этом для межличностных ролей все три протестированные модели давали ответы одинакового качества, а вот для профессиональных ролей качество ответов отличалось от модели к модели.

Среди межличностных ролей наименее эффективными для всех моделей оказались романтические и семейные. При этом учёные выяснили, что лучше всего работают гендерно нейтральные формулировки запросов, то есть не «девушка» или «парень», а «партнёр» (конечно, здесь надо учитывать, что исследование проводилось на английском языке).

В работе учёных есть ещё масса интересных подробностей. А для практического применения на основании этого исследования мы выделили семь советов в статье в Telegraph 👇
Please open Telegram to view this post
VIEW IN TELEGRAM
Вышла новая версия Code Llama

70 миллиардов параметров делают базовую модель одной из самых мощных.
Используется для синтеза и анализа кода на разных языках программирования.
Доступные версии модели: 7B, 13B, 34B и 70B параметров для подтипов:
Code Llama базовая, Python и Instruct модели - всего 12 вариаций

Подготовлена и обучена в период с января 2023 по январь 2024.
Суммарно на обучение 12 вариантов ушло 1400тыс GPU часов на железе A100-80GB

Больше деталей по модели

#CodeLlama #HF #Meta
21
Китай на пути к AI-революции

Китай одобрил 14 крупных языковых моделей и корпоративных приложений для широкого использования в разных отраслях.
Одна модель усиливает интернет-безопасность, другая — специализируется на создании и обработке видео с помощью AI.
В стране уже более 40 государственно утвержденных языковых моделей.
Ученые настаивают на разработке приложений, аналогичных ChatGPT.
Из представленных 238 языковых моделей большинство еще ждут одобрения.

200тыс единиц уже готовы, ещё миллион на подходе.

#China #AI #ChatGPT
1🤔1
Forwarded from Denis Sexy IT 🤖
Кажется, у знаменитого в среде больших языковых моделей стартапа Mistral AI украли модель «Mistral Medium 70b» и выложили ее для всех в формате gguf с именем «miqu-70b».

Автор модели не признается что это утечка и утверждает что все натренил сам, при этом детали тренировки не раскрывает и отказывается опубликовать «несжатую» (fp16) версию модели – якобы, выложить не может так как у него плохой интернет, при этом уже залил больше 100гб разных «пожатых» версий этой модели (модели «ужимают» или «квантируют» жертвуя немного их качеством, чтобы проще было запустить на слабом железе).

Я тоже поигрался и согласен, что модель подозрительно хорошая – не gpt4, но блин, от ноунейма в индустрии таких уровней не ждешь обычно.

Вы можете потестировать ее бесплатно тут, какой-то реддитор выложил (без регистрации):
https://www.neuroengine.ai/Mixtral-7b-8expert

Еще, на тестах с реддита видно, что «неизвестная модель miqu» подозрительно близко подобралась по количеству очков к известной закрытой модели «Mistral Medium».

Ждем деталей, выглядит все очень подозрительно.

Но если правда, нас скоро ждет gpt3.5 уровень в каждом тостере хотим мы этого или нет ☕️ правда, даже если это не утечка, нас всё равно это ждало бы, так что ничего не поменялось
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from GigaChat
Нейросетевая модель GigaChat Pro стала мощнее по качеству ответов и основным метрикам 🦾

Рассказываем о главных обновлениях сервиса — на сегодняшний день им пользуются более 2,5 млн человек!

🖥 Увеличили контекст беседы в два раза — с 4 тысяч до 8 тысяч токенов. GigaChat запоминает диалог и учитывает ваши запросы в своих ответах ооочень долго — примерно как на 12 страницах А4.

🖥 Сделали апдейт датасетов по экономике, медицине и праву. Модель стала лучше отвечать на экономические, медицинские, правовые вопросы — больше экспертности и точности в сложных терминах.

🖥 Добавили экспертные и редакторские данные, прокачали генерации с Kandinsky. Обучили на опыте реальных экспертов, редакторов и художников — нейросетевая модель вновь поумнела.

🖥 Дообучили модель на широком массиве данных. GigaChat Pro потратила на учёбу много времени и теперь лучше следует инструкциям. Учиться — никогда не поздно!

🖥 Дали возможность разработчикам и компаниям интегрировать все модели в собственные сервисы и приложения через GigaChat API, в том числе новую модель GigaChat Lite+ с ещё более мощным контекстом на 32 тысячи токенов.

🖥 Добавили в GigaChat API возможность формировать векторное представление текстов — эмбеддинги. Они используются для оценки смысловой схожести текстов, повышения точности ответов и упрощения поиска и классификации информации.

Затестить GigaChat Pro
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1
This media is not supported in your browser
VIEW IN TELEGRAM
гайд по созданию интерактивного робота на Unity с ИИ

Создание NPC-робота с помощью Hugging Face Transformers и Unity Sentis.
Робот управляется текстовыми командами.
Модель используется для предсказания действий и сравнения вариантов выбора.
В статье подробно по шагам описана настройка проекта в Unity.
Показано применение библиотек для создания взаимодействия с роботом.
На примере игры демонстрируется работа NPC-робота.

Не хватает ещё голосового управления.
Теперь вот это вот "ну куда ты идешь, прячься охрана идёт!" можно не выбирать из меню.

#HuggingFace #UnitySentis #NPC
Huawei повышает качество генерации изображений из текста с помощью CompAgent

Huawei представляет CompAgent для создания изображений на основе сложных текстовых запросов.

CompAgent разбивает сложные запросы на объекты, атрибуты и сценарии и дальше детально прорабатывает каждый из них прежде чем приступать к генерации.
За счёт этого картинки получаются в среднем на 10% более точные, чем у аналогичных моделей.

#Huawei #CompAgent #TextToImage
Volkswagen открывает собственную лабораторию ИИ

Решения ИИ будут направлены на оптимизацию зарядки электромобилей, предиктивное обслуживание и связь автомобилей с домами пользователей.
Исследуются возможности использования ИИ для распознавания голоса в автомобиле.
Создание лаборатории уменьшит зависимость Volkswagen от внешнего ПО ИИ.
Volkswagen интегрирует ChatGPT в автомобили в партнерстве с OpenAI.

#Volkswagen #AI #OpenAI
Google MobileDiffusion - генерация изображений из текста на смартфоне

MobileDiffusion - это новый способ создавать качественные изображения из текста на мобильниках.
Генерирует картики в разрешении 512x512 менее чем за секунду.
Обладает относительно скромным аппетитом - всего 520M параметров.
Снижены проблемы высокой вычислительной сложности и объема параметров, типичные для подобных технологий.
Мобильная оптимизация достигнута за счет улучшения архитектуры, вдохновленного архитектурой UNet.
Применены легкие слои для замены тяжелых операций в модели.
Использование VAE и DiffusionGAN для эффективного преобразования текста в изображение.
Обучение проводилось на базе предварительно обученной модели Diffusion UNet.

#MobileDiffusion #Google #DiffusionGAN
Midjourney обновился.
Добавлена аниме стилизация —niji 6
один и тот же запрос:

decomposed scheme of aircraft engineering facility with automated AI robots production line assembling the plane

#Midjourney
🧬 52 ускорителя NVIDIA H200 за 1/100 стоимости — Tachyum начнёт массово выпускать 192-ядерные чипы Prodigy в этом году.

Словацкая компания Tachyum сообщила, что в этом году начнёт массовое производство универсального процессора Prodigy, сочетающего вычислительные и графические ядра, а также нейродвижок TPU. Производитель обещает, что новинка обеспечит выдающийся уровень производительности и сможет потягаться с самыми мощными ускорителями вычислений #Nvidia

🧩 #AINews
1