Технозаметки Малышева
8.26K subscribers
3.72K photos
1.39K videos
40 files
3.91K links
Новости инноваций из мира Искусственного Интеллекта. 🤖

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸[поддержка]: pay.cloudtips.ru/p/c8960bbb
Download Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
Google Cloud представляет Vertex AI Agent Builder для создания корпоративных генеративных ИИ-агентов

Google Cloud запустил Vertex AI Agent Builder - платформу для создания корпоративных генеративных ИИ-агентов. 🤖
Платформа объединяет Vertex AI Search и Vertex AI Conversation для упрощения разработки ИИ-ассистентов.
Vertex AI Agent Builder предлагает:
- Безкодовую консоль для создания агентов на базе языковых моделей Gemini
- Векторный поиск и API для привязки корпоративных данных
- Расширения для интеграции с Python, API и приложениями
- Соединители данных и корпоративный уровень безопасности
Платформа интегрируется с Vertex AI Studio для настройки моделей и использования других возможностей Vertex AI.

Получается, теперь любая компания может замутить своего корпоративного ИИ-ассистента.

#GoogleCloud #VertexAI #AgentBuilder
-------
@tsingular
Google представляет Axion: новые ARM-процессоры для ускорения ИИ в облаке

Google анонсировал новые процессоры Axion - первые собственные чипы на ARM для дата-центров.
Axion обеспечивает прирост производительности на 30-50% и энергоэффективности на 60% по сравнению с x86 CPU.
Процессоры оптимизированы для рабочих нагрузок ИИ: обучения и вывода нейросетей, аналитики данных.
Axion совместим с экосистемой ARM, Google внес большой вклад в ее развитие: Android, Kubernetes, Tensorflow.
Чипы построены на ARMv9, что упрощает перенос ИИ-моделей клиентов.
Google Cloud предоставит VM на базе Axion для предварительного тестирования в ближайшие месяцы. 🚀

Разработки Google в "железе" набирают обороты. Того и гляди, свой LLM-чип выкатят для борьбы с NVIDIA и Intel за рынок ИИ.

#GoogleCloud #Axion #ARMchips
-------
@tsingular
1
Google Cloud представляет новую архитектуру AI Hypercomputer

Google Cloud анонсировал новую архитектуру AI Hypercomputer для оптимизации работы с передовыми моделями ИИ. 🚀
Ключевые обновления включают:
- Cloud TPU v5p для обучения крупнейших генеративных моделей ИИ
- Расширение возможностей GPU NVIDIA (A3 Mega VM на базе H100, NVIDIA Blackwell)
- Оптимизации системы хранения для ИИ (Cloud Storage FUSE, Parallelstore, Filestore, Hyperdisk ML)
- Программные улучшения: JAX, MaxText, PyTorch/XLA 2.3, Jetstream
- Google Distributed Cloud для развертывания сервисов ИИ on-premise
Новая архитектура призвана повысить производительность, эффективность и гибкость работы с ИИ. 💪

и еще про партнерство:
https://blogs.nvidia.com/blog/nvidia-google-cloud-ai-development/

#GoogleCloud #Nvidia #TPU
-------
@tsingular
Google Cloud Next 2024: Новая эра генеративного ИИ

Прямой эфир из будущего. Просто огонь!

https://www.youtube.com/watch?v=V6DJYGn2SFk

На конференции Google Cloud Next 2024 были представлены новейшие разработки в области генеративного искусственного интеллекта (ИИ) и их применение в различных отраслях. Vertex AI, быстро развивающаяся корпоративная платформа ИИ от Google, предлагает доступ к более чем 130 моделям, включая Gemini, Gemma и Mistral. Gemini 1.5 Pro отличается самым большим в мире контекстным окном, поддерживающим до 1 миллиона токенов, что позволяет обрабатывать огромные объемы информации.

Были анонсированы новые модели Vertex AI, такие как Cloud Three Sonnet, Cloud Three Haiku и Code Gemma. Платформа позволяет создавать агентов по работе с клиентами, использовать ИИ для повышения производительности сотрудников, автоматизации процессов и улучшения обслуживания клиентов. Приложение Google Vids использует Gemini для создания видеороликов на основе ИИ, а креативные агенты помогают в создании брендированных изображений и анализе кампаний.

Агенты обработки данных на базе Gemini и BigQuery упрощают перенос данных в Google Cloud, их подготовку, обнаружение и анализ. Новый BigQuery Data Canvas предоставляет интерфейс, подобный ноутбуку, для поддержки запросов на естественном языке и встроенных визуализаций. Интеграция с Looker и Workspace повышает эффективность анализа и активации данных.

Gemini Code Assist, помощник по кодированию корпоративного уровня, повышает производительность и удовлетворенность разработчиков, анализируя всю кодовую базу и предлагая изменения, соответствующие требованиям безопасности. Google Cloud сотрудничает с партнерами для поддержки экосистемы и обучения специалистов, создавая новую эру генеративных агентов ИИ и переосмысливая инфраструктуру для их поддержки.

#Google #Next24
———
@tsingular
Stability AI представляет Stable LM 2 на 12 млрд параметров и обновленный вариант на 1.6 млрд

Обучение производилось на 2 трлн токенов и 7 языках.
Версия на 12 млрд нацелена на баланс производительности, эффективности, требований к памяти и скорости.
Апдейт 1.6B улучшил диалоговые способности модели при сохранении низких системных требований.
Stable LM 2 12B способна решать задачи, доступные только более крупным моделям, требующим больших вычислительных ресурсов.
Инструктированная версия подходит для различных применений, включая системы извлечения RAG.
В тестах Open LLM и MT Bench Stable LM 2 12B обогнала практически всех, кроме Мистраля 8х7B.

https://stability.ai/news/introducing-stable-lm-2-12b

Пробовать тут:
https://huggingface.co/spaces/stabilityai/stablelm-2-chat

Ссылка на модель на HF

CUDA out of memory. :(

#StabilityAI #LanguageModel #StableLM2
-------
@tsingular
Forwarded from Сиолошная
Вышла свежая версия GPT-4-Turbo (суффикс 04-09). Я бы про это не писал, если бы в Twitter сразу 3 сотрудника OpenAI не репостнули это со словами «big improvement». Один даже указал, что улучшения особенно заметны в математике.

Также эту модель должны принести в ChatGPT (веб-сайт с подпиской за $20, не API).

Ждём на LMSYS Arena, оценим, что это за «улучшения». Тайминг выбран интересный — вот только сегодня рейтинг обновился, и оказалось, что модель CMD-R+ от Cohere на 100B+ параметров обогнала GPT-4 (исходные версии весны 2023-го). Claude 3 Opus всё еще сидит на первом месте.

Ну что, началось..? Sama нажал большую красную кнопку?

UPD: ещё написали, что скоро могут опубликовать метрики, чтобы продемонстрировать рост качества рассуждений и способностей в математике
Forwarded from Denis Sexy IT 🤖
This media is not supported in your browser
VIEW IN TELEGRAM
Ничего необычного, просто запустил модель по уровню прошлых версий GPT4 у себя на ноуте ☕️

Модель Command R+ размером 104B параметров; эта модель сейчас на 6 месте среди всех языковых моделей в мире и она в открытом доступе (с некоммерческой лицензией, правда)

Gguf версию качал тут

Подробнее о том как ее запустить в моем закрытом 💎 канале:
Лол, какой VIP канал, мир локальных моделей пока недружелюбный настолько насколько возможно, опции всего две: открываете llama.cpp на github и следуете инструкциями там, или просто ждете еще пару недель пока все популярные back-end аппы подключат ее поддержку (рекомендованный вариант)
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from эйай ньюз
🔥Тэкс, свежий дроп - Mixtral-8x22B!

Mistral как обычно в своем стиле, тупо оставили magnet-ссылку на торрент с весами своей новой модели.

Новая модель это Mixture of Experts Mixtral-8x22B:
- Размер модели 262 GB (я так понимаю веса в fp16)
- 8 экспертов / 2 активных
- 56 слоев, hidden_dim=16384, 48 attention голов
- Размер контекста 65536 токенов.

Обстановочка в гонке моделей накаляется с каждым днем. Кажется, Command R+ могут подвинуть на лидерборде! Weclome to ARENA! 🍿

@ai_newz
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Intel представила Gaudi 3 процессоры для генИИ

Intel анонсировала Gaudi 3 - конкурента Nvidia H100, обеспечивающего на 40% лучшую производительность и энергоэффективность для моделей генеративного ИИ.
Gaudi 3 построен на 5-нм техпроцессе TSMC, имеет 128 ГБ памяти HBM3E и вдвое большую пропускную способность Ethernet.
Поддержка Ethernet облегчит внедрение для предприятий, но уступает NVLink5 в производительности для крупных ИИ-центров.
Основные возможности для Gaudi 3 - серверы предприятий и развивающиеся суверенные дата-центры.
Массовые поставки начнутся в 3-4 кварталах 2024, Intel уже подписала контракты с крупными OEM-производителями.

Лучше поздно, чем никогда.

#Intel #Gaudi3 #GenAI
-------
@tsingular
Перевёл бота @Cloud_GPT_bot на последнюю версию gpt-4-turbo-2024-04-09 для премиум пользователей.
GPTVision так же работает теперь через неё. Стало быстрее.

#GPT4update #bot
———
@tsingular
🔥1
Техас заменяет тысячи экзаменаторов на ИИ

Техас внедряет систему автоматической оценки открытых ответов на экзаменах STAAR с помощью обработки естественного языка.
Новая система, обученная на 3000 предварительно проверенных человеком ответов, призвана сэкономить от $15 до $20 млн в год за счет сокращения числа временных экзаменаторов.
Четверть ответов, оцененных ИИ, будет дополнительно проверяться людьми.
Некоторые преподаватели обеспокоены возможными ошибками автоматической оценки, хотя подобные системы уже используются в других штатах с переменным успехом.
Техасское агентство образования подчеркивает отличие своей системы от "искусственного интеллекта".

Как раз сегодня новость проскочила с выступлением из Штатов, где Луну обозвали газовой планетой. 😄

#Texas #STAAR #NLP
-------
@tsingular
Gemini 1.0 Pro Vision в BigQuery: анализ изображений и видео

Google Cloud интегрировал Gemini 1.0 Pro Vision с BigQuery, позволяя анализировать изображения и видео с помощью SQL-запросов. 🖼📹
Теперь можно извлекать информацию из неструктурированных данных прямо в BigQuery, используя возможности обобщенного ИИ.
Применения включают распознавание объектов, поиск информации, генерацию описаний и создание структурированного контента.
Для использования требуется создать модель в Vertex AI и вызывать ее через функцию ML.GENERATE_TEXT().
Результаты можно преобразовать в структурированные столбцы с помощью SQL-запросов.

Удобно. Для тех, кто знаком с SQL.

#GoogleCloud #BigQuery #Vertex
-------
@tsingular
Forwarded from Институт AIRI
Мы выложили в открытый доступ OmniFusion 1.1. — первую в России мультимодальную модель искусственного интеллекта 🚀

🔥О модели
OmniFusion 1.1. — это передовая мультимодальная модель искусственного интеллекта, предназначенная для расширения возможностей традиционных систем обработки языка за счет интеграции дополнительных модальностей данных, например, изображений, а в перспективе — аудио, 3D- и видеоконтента. Модель – SoTA на ряде бенчмарков (среди моделей схожего размера) и, более того, модель хорошо справляется со сложными задачами и понимает русский язык.

🔖Открытый код
В этот раз мы выкладываем модель в открытый доступ! Делимся ссылкой на GitHub и Technical Report на arXiv. Модель можно использовать как в некоммерческой, так и в коммерческой деятельности.

🌐Статья на Хабр
В статье мы рассказали об особенностях модели, процессе обучения и примерах ее использования. Также подсветили архитектуру, проделанные эксперименты как в части архитектурных трюков, так и в работе с данными. А еще собрали интересные кейсы использования на английском и русском языках.

На Hugging Face статья про архитектуру OmniFusion уже на первом месте в списке daily papers 🔥
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
PowerShell-скрипт, созданный ИИ, распространяет малварь

Группа хакеров TA547 (Scully Spider) использовала PowerShell-скрипт, вероятно, сгенерированный ИИ (ChatGPT, Gemini, CoPilot), для распространения малвари Rhadamanthys в Германии.
Скрипт содержит нехарактерные комментарии, схожие с генерируемыми ИИ.
ChatGPT-4 создал похожий скрипт с аналогичными переменными и комментариями.
Хакеры начали применять ИИ для персонализации фишинга, поиска уязвимостей, создания фишинговых страниц и других вредоносных действий.
Некоторые APT-группы также используют ИИ для повышения эффективности атак и скрытности.

#Hacking #Malware #ChatGPT
-------
@tsingular