Технозаметки Малышева
8.27K subscribers
3.73K photos
1.4K videos
40 files
3.92K links
Новости инноваций из мира Искусственного Интеллекта. 🤖

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸[поддержка]: pay.cloudtips.ru/p/c8960bbb
Download Telegram
Zhipu AI - новый языковой ИИ

Китайский стартап Zhipu AI представил модель GLM4.
GLM4 отличается расширенным контекстным пониманием и высокой производительностью.
Модель может быть полезна для разработчиков и исследователей.

Zhipu AI входит в перечень стартапов с потенциалом стать аналогом OpenAI на китайском рынке.

#ZhipuAI #GLM4 #China
Утечка проекта закона ЕС об ИИ – тревожный звонок для компаний

Критики опасаются, что регулирование ограничит инновации.
Финальный документ насчитывает 892 страницы, консолидированная версия – 258.
Акт планируют принять 2 февраля, с вступлением в силу до июньских выборов в Европарламент.
Европейским организациям необходимо срочно готовиться к новым требованиям.
Положения закона будут вступать в силу постепенно.
Важно обратить внимание на график.
Регуляции затронут также организации вне ЕС в силу экстерриториального характера закона.
Вырастет спрос на программы управления ИИ и профессионалов в этой области.
ЕС создаст Офис по ИИ для поддержки регулирования.

Возникают опасения, что акт может стать тормозом инноваций в ЕС.

Акт

#EUAIACT #Innovation #Regulations
This media is not supported in your browser
VIEW IN TELEGRAM
🧬 ElevenLabs качественно обновила главную ИИ-платформу для дубляжа видео Dubbing Studio. Можно переводить целые фильмы с сохранением оригинальных голосов!

Появились новые настройки, например, теперь отдельные фрагменты можно записать заново, пока акцент и голос не станет подходящим. Достаточно загрузить видео, выбрать один из 29 языков, включая русский, и дубляж готов.

🧩 #КаталогНейросетей
Google Cloud и Hugging Face стали стратегическими партнерами

Hugging Face получит доступ к вычислительным ресурсам Google Cloud и платформе для тренировки и развертывания моделей Vertex AI.

Обе компании обещают, что новое партнерство позволит сделать ИИ с открытым исходным кодом еще доступнее.

https://huggingface.co/blog/gcp-partnership


RoundBook — обзор мировых инвестиций в стартапы
Forwarded from AI Product | Igor Akimov
О, свежие анонсы от OpenAI
https://openai.com/blog/new-embedding-models-and-api-updates
Новые эмбеддинги: маленькие, но мощные, по 3 и большие, но вообще крутые, по 5 :) которые ещё и резать можно, если для задачи вся размерность не нужна.
- Улучшили Gpt-3.5-turbo, которая ещё и дешевле на 50%/25% стала на входные и выходные токены
- Улучшили Gpt-4-turbo, стала лучше писать код и меньше лениться.
- Улучшили moderation api для проверки, не выводит ли сеть что-то запрещённое.
- Добавили роли на разные API ключи и аналитику использования.
🍾1
Индийский стартап Кृтрим стал первым AI-единорогом страны

Привлекли $50 млн. с общей оценкой $1 млрд.

Обучена на большом объеме индийских данных.

Поддерживает все индийские языки для генеративных AI приложений.

Включает в себя серию моделей Кृтрим base и Кृтрим Pro.

Способна переключаться между языками, обсуждать разные тематики.

Бета-версия для пользователей и API для бизнеса появятся в феврале 2024.

Благодаря языковым навыкам модель применима в образовании и деловых коммуникациях.

#Крyтрим #AI #India
Эт конечно оч круто: Jim Fan (AI researcher @ Nvidia) показывает, как самообучаемые ИИ-агенты + мульти-телесность + тренировка в разных реальностях могут сотворить чудеса для человечества.

Посмотрите его TED, 10 минут. Тезисы:

Три направления исследований в ИИ

- AlphaGo стал первым ИИ, победившим человека в Го, но его возможности ограничены только этой игрой.
- Jim Fan и ко создают ИИ, способные на разнообразие действий и форм (как роботы из Star Wars или Wall-E), и работающие в различных [виртуальных] реальностях (как в Ready Player One).
- Исследования сосредоточены на 3 направлениях: навыках ИИ, контролируемых им формах тела, умении работать в разных реальностях.

Бесконечное обучение: Voyager
- Проект Voyager расширяет возможности ИИ: Voyager, работающий в Minecraft, развивает навыки самостоятельно, используя программирование как действие, обучаясь на собств. ошибках; анализирует последствия действий, исправляет ошибки, сохраняет успешные навыки в своей библиотеке.
- Voyager самостоятельно принимает решения без предпрограммирования. Например, научился охотиться на свиней в Minecraft для пропитания, для этого использует существующие и развивает новые навыки.

Мульти-телесность: Metamorph
- MetaMorph - инициатива по созданию модели ИИ, управляющей тысячами роботов с различными конфигурациями конечностей.
- MetaMorph использует специальный язык для описания частей тела роботов и применяет трансформер для генерации моторных управлений.
- MetaMorph управляет разнообразными простенькими роботами, показывая потенциал для управления более сложными системами в будущем.

Реальности: IsaacSim
- IsaacSim от Nvidia — это симуляционная платформа, ускоряющая физические расчеты в тысячи раз. позволяющая ИИ обучаться в условиях, близких к реальным.
- Используя высокую скорость симуляции и фотореализм, IsaacSim обучает ИИ решать задачи в различных условиях (симуляции)
- Foundation Agent — концепция AI, который может работать в разных телах и реальностях, обучаясь на огромном объеме данных.

***

🔗 Link: TED

@ppprompt
Google Bard обходит GPT-4 и выходит на второе место после GPT-4-Turbo

Google Bard обновили и теперь он на втором месте.

Ну, ждём GPT 4.5 уже.

#Google #Bard #GPT
SINGULARITY AI: Ray Kurzweil Reveals Future Tech Timeline To 2100

Если кто не знаком с работами Курцвейла, рекомендую посмотреть один из его прогнозов про экспоненциальный рост прогресса, который приведёт к кардинальным изменениям в будущем в котором мы уже практически живём.

К 2029 году, по его мнению, появятся аппараты, способные соперничать с человеческим мозгом по цене всего $1000.

В 2030-х годах возможно появление нейронных интерфейсов, связывающих мозг человека с облачным ИИ, что позволит значительно расширить человеческий интеллект.

Нанотехнологии претерпят революцию, позволяя манипулировать веществом на молекулярном и атомном уровнях, что кардинально изменит медицину и производство.

К 2045 году вычислительная мощность на 1000 долларов будет в миллиарды раз превышать суммарную мощность всех человеческих мозгов.

Это станет отправной точкой для тесного слияния человека и машины.

#ArtificialIntelligence #Futurism #RayKurzweil
🔥2
Google наращивает AI-мощь с TPU v5p, превосходя Nvidia

Google выпустил новый ИИ-чип TPU v5p, отличающийся повышенной скоростью и мощностью.
Новинка обходит графический процессор Nvidia H100 по параметрам памяти и пропускной способности.
TPU v5p призван ускорить обучение и эффективность работы искусственных интеллектов.
Используется во флагманских сервисах Google, таких как Gmail, YouTube, Android.
Обеспечивает 2,8-кратное ускорение обучения больших языковых моделей по сравнению с TPU v4.
Примерные оценки указывают на 3,4-4,8 кратный прирост скорости перед Nvidia A100, создавая конкуренцию для H100.

Google укрепляет позиции в гонке искусственного интеллекта, обещая новые горизонты в облачных AI-службах.

#Google #TPUv5p #AI
1
Forwarded from e/acc
Оказывается, паттерны активации глубокой нейронной сети заметно отличаются когда она галлюцинирует, врет, генерирует сознательно неправдивый контент (например, вследствие злодейского промта).

Много примеров и сурсы всех экспериментов: https://www.ai-transparency.org/
1
This media is not supported in your browser
VIEW IN TELEGRAM
Google повышает точность и надежность LLM с фреймворком ASPIRE

ASPIRE - новация от Google для улучшения моделей LLM.
Фреймворк добавляет показатель уверенности ответов, повышая их надежность.
Трехэтапный подход: настройка, выборка и самооценка.
Результаты ASPIRE впечатляют: производительность прогнозирования значительно взлетела.
Достигнута точность, позволяющая меньшим моделям превзойти большие.

Интересная техника. Если есть ресурс, можно рекурсию запилить, пока точность не будет достаточной.

#Google #ASPIRE #LLM #техники
This media is not supported in your browser
VIEW IN TELEGRAM
Exphormer: революция в обработке графовых данных

Google Research представляет новаторский метод Exphormer для графовых трансформеров.
Технология использует расширители графов для эффективной связи узлов.
Улучшенное масштабирование на большие графы без потери производительности.
Обеспечивает взаимодействие между удалёнными узлами через несколько слоёв.
Демонстрирует сравнимые или превосходящие результаты перед конкурентами.
Эффективное управление долгосрочными зависимостями в структурированных данных.

Прорыв в обработке сложных данных открывает новые возможности для AI.

#GoogleResearch #Exphormer #GraphTransformer
👍1🔥1
Forwarded from Future Crew
Ролевые ИИгры: как получить наиболее качественные ответы от ИИ

Исследователи из университета Мичигана выяснили, что назначение ролей при общении с большими языковыми моделями (LLM) увеличивает качество ответов на 20%.

Для этого они провели эксперименты со 162 ролями: 50 из них были межличностными (например: мать, друг, брат, знакомый, одноклассник), а 112 — профессиональными. Роли задавались ИИ тремя способами:
🟣Роль назначалась самой модели — например, «Вы врач…»
🟣Роль назначалась аудитории — «Вы разговариваете с пациентами…»
🟣Запрос определял роли и спрашивающего, и отвечающего — «Вы со своим пациентом…»

Эксперименты проводились с тремя разными моделями. Эффективность и качество их ответов проверяли с помощью 2457 вопросов из популярного датасета MMLU (Massive Multitask Language Understanding).

Выводы учёных оказались крайне разнообразными. Например, ответы на запросы с межличностными ролями оказались в целом более качественными по сравнению с ответами на профессиональные запросы. При этом для межличностных ролей все три протестированные модели давали ответы одинакового качества, а вот для профессиональных ролей качество ответов отличалось от модели к модели.

Среди межличностных ролей наименее эффективными для всех моделей оказались романтические и семейные. При этом учёные выяснили, что лучше всего работают гендерно нейтральные формулировки запросов, то есть не «девушка» или «парень», а «партнёр» (конечно, здесь надо учитывать, что исследование проводилось на английском языке).

В работе учёных есть ещё масса интересных подробностей. А для практического применения на основании этого исследования мы выделили семь советов в статье в Telegraph 👇
Please open Telegram to view this post
VIEW IN TELEGRAM
Вышла новая версия Code Llama

70 миллиардов параметров делают базовую модель одной из самых мощных.
Используется для синтеза и анализа кода на разных языках программирования.
Доступные версии модели: 7B, 13B, 34B и 70B параметров для подтипов:
Code Llama базовая, Python и Instruct модели - всего 12 вариаций

Подготовлена и обучена в период с января 2023 по январь 2024.
Суммарно на обучение 12 вариантов ушло 1400тыс GPU часов на железе A100-80GB

Больше деталей по модели

#CodeLlama #HF #Meta
21
Китай на пути к AI-революции

Китай одобрил 14 крупных языковых моделей и корпоративных приложений для широкого использования в разных отраслях.
Одна модель усиливает интернет-безопасность, другая — специализируется на создании и обработке видео с помощью AI.
В стране уже более 40 государственно утвержденных языковых моделей.
Ученые настаивают на разработке приложений, аналогичных ChatGPT.
Из представленных 238 языковых моделей большинство еще ждут одобрения.

200тыс единиц уже готовы, ещё миллион на подходе.

#China #AI #ChatGPT
1🤔1
Forwarded from Denis Sexy IT 🤖
Кажется, у знаменитого в среде больших языковых моделей стартапа Mistral AI украли модель «Mistral Medium 70b» и выложили ее для всех в формате gguf с именем «miqu-70b».

Автор модели не признается что это утечка и утверждает что все натренил сам, при этом детали тренировки не раскрывает и отказывается опубликовать «несжатую» (fp16) версию модели – якобы, выложить не может так как у него плохой интернет, при этом уже залил больше 100гб разных «пожатых» версий этой модели (модели «ужимают» или «квантируют» жертвуя немного их качеством, чтобы проще было запустить на слабом железе).

Я тоже поигрался и согласен, что модель подозрительно хорошая – не gpt4, но блин, от ноунейма в индустрии таких уровней не ждешь обычно.

Вы можете потестировать ее бесплатно тут, какой-то реддитор выложил (без регистрации):
https://www.neuroengine.ai/Mixtral-7b-8expert

Еще, на тестах с реддита видно, что «неизвестная модель miqu» подозрительно близко подобралась по количеству очков к известной закрытой модели «Mistral Medium».

Ждем деталей, выглядит все очень подозрительно.

Но если правда, нас скоро ждет gpt3.5 уровень в каждом тостере хотим мы этого или нет ☕️ правда, даже если это не утечка, нас всё равно это ждало бы, так что ничего не поменялось
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from GigaChat
Нейросетевая модель GigaChat Pro стала мощнее по качеству ответов и основным метрикам 🦾

Рассказываем о главных обновлениях сервиса — на сегодняшний день им пользуются более 2,5 млн человек!

🖥 Увеличили контекст беседы в два раза — с 4 тысяч до 8 тысяч токенов. GigaChat запоминает диалог и учитывает ваши запросы в своих ответах ооочень долго — примерно как на 12 страницах А4.

🖥 Сделали апдейт датасетов по экономике, медицине и праву. Модель стала лучше отвечать на экономические, медицинские, правовые вопросы — больше экспертности и точности в сложных терминах.

🖥 Добавили экспертные и редакторские данные, прокачали генерации с Kandinsky. Обучили на опыте реальных экспертов, редакторов и художников — нейросетевая модель вновь поумнела.

🖥 Дообучили модель на широком массиве данных. GigaChat Pro потратила на учёбу много времени и теперь лучше следует инструкциям. Учиться — никогда не поздно!

🖥 Дали возможность разработчикам и компаниям интегрировать все модели в собственные сервисы и приложения через GigaChat API, в том числе новую модель GigaChat Lite+ с ещё более мощным контекстом на 32 тысячи токенов.

🖥 Добавили в GigaChat API возможность формировать векторное представление текстов — эмбеддинги. Они используются для оценки смысловой схожести текстов, повышения точности ответов и упрощения поиска и классификации информации.

Затестить GigaChat Pro
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1