Data Secrets
77.4K subscribers
6.05K photos
593 videos
20 files
2.43K links
Главный по машинному обучению

Сотрудничество: @veron_28

РКН: clck.ru/3FY3GN
Download Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
Масштабирование ИИ продолжится в том же темпе до 2030

Это установили аналитики из знаменитого EpochAI. Они также утверждают, что если тенденция на кратное увеличение компьюта сохранится, то к концу десятилетия мы увидим модели, обученные на кластерах в 10 000 раз больше, чем GPT-4. Сейчас мощи растут в 4 раза ежегодно.

Но что насчет того, возможно ли это вообще? По подсчетам, на момент 2030 года на обучение моделей потребуется 5GW (сейчас это 30MW), 100 млн GPU (Llama 3.1 405B обучалась на 16K видеокарт) и во много тысяч раз больше данных.

И тем не менее аналитики на основе данных о масштабировании Интернета и промышленности постановили, что человечество в силах раздобыть такие ресурсы, то есть перечисленное не будет серьезным препятствием к масштабированию.

Полный отчет можно посмотреть тут
30🔥13🤪9👍4🙈1
OpenAI такие: "Дааа, мы за регуляризацию! (...но только если регулируют не нас)"

В США сейчас рассматривают новый законопроект об искусственном интеллекте, который запретит опенсорс и разрешит разрабатывать сильный ИИ только небольшой группе компаний, фактически убив индустрию. OpenAI, конечно, в начале этот проект поддержали (можно ли было представить более выгодные для них условия?). Вот что сказал их стратегический директор Джейсон Квон неделю назад:

"Мы всегда считали, что ИИ должен регулироваться, и эта позиция остается неизменной».


Но потом появились новые детали о том, насколько жестко будут контролироваться эти избранные компании, и вот что Квон говорит сегодня:

"Законопроект Калифорнии об искусственном интеллекте поставит под угрозу рост и замедлит темпы инноваций ..."


Напоминаем, что OpenAI и, в частности, Альтман до этого были активными участниками лоббирования жесткого закона по регуляризации ИИ в Европе. Вот такие пироги 🤯
Please open Telegram to view this post
VIEW IN TELEGRAM
91😁29🫡8🤯5👍4🙈21
Блокировка ютуба дает о себе знать, лекторы нашли другую площадку
😁233🔥33🙈133👏3👍2💘1
Мелочь, а как приятно: Anthropic сегодня катнули в бету отображение мат.формул в боте в нормальном латеховском виде.

Красиво.
111🔥37👍212🤯1🍌1
🚀 Grok-2 наконец-то появился на Арене!

Результаты превосходят ожидания: Grok-2 занял 2-е место, обойдя майскую версию GPT-4o, и сравнялся с последним Gemini. Grok-2-mini тоже отличился и занял пятое место.

По математике модель вообще завоевала уверенное первое место, а по направлениям Hard Prompts, Coding, Instruction-following – второе.

Как тебе такое, Илон Маск Сэм Альтман?
Please open Telegram to view this post
VIEW IN TELEGRAM
412034🔥199👍5
Forwarded from XOR
Пока кто-то хейтит кодинг с использованием ИИ — Андрей Карпатый не может себе представить, что «вернется к самостоятельному написанию кода».🧠

@xor_journal
Please open Telegram to view this post
VIEW IN TELEGRAM
2🔥122👍32😁139❤‍🔥2🤯21
По поводу нового Калифорнийского законопроекта о регуляции ИИ продолжают разгораться споры и скандалы

⚪️ OpenAI все также настаивает, что законопроект неразумный. Они утверждают, что регулирование ИИ должно осуществляться на федеральном уровне, а не уровне штата, и запугивают, что закон может поставить под угрозу лидерство Калифорнии в разработке ИИ и вытеснить компании из штата.

⚪️ А вот Anthropic, в который недавно ушло много сильных ученых из OpenAI, наоборот, выступает за, хотя и с некоторыми оговорками. Они поддерживают требование к компаниям разрабатывать протоколы безопасности и заниматься работой по снижению рисков. Но в то же время компания аккуратно намекает, что не поддерживает ограничение опенсорса и чрезмерный надзор чиновников за стартапами.

⚪️ Высказались даже некоторые бывшие сотрудники OpenAI. Они обвиняют компанию в том, что ее руководство практикует запугивание и ложь, чтобы заставить замолчать тех сотрудников, кто критикует нарушение протокола безопасности. По поводу законопроекта они говорят, что он "в целом положительный и не слишком сложный для соблюдения".

Сейчас законопроект уже подается в Законодательное собрание для обсуждения и голосования. Его полное содержание можно посмотреть тут.
Please open Telegram to view this post
VIEW IN TELEGRAM
3👍348🔥6😁2😨1
Постельного белья, которое заставит тебя впасть в депрессию не существу…
😁108🫡137😨5👍2🤩1
Трамп выложил в Твиттере кучу нагенерированных женщин в футболках «Фанаты Свифт за Трампа»

После он заявил прессе, что якобы не знал, что картинки сгенерированы.

«Я наткнулся на них в интернете. Все что я знаю, что их кто-то сделал, но это был не я. Я всегда говорил, что ИИ может быть опасен.»


🤨
Please open Telegram to view this post
VIEW IN TELEGRAM
7😁1343016👍5🤔2
График лосса мечты

P.S. Стена вернулась
😁129🫡309👍2
Ладно, давайте отвлечемся от новостей и посмотрим, как красиво Perplexity рекламирует свои продукты

ИИ-маркетинг, который мы заслужили
👍7925😍14
This media is not supported in your browser
VIEW IN TELEGRAM
Любовь к машинному обучению + ностальгия = LossRider

Такой вот проект выходного дня получился у разработчика из Твиттера. Он перенес игру 2006 года Line Rider на график лосов.

GitHub тут. Музыка, кстати, генерируется с помощью Udio. А еще все это поддерживается из Jupyter, так что это идеальный способ скрасить обучение моделек.

Не благодарите.
169👍16🔥12😁4🤔1
Непопулярное мнение об ИИ Стивена Вольфрама: нам нужны философы

Стивен Вольфрам – это ученый, фаундер Wolfram Alpha и Wolfram Language, который выпустил свою первую статью в 15 лет, а в 20 получил докторскую в Калтехе.

Так вот, он заявляет, что по мере того, как мы все больше и больше взаимодействуем с ИИ, раздумья о последствиях становятся уже не аналитическим, а философским вопросом.

«Хватит относится к этому только как к математической задаче. Это уже давно вышло за грани одной только математики»
👍9119🔥16🤔86💯1
Генерация комментариев к коммитам от Андрея Карпаты

Еще один крутой пет-проект этих выходных. Андрей увидел в Твиттере мем и решил, что надо бы исправлять ситуацию: сел и написал утилиту, которая с помощью gpt4o-mini сама посмотрит на ваш diff и сгенерирует git commit message.

Простой функционал позволит в случае чего перегенерировать или изменить сообщение. И все в одном файле .sh!

Учимся у Андрея правильно реагировать на мемы
❤‍🔥107🤗27😁13🔥12👍82🤯2
This media is not supported in your browser
VIEW IN TELEGRAM
Он готовился писать промпты
142😁39👍13💯3
Data Secrets
😭 Bad news: с 9 сентября в России перестанет работать BigQuery от Google Об отключении платформы для обработки данных сообщила российская компания Softline. Плюс, пользователям уже начали поступать уведомления об отключении. При этом Google Workspace и…
Там Hugging Face только что выпустили набор Deep Learning Containers для билда ИИ-моделей в Google Cloud

В образах уже настроены конфиги + не будет проблем с зависимостями + все контейнеры оптимизированы под окружения в зависимости от задач: под GPU для обучения, под CPU/GPU для инференса и даже для получения эмбеддингов.

Уже есть куча кейс-примеров в репозитории. А все доступные контейнеры лежат тут. Все опенсорс, и разработчики обещают активно поддерживать и развивать проект.

Напоминаем, что Google Cloud в России продолжает работать и отключать его не собираются, так что налетайте 🐳
Please open Telegram to view this post
VIEW IN TELEGRAM
👍48🐳14🤗114🎄11
This media is not supported in your browser
VIEW IN TELEGRAM
Тем временем Илон Маск выкладывает в Твиттере видео с того самого суперкластера Cortex, на котором обещает обучить «самый мощный ИИ в мире» АКА Grok-3. Кластер находится в штаб-квартире Tesla в Остине.

Как вам?
148🤯37👍1612🔥9