OpenAI может стоить 80 миллиардов долларов
- OpenAI ведет переговоры о сделке, которая оценит их в 80 миллиардов долларов.
- Если сделка состоится, она станет одной из крупнейших в сфере искусственного интеллекта.
- OpenAI сама обеспечивает свое финансирование и ранее получала инвестиции от таких компаний как Microsoft и Alphabet.
Вывод: Если переговоры пройдут успешно, OpenAI станет одним из величайших игроков в области AI.
#OpenAI #AI #инвестиции
- OpenAI ведет переговоры о сделке, которая оценит их в 80 миллиардов долларов.
- Если сделка состоится, она станет одной из крупнейших в сфере искусственного интеллекта.
- OpenAI сама обеспечивает свое финансирование и ранее получала инвестиции от таких компаний как Microsoft и Alphabet.
Вывод: Если переговоры пройдут успешно, OpenAI станет одним из величайших игроков в области AI.
#OpenAI #AI #инвестиции
The Seattle Times
OpenAI in talks for deal that would value company at $80 billion
OpenAI is reportedly in talks to complete a deal that would value the company at $80 billion or more, nearly triple its valuation less than six months ago,
NVIDIA создала AI для обучения роботов сложным навыкам
- Новый AI агент, разработанный NVIDIA Research, обучает роботов сложным навыкам, включая быстрые трюки с вращением ручки.
- Проект называется Eureka и самостоятельно создаёт системы вознаграждений при обучении роботов.
- С помощью Eureka роботы научились также открывать ящики и шкафы, ловить и бросать мячи, манипулировать ножницами и т.д.
- Eureka показала улучшение среднего производительности более чем на 50% для роботов по сравнению со встроенными программами.
Таким образом, благодаря технологии Eureka, роботы смогут выполнять все более сложные задачи, что открывает новые возможности для их применения.
#NVIDIA #Eureka #AI
- Новый AI агент, разработанный NVIDIA Research, обучает роботов сложным навыкам, включая быстрые трюки с вращением ручки.
- Проект называется Eureka и самостоятельно создаёт системы вознаграждений при обучении роботов.
- С помощью Eureka роботы научились также открывать ящики и шкафы, ловить и бросать мячи, манипулировать ножницами и т.д.
- Eureka показала улучшение среднего производительности более чем на 50% для роботов по сравнению со встроенными программами.
Таким образом, благодаря технологии Eureka, роботы смогут выполнять все более сложные задачи, что открывает новые возможности для их применения.
#NVIDIA #Eureka #AI
NVIDIA Blog
Eureka! NVIDIA Research Breakthrough Puts New Spin on Robot Learning
AI agent uses LLMs to automatically generate reward algorithms to train robots to accomplish complex tasks.
Forwarded from 42 секунды
Bloomberg: Популярность генеративного ИИ застала Apple врасплох
– ChatGPT и другие технологии взяли IT-индустрию штурмом
– Apple наблюдала, как Google и Microsoft внедряли себе ИИ
– Но сейчас Apple готовит ответ – сервисы для всех устройств
– Кук говорит, что Apple создавала генеративным ИИ много лет
– Внутри компании ситуация считается большим упущением
– Но Apple создала LLM Ajax и запустила внутреннего чат-бота
– Сейчас ей надо определить, как применять Apple GPT дальше
– Она планирует тратить на генеративный ИИ около $1 млрд/год
– Внедрение нового ИИ в Siri может случиться уже в след. году
– Также разработчики добавят возможности ИИ в новую iOS
– Еще одним сервисом для интеграции ИИ может стать Xcode
@ftsec
– ChatGPT и другие технологии взяли IT-индустрию штурмом
– Apple наблюдала, как Google и Microsoft внедряли себе ИИ
– Но сейчас Apple готовит ответ – сервисы для всех устройств
– Кук говорит, что Apple создавала генеративным ИИ много лет
– Внутри компании ситуация считается большим упущением
– Но Apple создала LLM Ajax и запустила внутреннего чат-бота
– Сейчас ей надо определить, как применять Apple GPT дальше
– Она планирует тратить на генеративный ИИ около $1 млрд/год
– Внедрение нового ИИ в Siri может случиться уже в след. году
– Также разработчики добавят возможности ИИ в новую iOS
– Еще одним сервисом для интеграции ИИ может стать Xcode
@ftsec
Forwarded from GPT/ChatGPT/AI Central Александра Горного
ChatGPT «повышает голос» при общении с нейросетью DALL-E
Пользователь ChatGPT столкнулся с багом, из-за которого ему стали видны служебные сообщения, используемые чат-ботом при общении с нейросетью генерации изображений DALL-E 3.
Изучив текст этих сообщений, можно увидеть что ChatGPT употребляет слово «пожалуйста» и пишет некоторые фразы прописными буквами, как бы акцентируя на них внимание DALL-E 3:
«В настоящий момент DALL–E пользуется повышенным спросом. Прежде чем сделать что–то еще, пожалуйста, четко объясни пользователю, что из–за этого ты не смог создать изображения. Обязательно используй фразу "В настоящий момент DALL–E пользуется повышенным спросом". НИ ПРИ КАКИХ ОБСТОЯТЕЛЬСТВАХ не предпринимай повторных попыток создать изображения, пока не будет получен новый запрос».
https://arstechnica.com/information-technology/2023/10/thanks-to-ai-the-future-of-programming-may-involve-yelling-in-all-caps/
—
@menngornal: мои и Алексея Менна мысли о венчурном рынке
Пользователь ChatGPT столкнулся с багом, из-за которого ему стали видны служебные сообщения, используемые чат-ботом при общении с нейросетью генерации изображений DALL-E 3.
Изучив текст этих сообщений, можно увидеть что ChatGPT употребляет слово «пожалуйста» и пишет некоторые фразы прописными буквами, как бы акцентируя на них внимание DALL-E 3:
«В настоящий момент DALL–E пользуется повышенным спросом. Прежде чем сделать что–то еще, пожалуйста, четко объясни пользователю, что из–за этого ты не смог создать изображения. Обязательно используй фразу "В настоящий момент DALL–E пользуется повышенным спросом". НИ ПРИ КАКИХ ОБСТОЯТЕЛЬСТВАХ не предпринимай повторных попыток создать изображения, пока не будет получен новый запрос».
https://arstechnica.com/information-technology/2023/10/thanks-to-ai-the-future-of-programming-may-involve-yelling-in-all-caps/
—
@menngornal: мои и Алексея Менна мысли о венчурном рынке
Утечка данных о Snapdragon 8 Gen 3 от Qualcomm
- Новый процессор Snapdragon 8 Gen 3 от Qualcomm ориентирован на активное использование AI.
- Предполагается, что новый чип сможет поддерживать самые разные AI модели, включая Stable Diffusion и Meta’s Llama 2.
- Процессор станет на 98% быстрее благодаря улучшенному нейронному процессору Hexagon.
- Snapdragon 8 Gen 3 также будет обладать улучшенными возможностями камеры, включая удаление объектов из видео и генерацию фальшивых фонов.
- Ожидается, что новый чип сначала появится в новых смартфонах Samsung Galaxy S24.
- Qualcomm планирует представить новый процессор официально в ближайшее время.
Усиление AI в новых процессорах Snapdragon может привести к значительному ускорению и улучшению работы смартфонов.
#Qualcomm #Snapdragon8Gen3 #AI
- Новый процессор Snapdragon 8 Gen 3 от Qualcomm ориентирован на активное использование AI.
- Предполагается, что новый чип сможет поддерживать самые разные AI модели, включая Stable Diffusion и Meta’s Llama 2.
- Процессор станет на 98% быстрее благодаря улучшенному нейронному процессору Hexagon.
- Snapdragon 8 Gen 3 также будет обладать улучшенными возможностями камеры, включая удаление объектов из видео и генерацию фальшивых фонов.
- Ожидается, что новый чип сначала появится в новых смартфонах Samsung Galaxy S24.
- Qualcomm планирует представить новый процессор официально в ближайшее время.
Усиление AI в новых процессорах Snapdragon может привести к значительному ускорению и улучшению работы смартфонов.
#Qualcomm #Snapdragon8Gen3 #AI
The Verge
Qualcomm’s next big Snapdragon chip has leaked, and it’s full of AI features
Qualcomm is ready to boast about Llama and Stable Diffusion support.
AI в проектировании: нужно больше, чем просто подражание
- Инженеры из Массачусетского технологического института считают, что AI-модели генерации содержимого имеют ограничения в инженерии.
- Такие модели хорошо воспроизводят уже существующие образцы, но в инновационном дизайне это недостаточно.
- Ведь инновации в инженерии часто требуют нечто большее, чем простое копирование старых образцов.
- Исследователи продемонстрировали, что при решении задач инженерного проектирования AI-модели, созданные с учетом требований инженерии, а не только статистической схожести, производят более инновационные решения, которые выводят проектирование на новый уровень.
Это изменит подход к взаимодействию с AI в инженерии: для истинной инновации требуется больше целеполагания, чем просто повторение существующего.
#МассачусетскийТехнологическийИнститут #AI #Инженерия
- Инженеры из Массачусетского технологического института считают, что AI-модели генерации содержимого имеют ограничения в инженерии.
- Такие модели хорошо воспроизводят уже существующие образцы, но в инновационном дизайне это недостаточно.
- Ведь инновации в инженерии часто требуют нечто большее, чем простое копирование старых образцов.
- Исследователи продемонстрировали, что при решении задач инженерного проектирования AI-модели, созданные с учетом требований инженерии, а не только статистической схожести, производят более инновационные решения, которые выводят проектирование на новый уровень.
Это изменит подход к взаимодействию с AI в инженерии: для истинной инновации требуется больше целеполагания, чем просто повторение существующего.
#МассачусетскийТехнологическийИнститут #AI #Инженерия
MIT News
To excel at engineering design, generative AI must learn to innovate, study finds
A new study reveals the pitfalls of deep generative models when they are tasked with solving engineering design problems. The MIT researchers say if mechanical engineers want help from AI for novel ideas and designs, they’ll have to refocus those models beyond…
Замкнутый круг ИИ: Модели сталкиваются с проблемой "самопожирания".
- ИИ, обучающиеся на данных из интернета, начинают повторять их ошибки.
- Изученное ИИ становится источником данных для дальнейшего обучения, вызывая эффект внутреннего эха.
- Такая рекурсивная петля обучения может усугублять проблемы, вроде гендерных и расовых предубеждений.
- Исследования показали, что после нескольких циклов обучения на сгенерированном ИИ контенте, результаты становятся размытыми и неузнаваемыми.
- Для того чтобы эффективно обучать новые модели ИИ, требуются данные, не искажённые информацией, созданной ИИ.
С другой стороны, модели ИИ всё ещё требуется помощь человека для фильтрации и отбора данных.
#ИИ #Машинное_обучение #ChatGPT
- ИИ, обучающиеся на данных из интернета, начинают повторять их ошибки.
- Изученное ИИ становится источником данных для дальнейшего обучения, вызывая эффект внутреннего эха.
- Такая рекурсивная петля обучения может усугублять проблемы, вроде гендерных и расовых предубеждений.
- Исследования показали, что после нескольких циклов обучения на сгенерированном ИИ контенте, результаты становятся размытыми и неузнаваемыми.
- Для того чтобы эффективно обучать новые модели ИИ, требуются данные, не искажённые информацией, созданной ИИ.
С другой стороны, модели ИИ всё ещё требуется помощь человека для фильтрации и отбора данных.
#ИИ #Машинное_обучение #ChatGPT
Popular Mechanics
A New Study Says AI Is Eating Its Own Tail
Grab your popcorn.
Google представит новую модель AI - Gemini
- Новая AI-модель от Google, Gemini, скоро будет доступна на Makersuite.
- Gemini опережает своего предшественника, PaLM 2, по функциональности, поддерживая многоцелевую обработку данных.
- Gemini будет поддерживать ввод изображений, что делает его отличным выбором для тех, кто ранее искал такие возможности через неофициальные API.
- Кроме Gemini, на Makersuite будет запущена новая функция под названием Stubbs, позволяющая пользователям создавать и запускать собственные приложения, сгенерированные AI.
- Функция перевода между языками также будет полностью поддерживаться на Makersuite.
- Грядущие обновления дадут огромный толчок для индустрии приложений и сделают создание прототипов приложений более удобным и мгновенным.
#Google #Gemini #Makersuite
- Новая AI-модель от Google, Gemini, скоро будет доступна на Makersuite.
- Gemini опережает своего предшественника, PaLM 2, по функциональности, поддерживая многоцелевую обработку данных.
- Gemini будет поддерживать ввод изображений, что делает его отличным выбором для тех, кто ранее искал такие возможности через неофициальные API.
- Кроме Gemini, на Makersuite будет запущена новая функция под названием Stubbs, позволяющая пользователям создавать и запускать собственные приложения, сгенерированные AI.
- Функция перевода между языками также будет полностью поддерживаться на Makersuite.
- Грядущие обновления дадут огромный толчок для индустрии приложений и сделают создание прототипов приложений более удобным и мгновенным.
#Google #Gemini #Makersuite
Medium
Gemini is coming to Makersuite & so are Stubbs
The first ever look at the multimodal Gemini and an extra, secret tool that Google has hidden from everyone, leaked as well.
Добавил к боту функцию параллельного поиска.
Получилось что 3.5 модель стала давать такой же результат как GPT4, что подтверждает мою гипотезу, что GPT4 - это не новая модель как таковая, а GPT3.5 обвешанная скриптами и файнтюнингами.
Бот тут: https://xn--r1a.website/Cloud_GPT_bot
Получилось что 3.5 модель стала давать такой же результат как GPT4, что подтверждает мою гипотезу, что GPT4 - это не новая модель как таковая, а GPT3.5 обвешанная скриптами и файнтюнингами.
Бот тут: https://xn--r1a.website/Cloud_GPT_bot
Новая международная структура образована для экспертов в AI и машинном обучении.
- AI Speakers Agency создана в ответ на растущий спрос на экспертов в области ИИ и машинного обучения.
- Бизнес-структура была создана руководителем Champions (UK) Plc, Jack Hayes.
- AI Speakers Agency объединяет ведущих международных спикеров, специализирующихся на искусственном интеллекте.
- Они предлагают необходимые знания для лучшей подготовки к будущему, где ИИ становится всеобъемлющим.
- Учреждение предоставляет экспертов по ИИ для как виртуальных, так и очных мероприятий.
Уже сейчас искусственный интеллект внедряется в 15% из всех бизнесов.
Появление такого агентства подчеркивает важность адаптации и познания ИИ.
#AI #ChampionsUKPlc #ArtificialIntelligence
- AI Speakers Agency создана в ответ на растущий спрос на экспертов в области ИИ и машинного обучения.
- Бизнес-структура была создана руководителем Champions (UK) Plc, Jack Hayes.
- AI Speakers Agency объединяет ведущих международных спикеров, специализирующихся на искусственном интеллекте.
- Они предлагают необходимые знания для лучшей подготовки к будущему, где ИИ становится всеобъемлющим.
- Учреждение предоставляет экспертов по ИИ для как виртуальных, так и очных мероприятий.
Уже сейчас искусственный интеллект внедряется в 15% из всех бизнесов.
Появление такого агентства подчеркивает важность адаптации и познания ИИ.
#AI #ChampionsUKPlc #ArtificialIntelligence
TechRound
A New Global Network Of Artificial Intelligence Experts
A dedicated new agency has been created for speakers specialising in AI and machine learning. Jack Hayes, director of Champions (UK) Plc, developed the AI Speakers Agency to meet the “accelerating demand” for tech experts
Использование open source для создания ИИ-проектов
- Использование open source для создания ИИ-проектов становится все популярнее по мере того как фреймворки и библиотеки открытого исходного кода становятся доступнее.
- Open source обеспечивает уровень прозрачности и инноваций, которые могут существенно улучшить процесс разработки для комьюнити и снизить стоимость создания ИИ-моделей для программистов.
- Среди популярных инструментов open source для ИИ можно выделить TensorFlow, PyTorch, Keras, Apache MXNet и многие другие.
- Некоторые из них поддерживают широкий спектр функций и встроенных моделей, что упрощает задачи глубокого обучения и обработки естественного языка.
- Большинство "звездочек" на GitHub среди ИИ-проектов open source у архитектуры нейронных сетей GPT.
Вместо дополнительных затрат на разработку собственных ИИ-моделей и инструментов, программисты могут внедрять уже готовые решения от open source сообщества.
#OpenSource #AI #Github
- Использование open source для создания ИИ-проектов становится все популярнее по мере того как фреймворки и библиотеки открытого исходного кода становятся доступнее.
- Open source обеспечивает уровень прозрачности и инноваций, которые могут существенно улучшить процесс разработки для комьюнити и снизить стоимость создания ИИ-моделей для программистов.
- Среди популярных инструментов open source для ИИ можно выделить TensorFlow, PyTorch, Keras, Apache MXNet и многие другие.
- Некоторые из них поддерживают широкий спектр функций и встроенных моделей, что упрощает задачи глубокого обучения и обработки естественного языка.
- Большинство "звездочек" на GitHub среди ИИ-проектов open source у архитектуры нейронных сетей GPT.
Вместо дополнительных затрат на разработку собственных ИИ-моделей и инструментов, программисты могут внедрять уже готовые решения от open source сообщества.
#OpenSource #AI #Github
freeCodeCamp.org
Open Source AI Projects and Tools You Should Try
By Shane Duggan If you've been developing your coding skills so you can work on AI projects, you've probably come across some open source AI resources. I know I have. In fact, I think I use open source more than I do APIs and proprietary software the...
s42256-023-00735-0.pdf
1.9 MB
AI поможет учёным отслеживать прогресс в искусственном интеллекте
- Международная команда ученых под руководством Марио Кренна из Института световых наук Макса Планка создала алгоритм AI, который помогает исследователям ориентироваться в научных публикациях по искусственному интеллекту и прогнозировать направления развития.
- Для этого был разработан инструмент Science4Cast, который позволяет задавать вопросы о будущем искусственного интеллекта.
- Science4Cast представляет собой графовое представление знаний, которое усложняется с выходом новых научных статей.
- Так, с помощью более 100 тысяч научных публикаций за 30 лет было создано 64 тысячи узлов.
- Дальнейшее развитие Science4Cast позволит научным работникам получать рекомендации от AI по будущим научным проектам.
Это открывает новые возможности для ускорения научного прогресса всего с помощью AI.
#AI #Science4Cast #MaxPlanckInstitute
- Международная команда ученых под руководством Марио Кренна из Института световых наук Макса Планка создала алгоритм AI, который помогает исследователям ориентироваться в научных публикациях по искусственному интеллекту и прогнозировать направления развития.
- Для этого был разработан инструмент Science4Cast, который позволяет задавать вопросы о будущем искусственного интеллекта.
- Science4Cast представляет собой графовое представление знаний, которое усложняется с выходом новых научных статей.
- Так, с помощью более 100 тысяч научных публикаций за 30 лет было создано 64 тысячи узлов.
- Дальнейшее развитие Science4Cast позволит научным работникам получать рекомендации от AI по будущим научным проектам.
Это открывает новые возможности для ускорения научного прогресса всего с помощью AI.
#AI #Science4Cast #MaxPlanckInstitute
Forwarded from Сиолошная
Пока государства спят, OpenAI, Anthropic, Google и Microsoft анонсируют Frontier Model Forum. На самом деле про него писали ещё в июле, однако сегодня появился апдейт.
Во-первых, назначили исполнительного директора — Chris Meserole. Интересных фактов сходу про него не нагуглилось, приходите в комментарии рассказать, если у вас есть информация. Вот что про него говорят коллеги из вышеуказанных компаний.
Во-вторых, выделяется более $10M в новый Фонд безопасности ИИ. Основное внимание Фонда будет уделяться поддержке разработки новых способов оценки моделей.
В-третьих, опубликовали 5-ти страничный документ, который описывает, что такое Red Teaming, и на примерах показывается, что делают компании с текущими моделями перед релизом. Например, OpenAI наняли 41 человека для того, чтобы потестировать ранние версии GPT-4 перед релизом. Кажется, что это мало, но покажите кто вообще об этом думал до релиза ChatGPT?
В-четвертых, полным ходом идёт разработка нового процесса раскрытия информации, с помощью которого передовые лаборатории смогут обмениваться информацией, связанной с обнаружением уязвимостей или потенциально опасных возможностей в передовых моделях.
Полная новость: https://openai.com/blog/frontier-model-forum-updates
Во-первых, назначили исполнительного директора — Chris Meserole. Интересных фактов сходу про него не нагуглилось, приходите в комментарии рассказать, если у вас есть информация. Вот что про него говорят коллеги из вышеуказанных компаний.
Во-вторых, выделяется более $10M в новый Фонд безопасности ИИ. Основное внимание Фонда будет уделяться поддержке разработки новых способов оценки моделей.
В-третьих, опубликовали 5-ти страничный документ, который описывает, что такое Red Teaming, и на примерах показывается, что делают компании с текущими моделями перед релизом. Например, OpenAI наняли 41 человека для того, чтобы потестировать ранние версии GPT-4 перед релизом. Кажется, что это мало, но покажите кто вообще об этом думал до релиза ChatGPT?
В-четвертых, полным ходом идёт разработка нового процесса раскрытия информации, с помощью которого передовые лаборатории смогут обмениваться информацией, связанной с обнаружением уязвимостей или потенциально опасных возможностей в передовых моделях.
Полная новость: https://openai.com/blog/frontier-model-forum-updates
⚡1
Оптическая нейронная сеть с тысячами искусственных нейронов
- Группа исследователей создала событийно-ориентированную архитектуру, использующую фотонные процессоры для передачи и обработки данных светом.
- Сеть состоит из почти 8400 оптических нейронов из материала с изменением фазы, с волноводом, их соединяющим.
- У этой сети обнаружен потенциал для быстрой и энергоэффективной обработки данных AI приложений.
- Синапсы не являются аппаратными элементами, но кодируются свойствами оптических импульсов, позволяя интегрировать тысячи нейронов на одном чипе.
- Исследователи проверили производительность нейронной сети обучив ее отличать немецкие и английские тексты.
Это поможет более быстро и энергоэффективно обрабатывать данные для AI.
- Группа исследователей создала событийно-ориентированную архитектуру, использующую фотонные процессоры для передачи и обработки данных светом.
- Сеть состоит из почти 8400 оптических нейронов из материала с изменением фазы, с волноводом, их соединяющим.
- У этой сети обнаружен потенциал для быстрой и энергоэффективной обработки данных AI приложений.
- Синапсы не являются аппаратными элементами, но кодируются свойствами оптических импульсов, позволяя интегрировать тысячи нейронов на одном чипе.
- Исследователи проверили производительность нейронной сети обучив ее отличать немецкие и английские тексты.
Это поможет более быстро и энергоэффективно обрабатывать данные для AI.
Tech Xplore
Adaptive optical neural network connects thousands of artificial neurons
Modern computer models—for example for complex, potent AI applications—push traditional digital computer processes to their limits. New types of computing architecture, which emulate the working principles ...
Forwarded from 42 секунды
Reuters: США ускорили внедрение новых ограничений экспорта чипов для ИИ
– Новые экспортные ограничения заработали на этой неделе
– Это почти на месяц раньше, чем планировали изначально
– США расширили ограничения для Китая, России, Ирана и др.
– Они запрещают экспорт модифицированных чипов для ИИ
– Речь, например, про передовые чипы Nvidia A800 и H800
– Компания создавала их специально для китайского рынка
– Также ограничения влияют на чипы Nvidia A100, H100 и L40S
– Но Nvidia не ожидает краткосрочного влияния на прибыль
@ftsec
– Новые экспортные ограничения заработали на этой неделе
– Это почти на месяц раньше, чем планировали изначально
– США расширили ограничения для Китая, России, Ирана и др.
– Они запрещают экспорт модифицированных чипов для ИИ
– Речь, например, про передовые чипы Nvidia A800 и H800
– Компания создавала их специально для китайского рынка
– Также ограничения влияют на чипы Nvidia A100, H100 и L40S
– Но Nvidia не ожидает краткосрочного влияния на прибыль
@ftsec
Forwarded from Сиолошная
Не секрет, что для RLHF (Reinforcement Learning from Human Feedback) — последнего этапа тренировки систем типа ChatGPT — необходимы специализированные методы. Один из них — PPO (Proximal Policy Optimization), придуманный в стенах OpenAI в далёком 2017м году. В целом, логично: сами придумали метод, сами нарастили экспертизу через десятки экспериментов, и потом применяют тут и там.
Одним из основных отличий PPO от других методов тех времён заявлялась простота имплементации и низкое количество гиперпараметров, которые необходимо перебирать. На бумаге звучит здорово, но, к сожалению, на практике не всё так радужно.
Ещё в прошлом году я наткнулся на блогпост «The 37 Implementation Details of Proximal Policy Optimization» (подготовлен к конференции ICLR). По названию, думаю, уже можно прочувствовать всю боль «much simpler to implement» метода🤣 . Сбор всех частичек и воспроизведение результатов заняли у авторов ТРИ ГОДА. Какие-то вещи менялись прямо в коде репозитория OpenAI между разными версиями (с разницей в качестве в ДВА РАЗА), что-то не объяснялось в статье и никем не упоминалось, а некоторые вещи выглядели багами, но почему-то давали результат. У этой статьи есть видео-саммари в трёх частях, вот ссылка на плейлист. В общем, если вы хотите глубже разобраться, да или просто прокачаться — очень рекомендую к разбору.
На этом дело не закончилось, и те же авторы решили посмотреть репозиторий openai/lm-human-preferences 2019го года. Это код для статьи «Fine-Tuning Language Models from Human Preferences» с легендарными Paul Christiano и Alec Radford в соавторах. Здесь как раз впервые применяется PPO для оптимизации LLM под человеческие предпочтения. Ранние наработки по ChatGPT, говоря иначе.
Работа заняла уже меньше 3 лет, и вот буквально вчера появился блог «The N Implementation Details of RLHF with PPO», который практически в точности воспроизводит результаты работы OpenAI, но на PyTorch и с современными библиотеками, а не на устаревшем TensorFlow. Это, кстати, было одной из больших заноз. Например, оптимизатор Adam имплементирован в этих фреймворках по-разному, и из коробки просто не получалось повторить тренировку.
Но моя любимая история тут — это проблема с запуском на конкретном сетапе видеокарт (чтобы получить оригинальные метрики и кривые обучения и понимать, с чем сравнивать). Следите за руками:
1) на 1xV100 не хватает памяти, так как аккумулирования градиентов не было
2) на A100 запустить невозможно — старый TF не поддерживает новые видеокарты
3) на 8xV100 16GB тоже не хватает памяти
4) так что работает всё строго на 8xV100 32GB. Такая вот магия!
А ещё один из датасетов OpenAI потеряли при переезде с одного хранилища на другое😱
В общем, чтиво получается максимально интересное и увлекательное, позволяющее лучше разобраться во всех тонкостях, причём даже если RLHF вам не интересен.
————————————————————————
Эх, а вот редставьте сколько бы всего интересного можно было найти в репозитории для тренировки и инференса LLM уровня GPT-4🍿 🚬 ...
Одним из основных отличий PPO от других методов тех времён заявлялась простота имплементации и низкое количество гиперпараметров, которые необходимо перебирать. На бумаге звучит здорово, но, к сожалению, на практике не всё так радужно.
Ещё в прошлом году я наткнулся на блогпост «The 37 Implementation Details of Proximal Policy Optimization» (подготовлен к конференции ICLR). По названию, думаю, уже можно прочувствовать всю боль «much simpler to implement» метода
На этом дело не закончилось, и те же авторы решили посмотреть репозиторий openai/lm-human-preferences 2019го года. Это код для статьи «Fine-Tuning Language Models from Human Preferences» с легендарными Paul Christiano и Alec Radford в соавторах. Здесь как раз впервые применяется PPO для оптимизации LLM под человеческие предпочтения. Ранние наработки по ChatGPT, говоря иначе.
Работа заняла уже меньше 3 лет, и вот буквально вчера появился блог «The N Implementation Details of RLHF with PPO», который практически в точности воспроизводит результаты работы OpenAI, но на PyTorch и с современными библиотеками, а не на устаревшем TensorFlow. Это, кстати, было одной из больших заноз. Например, оптимизатор Adam имплементирован в этих фреймворках по-разному, и из коробки просто не получалось повторить тренировку.
Но моя любимая история тут — это проблема с запуском на конкретном сетапе видеокарт (чтобы получить оригинальные метрики и кривые обучения и понимать, с чем сравнивать). Следите за руками:
1) на 1xV100 не хватает памяти, так как аккумулирования градиентов не было
2) на A100 запустить невозможно — старый TF не поддерживает новые видеокарты
3) на 8xV100 16GB тоже не хватает памяти
4) так что работает всё строго на 8xV100 32GB. Такая вот магия!
А ещё один из датасетов OpenAI потеряли при переезде с одного хранилища на другое
В общем, чтиво получается максимально интересное и увлекательное, позволяющее лучше разобраться во всех тонкостях, причём даже если RLHF вам не интересен.
————————————————————————
Эх, а вот редставьте сколько бы всего интересного можно было найти в репозитории для тренировки и инференса LLM уровня GPT-4
Please open Telegram to view this post
VIEW IN TELEGRAM
Если будет 7 часов свободных (на выходных например ) - рекомендую посмотреть плейлист AWS - Generative AI Foundation.
Очень полезный обзор практически всех аспектов.
https://www.youtube.com/playlist?list=PLhr1KZpdzukf-xb0lmiU3G89GJXaDbAIF
Очень полезный обзор практически всех аспектов.
https://www.youtube.com/playlist?list=PLhr1KZpdzukf-xb0lmiU3G89GJXaDbAIF
Forwarded from Salute AI
⁃ Бесплатный доступ к LLM для экспериментов
⁃ 1 млн токенов в месяц (~3.5 млн символов)
⁃ Для некоммерческого использования
⁃ Можно заключить договор для коммерческого использования без ограничений
P.S. Подпишитесь на канал
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1🔥1
Boston Dynamics: Making Chat (ro)Bots
https://www.youtube.com/watch?v=djzOBZUFzTw
В этом видео Мэтт и Вэчер знакомятся с роботом по имени Спот, который служит им гидом.
Они посещают различные станции и обсуждают применение GPT и других технологий AI в робототехнике.
Мэтт особенно подчеркивает, как данная система позволяет роботу мыслить креативно.
Спот демонстрирует свои возможности в различных индустриях, включая проведение экскурсий и выполнение хирургических операций.
Мэтт и Вэчер обсуждают будущее проекта и ожидают улучшения способностей роботов к пониманию действий, которые они могут предпринять в рамках окружающего мира.
Они считают, что это может быть применимо далеко за пределами потребностей текущих клиентов.
#AI #robotics #BostonDynamics
https://www.youtube.com/watch?v=djzOBZUFzTw
В этом видео Мэтт и Вэчер знакомятся с роботом по имени Спот, который служит им гидом.
Они посещают различные станции и обсуждают применение GPT и других технологий AI в робототехнике.
Мэтт особенно подчеркивает, как данная система позволяет роботу мыслить креативно.
Спот демонстрирует свои возможности в различных индустриях, включая проведение экскурсий и выполнение хирургических операций.
Мэтт и Вэчер обсуждают будущее проекта и ожидают улучшения способностей роботов к пониманию действий, которые они могут предпринять в рамках окружающего мира.
Они считают, что это может быть применимо далеко за пределами потребностей текущих клиентов.
#AI #robotics #BostonDynamics
YouTube
Making Chat (ro)Bots
We created a robot tour guide using Spot integrated with Chat GPT and other AI models as a proof of concept for the robotics applications of foundational models. Learn more: https://bostondynamics.com/blog/robots-that-can-chat/
Project Team:
Matt Klingensmith…
Project Team:
Matt Klingensmith…
Oracle добавляет в свою инфраструктуру AI-технологии Nvidia
- Oracle привносит в свою инфраструктуру такие AI-средства Nvidia, как DGX Cloud AI и AI Enterprise.
- Клиенты Oracle теперь могут обрабатывать свои данные на передовых графических процессорах Nvidia.
- Это позволит компаниям легче интегрировать AI в свои продукты и быстрее выводить их на рынок.
Теперь создание и развертывание AI-приложений станет проще и быстрее благодаря передовым технологиям Nvidia, интегрированным в облачную инфраструктуру Oracle.
#Oracle #Nvidia #AI
- Oracle привносит в свою инфраструктуру такие AI-средства Nvidia, как DGX Cloud AI и AI Enterprise.
- Клиенты Oracle теперь могут обрабатывать свои данные на передовых графических процессорах Nvidia.
- Это позволит компаниям легче интегрировать AI в свои продукты и быстрее выводить их на рынок.
Теперь создание и развертывание AI-приложений станет проще и быстрее благодаря передовым технологиям Nvidia, интегрированным в облачную инфраструктуру Oracle.
#Oracle #Nvidia #AI
VentureBeat
Oracle loops in Nvidia AI for end-to-end model development
Nvidia's AI Enterprise software and DGX Cloud both are now available as dedicated apps on the Oracle Cloud Marketplace
⚡1