Мультиагентный ЦБ на базе ИИ - будущее регулятора и рынка
Сегодня ЦБ сталкиваются с серьезными вызовами: политическое давление, человеческая предвзятость в принятии решений, медленная реакция на экономические изменения.
С учетом того, как за последние несколько дней растет курс биткоина, капитализация криптовалют уже $3трлн., а также во многих странах сегодня высокая инфляция, снижение доверия к традиционным финансам и институтам.
На смену приходят цифровые валюты, которые уже получают доверие со стороны институциональных инвесторов, таких как BlackRock и тд.
Возникает вопрос, а каким должен быть центральный банк новой финансовой системы?
В этом контексте предложение нашей команды @blockchainrf создать центральный банк на базе ИИ-агентов, формируя децентрализованный интеллект финансовой системы.
Архитектура мультиагентной системы нового ЦБ
1. Стратегический уровень
- Агенты долгосрочного планирования
- Агенты структурного анализа
- Агенты прогнозирования кризисов
- Агенты моделирования сценариев
Тактический уровень
- Агенты монетарной политики
- Агенты управления резервами
- Агенты валютного контроля
- Агенты рыночных операций
Операционный уровень
- Агенты транзакционного контроля
- Агенты клиринга
- Агенты надзора
- Агенты безопасности
2. Специализация агентов.
Аналитические агенты
- Обработка больших данных
Анализ экономических индикаторов
- Оценка рыночных трендов
- Мониторинг финансовой стабильности
Исполнительные и контрольные агенты
Технологическая реализация
1. Базовые технологии
ИИ:
-Глубокое обучение
-Обработка естественного языка
-Компьютерное зрение
- Reinforcement learning
Блокчейн:
- Смарт-контракты
- Распределенный реестр
- Криптографическая защита
- Proof of Authority
Квантовые вычисления:
- Квантовая криптография
-Оптимизация портфелей
- Риск-моделирование
- Предиктивная аналитика
2. Инфраструктура.
Вычислительные ресурсы
- Распределенные дата-центры
- Квантовые процессоры
- Нейроморфные чипы
- Edge-вычисления
Сетевая архитектура
- Mesh-сети
- Квантовые каналы связи
- Защищенные протоколы
- Резервирование каналов
Практическое применение
1. Монетарная политика
Автоматическое регулирование
Динамические ставки
Управление резервами
Валютные интервенции
Инфляционное таргетирование
Кризисное управление
Раннее предупреждение
Автоматическая стабилизация
Системная поддержка
Антикризисные меры
2. Финансовый надзор
Мониторинг рынков
Реал-тайм анализ
Выявление манипуляций
Оценка системных рисков
Предиктивный контроль
Новый комплаенс предполагает:
- Встроенный комплаенс на уровне кода
- Самоисполняемые регуляторные требования
- Автоматическую адаптацию к изменениям законодательства
- Проактивное выявление рисков
Безопасность и контроль
1. Кибербезопасность
Многоуровневая защита
Квантовая криптография
Биометрическая аутентификация
Поведенческий анализ
Zero-trust архитектура
Автоматическая защита
AI-driven security
Самовосстанавливающиеся системы
Проактивная защита
Автоматическое обновление
2. Человеческий надзор.
Стратегический контроль
Определение политики
Установка целей
Оценка эффективности
Корректировка параметров
Ручное вмешательство в сложных ситуациях
Кризисное реагирование
Системный аудит
Корректирующие действия
Сегодня ЦБ сталкиваются с серьезными вызовами: политическое давление, человеческая предвзятость в принятии решений, медленная реакция на экономические изменения.
С учетом того, как за последние несколько дней растет курс биткоина, капитализация криптовалют уже $3трлн., а также во многих странах сегодня высокая инфляция, снижение доверия к традиционным финансам и институтам.
На смену приходят цифровые валюты, которые уже получают доверие со стороны институциональных инвесторов, таких как BlackRock и тд.
Возникает вопрос, а каким должен быть центральный банк новой финансовой системы?
В этом контексте предложение нашей команды @blockchainrf создать центральный банк на базе ИИ-агентов, формируя децентрализованный интеллект финансовой системы.
Архитектура мультиагентной системы нового ЦБ
1. Стратегический уровень
- Агенты долгосрочного планирования
- Агенты структурного анализа
- Агенты прогнозирования кризисов
- Агенты моделирования сценариев
Тактический уровень
- Агенты монетарной политики
- Агенты управления резервами
- Агенты валютного контроля
- Агенты рыночных операций
Операционный уровень
- Агенты транзакционного контроля
- Агенты клиринга
- Агенты надзора
- Агенты безопасности
2. Специализация агентов.
Аналитические агенты
- Обработка больших данных
Анализ экономических индикаторов
- Оценка рыночных трендов
- Мониторинг финансовой стабильности
Исполнительные и контрольные агенты
Технологическая реализация
1. Базовые технологии
ИИ:
-Глубокое обучение
-Обработка естественного языка
-Компьютерное зрение
- Reinforcement learning
Блокчейн:
- Смарт-контракты
- Распределенный реестр
- Криптографическая защита
- Proof of Authority
Квантовые вычисления:
- Квантовая криптография
-Оптимизация портфелей
- Риск-моделирование
- Предиктивная аналитика
2. Инфраструктура.
Вычислительные ресурсы
- Распределенные дата-центры
- Квантовые процессоры
- Нейроморфные чипы
- Edge-вычисления
Сетевая архитектура
- Mesh-сети
- Квантовые каналы связи
- Защищенные протоколы
- Резервирование каналов
Практическое применение
1. Монетарная политика
Автоматическое регулирование
Динамические ставки
Управление резервами
Валютные интервенции
Инфляционное таргетирование
Кризисное управление
Раннее предупреждение
Автоматическая стабилизация
Системная поддержка
Антикризисные меры
2. Финансовый надзор
Мониторинг рынков
Реал-тайм анализ
Выявление манипуляций
Оценка системных рисков
Предиктивный контроль
Новый комплаенс предполагает:
- Встроенный комплаенс на уровне кода
- Самоисполняемые регуляторные требования
- Автоматическую адаптацию к изменениям законодательства
- Проактивное выявление рисков
Безопасность и контроль
1. Кибербезопасность
Многоуровневая защита
Квантовая криптография
Биометрическая аутентификация
Поведенческий анализ
Zero-trust архитектура
Автоматическая защита
AI-driven security
Самовосстанавливающиеся системы
Проактивная защита
Автоматическое обновление
2. Человеческий надзор.
Стратегический контроль
Определение политики
Установка целей
Оценка эффективности
Корректировка параметров
Ручное вмешательство в сложных ситуациях
Кризисное реагирование
Системный аудит
Корректирующие действия
Эмитент USDC показал, как разработать ИИ-агента с помощью Microsoft AutoGen
Руководство основано на фреймворке AutoGen от Microsoft и позволяет создавать ИИ-агентов для автономных операций со стейблкоином.
Основная идея - создание системы, где ИИ-агенты могут самостоятельно выполнять задачи и получать за это оплату в цифровой валюте USDC.
Об этом писали здесь.
Каждый агент имеет свою специализацию:
1. Админ - представляет интересы человека, инициирует задачи
2. Планировщик - создает план исследований
3. Инженер - пишет код для решения задач
4. Ученый - анализирует научную информацию
5. Исполнитель - запускает код
6. Критик - проверяет качество работы
После выполнения задач каждый агент получает оплату в USDC через специальные программируемые кошельки на блокчейне. Размер оплаты зависит от вклада каждого агента в общий результат.
Сферы применения такой системы:
- Автономные ИИ-сервисы, генерирующие пассивный доход для владельцев
- Цифровые маркетплейсы для аренды ИИ-агентов
- Финансирование ИИ-исследований
- Совместная работа людей и ИИ с распределением вознаграждений
Технически система реализована на Python (для ИИ-части) и Node.js (для работы с блокчейном).
Ранее мы писали, что хотя ИИ-агенты не "владеют" деньгами в традиционном смысле, эта система служит прототипом для будущих сценариев автономной работы ИИ.
Руководство основано на фреймворке AutoGen от Microsoft и позволяет создавать ИИ-агентов для автономных операций со стейблкоином.
Основная идея - создание системы, где ИИ-агенты могут самостоятельно выполнять задачи и получать за это оплату в цифровой валюте USDC.
Об этом писали здесь.
Каждый агент имеет свою специализацию:
1. Админ - представляет интересы человека, инициирует задачи
2. Планировщик - создает план исследований
3. Инженер - пишет код для решения задач
4. Ученый - анализирует научную информацию
5. Исполнитель - запускает код
6. Критик - проверяет качество работы
После выполнения задач каждый агент получает оплату в USDC через специальные программируемые кошельки на блокчейне. Размер оплаты зависит от вклада каждого агента в общий результат.
Сферы применения такой системы:
- Автономные ИИ-сервисы, генерирующие пассивный доход для владельцев
- Цифровые маркетплейсы для аренды ИИ-агентов
- Финансирование ИИ-исследований
- Совместная работа людей и ИИ с распределением вознаграждений
Технически система реализована на Python (для ИИ-части) и Node.js (для работы с блокчейном).
Ранее мы писали, что хотя ИИ-агенты не "владеют" деньгами в традиционном смысле, эта система служит прототипом для будущих сценариев автономной работы ИИ.
Circle
Enabling AI Agents with Blockchain
We demonstrate how you can leverage AI agents to operate and make autonomous payments using USDC. Read our walkthrough to learn more.
СЕО Anthropic дал совет, в каких направлениях ИИ есть перспектива роста
Дарио Амодей в свежем интервью говорит, что лучше не идти по проторенному пути (например, разработка новых архитектур нейросетей), там уже десятки тысяч человек.
Вместо этого лучше заниматься менее изученными, но перспективными областями.
Он приводит пример механистической интерпретируемости (изучение того, как ИИ "думает" изнутри) - это относительно новая область, где работает всего около 100 человек, а не 10,000 как в более популярных направлениях.
В этих новых областях еще много легкодоступных открытий и достижений, которые просто ждут, чтобы их "собрали".
Также он видит перспективу в:
1. обучении с длинным горизонтом (long-horizon learning),
2. оценке динамических систем,
3. мультиагентных ИИ-системах.
Его совет - нужно предугадывать, какие направления станут важными в будущем (через 5 лет) и начинать работать над ними сейчас, даже если они пока не популярны.
Дарио Амодей в свежем интервью говорит, что лучше не идти по проторенному пути (например, разработка новых архитектур нейросетей), там уже десятки тысяч человек.
Вместо этого лучше заниматься менее изученными, но перспективными областями.
Он приводит пример механистической интерпретируемости (изучение того, как ИИ "думает" изнутри) - это относительно новая область, где работает всего около 100 человек, а не 10,000 как в более популярных направлениях.
В этих новых областях еще много легкодоступных открытий и достижений, которые просто ждут, чтобы их "собрали".
Также он видит перспективу в:
1. обучении с длинным горизонтом (long-horizon learning),
2. оценке динамических систем,
3. мультиагентных ИИ-системах.
Его совет - нужно предугадывать, какие направления станут важными в будущем (через 5 лет) и начинать работать над ними сейчас, даже если они пока не популярны.
YouTube
Dario Amodei: Anthropic CEO on Claude, AGI & the Future of AI & Humanity | Lex Fridman Podcast #452
Dario Amodei is the CEO of Anthropic, the company that created Claude. Amanda Askell is an AI researcher working on Claude's character and personality. Chris Olah is an AI researcher working on mechanistic interpretability.
Thank you for listening ❤ Check…
Thank you for listening ❤ Check…
👀Государство Бутан стало 4-м по величине госдержателем биткоина
По данным Arkham Intelligence, Бутан намайнил 13,011 BTC, став одним из крупнейших держателей криптовалютных резервов среди государств.
Страна активно майнит биткоин с 2021 года. Для майнинга используется гидроэлектроэнергия из гималайских рек.
Криптодобыча составляет более 25% ВВП страны
Бутан, в отличие от Сальвадора (который обещал не продавать свои биткоины), ведет более гибкую политику управления криптоактивами. Недавно был зафиксирован перевод $65 миллионов на биржу Binance.
Всё больше стран рассматривают возможность добавления биткоина в свои национальные резервы. Предвыборное обещание Дональда Трампа уволить главу SEC Гэри Генслера и ввести более дружественное к криптовалютам регулирование сильно влияет на рынок, что демонстрирует рост курса биткоина.
По данным Arkham Intelligence, Бутан намайнил 13,011 BTC, став одним из крупнейших держателей криптовалютных резервов среди государств.
Страна активно майнит биткоин с 2021 года. Для майнинга используется гидроэлектроэнергия из гималайских рек.
Криптодобыча составляет более 25% ВВП страны
Бутан, в отличие от Сальвадора (который обещал не продавать свои биткоины), ведет более гибкую политику управления криптоактивами. Недавно был зафиксирован перевод $65 миллионов на биржу Binance.
Всё больше стран рассматривают возможность добавления биткоина в свои национальные резервы. Предвыборное обещание Дональда Трампа уволить главу SEC Гэри Генслера и ввести более дружественное к криптовалютам регулирование сильно влияет на рынок, что демонстрирует рост курса биткоина.
Cryptonews
Bhutan Reaches $1 Billion in Bitcoin Holdings
Bhutan's Bitcoin holdings have surpassed $1 billion, positioning the country among major state-level Bitcoin adopters.
❗️Фонд a16Z заявили о снижении стоимости использования LLM
Если вы работаете над ИИ-проектами, то учитываете этот факт в плане на 2025 год?
Аналитики фонда ввели даже термин "LLMflation" - тенденцию значительного снижения стоимости использования языковых моделей при сохранении их качества.
Основные причины снижения цен:
- Улучшение производительности GPU
- Квантизация моделей (переход с 16-бит на 4-бит точность)
- Оптимизация программного обеспечения
- Уменьшение размера моделей
- Улучшение инструкций обучения (RLHF, DPO)
- Появление открытых моделей (от Meta(запрещенная в РФ организация, Mistral и других)
Практические примеры:
- Обработка всей речи человека за год (при 10 часах разговора в день) моделью уровня GPT-3 теперь стоит около $2
- Анализ всего исходного кода ядра Linux (40 млн строк) стоит меньше $1
Хотя темп снижения цен может замедлиться, общая тенденция к удешевлению сохранится.
Это открывает новые возможности применения ИИ, которые раньше были экономически невыгодны.
Создание простых голосовых ассистентов становится практически бесплатным с точки зрения вычислений.
Если вы работаете над ИИ-проектами, то учитываете этот факт в плане на 2025 год?
Аналитики фонда ввели даже термин "LLMflation" - тенденцию значительного снижения стоимости использования языковых моделей при сохранении их качества.
Основные причины снижения цен:
- Улучшение производительности GPU
- Квантизация моделей (переход с 16-бит на 4-бит точность)
- Оптимизация программного обеспечения
- Уменьшение размера моделей
- Улучшение инструкций обучения (RLHF, DPO)
- Появление открытых моделей (от Meta(запрещенная в РФ организация, Mistral и других)
Практические примеры:
- Обработка всей речи человека за год (при 10 часах разговора в день) моделью уровня GPT-3 теперь стоит около $2
- Анализ всего исходного кода ядра Linux (40 млн строк) стоит меньше $1
Хотя темп снижения цен может замедлиться, общая тенденция к удешевлению сохранится.
Это открывает новые возможности применения ИИ, которые раньше были экономически невыгодны.
Создание простых голосовых ассистентов становится практически бесплатным с точки зрения вычислений.
Andreessen Horowitz
Welcome to LLMflation - LLM inference cost is going down fast ⬇️ | Andreessen Horowitz
For LLM of equivalent performance, the inference cost is decreasing by 10x every year. What cost $60/million tokens in 2021 costs $.06/million tokens today.
Все о блокчейн/мозге/space/WEB 3.0 в России и мире
Трамп победил на выборах, а это значит Маск получит должность советника, которая была обещана Трампом. Маск получит большую поддержку своих проектов, так как Трамп любит все бизнес вопросы решать сам.
Маск получил лучшее кадровое предложение от Трампа, вот, что это значит для бизнесмена и США
Илон Маск вместе с Вивеком Рамасвами стали со-руководителями нового департамента правительственной эффективности(DOGE, сокращенно название департамента. Ничего вам не напоминает? Да, это название мемкоина, который благодаря Маску уже стоит больше Anthropic).
Видимо, должность и функционал придумал сам Илон Маск, потому что она максимально в его духе свободы. Эта позиция про аудит эффективности государства и возможности более частого обсуждения финансовой политики.
Это неформальная консультативная должность, не требующая утверждения Сенатом, Маск сохранит руководство Tesla, X и SpaceX, в рамках которой он будет:
- Работать над сокращением бюрократии
- Сокращать регулирование (сразу вспоминаем, что Трамп обещал дерегулировать ИИ, а также более проактивно реагировать на крипту)
- Реструктурировать федеральные агентства
- Сотрудничать с Белым домом и Административно-бюджетным управлением.
По сути, это будет влиятельная, но неофициальная роль, сфокусированная на реформировании и повышении эффективности государственного управления, а не традиционная позиция в кабинете министров или федеральном правительстве.
Эта роль может принести значительную выгоду компаниям Маска, а также в развитии США таких сферах как ИИ, космос, криптовалюты.
Кстати, ряд критиков говорят, что Маск ничего не смыслит в госуправлении и у него ничего не получится. Тут хочется отметить, что отсутствие такого опыта однажды не помешало Трампу стать президентом.
Раз Маск реально взялся за власть, то мир ожидает глобальные изменения.
Илон Маск вместе с Вивеком Рамасвами стали со-руководителями нового департамента правительственной эффективности(DOGE, сокращенно название департамента. Ничего вам не напоминает? Да, это название мемкоина, который благодаря Маску уже стоит больше Anthropic).
Видимо, должность и функционал придумал сам Илон Маск, потому что она максимально в его духе свободы. Эта позиция про аудит эффективности государства и возможности более частого обсуждения финансовой политики.
Это неформальная консультативная должность, не требующая утверждения Сенатом, Маск сохранит руководство Tesla, X и SpaceX, в рамках которой он будет:
- Работать над сокращением бюрократии
- Сокращать регулирование (сразу вспоминаем, что Трамп обещал дерегулировать ИИ, а также более проактивно реагировать на крипту)
- Реструктурировать федеральные агентства
- Сотрудничать с Белым домом и Административно-бюджетным управлением.
По сути, это будет влиятельная, но неофициальная роль, сфокусированная на реформировании и повышении эффективности государственного управления, а не традиционная позиция в кабинете министров или федеральном правительстве.
Эта роль может принести значительную выгоду компаниям Маска, а также в развитии США таких сферах как ИИ, космос, криптовалюты.
Кстати, ряд критиков говорят, что Маск ничего не смыслит в госуправлении и у него ничего не получится. Тут хочется отметить, что отсутствие такого опыта однажды не помешало Трампу стать президентом.
Раз Маск реально взялся за власть, то мир ожидает глобальные изменения.
Reuters
Trump names Elon Musk to lead government efficiency drive
Former Republican presidential candidate Vivek Ramaswamy will co-lead the newly created department that Trump indicated will operate outside the confines of government.
Греф заявил, что в ближайшие 3 года Сбер построит еще 50% ИТ-инфраструктуры, которую компания строила за всю свою жизнь.
Качество серверов на базе процессоров Эльбрус не удовлетворяет бизнес и даже госзаказчиков
Эксплуатация показала невысокую отказоустойчивость серверов на базе процессоров Эльбрус.
«У МВД фактически отсутствует возможность оперативной замены такого серверного оборудования при выходе его из строя вследствие форс-мажорных обстоятельств – ввиду того, что его поставки осуществляются только в плановом порядке», – отметил заместитель начальника департамента информационных технологий, связи и защиты информации МВД Игорь Кашпур.
По словам Кашпура, с 2020 по 2024 г. МВД закупило 709 серверов с Эльбрусами.
По словам источника «Ведомостей», кроме МВД проблемы с производительностью серверов на российских процессорах Эльбрус испытывают банки, операторы и госкорпорации.
Ранее замминистра МВД Виталий Шулика сообщил правительству сообщал, что серверы на процессоре Эльбрус-8С не поддерживали загрузку операционной системы с носителей информации. Также у МВД возникли трудности на новых серверах при работе с отечественным системным ПО.
Эксплуатация показала невысокую отказоустойчивость серверов на базе процессоров Эльбрус.
«У МВД фактически отсутствует возможность оперативной замены такого серверного оборудования при выходе его из строя вследствие форс-мажорных обстоятельств – ввиду того, что его поставки осуществляются только в плановом порядке», – отметил заместитель начальника департамента информационных технологий, связи и защиты информации МВД Игорь Кашпур.
По словам Кашпура, с 2020 по 2024 г. МВД закупило 709 серверов с Эльбрусами.
По словам источника «Ведомостей», кроме МВД проблемы с производительностью серверов на российских процессорах Эльбрус испытывают банки, операторы и госкорпорации.
Ранее замминистра МВД Виталий Шулика сообщил правительству сообщал, что серверы на процессоре Эльбрус-8С не поддерживали загрузку операционной системы с носителей информации. Также у МВД возникли трудности на новых серверах при работе с отечественным системным ПО.
Ведомости
МВД пожаловалось на невозможность замены серверов на отечественных процессорах
При выходе из строя оперативно обновить такое оборудование не удается
This media is not supported in your browser
VIEW IN TELEGRAM
⚡️Сбер займется космосом - Греф
Герман Греф сказал, что сейчас идет обсуждение вместе с Роскосмосом стратегии отрасли, и Сбер смотрит и выбирает для себя более подходящий путь участия в индустрии.
Он отметил, что в России уже есть частные компании, которые занимаются запусками спутников, но вот наземная инфраструктура и система доставки остаются пока еще государственными, нет ни одного частного игрока.
Видимо, Сбер займется тем, где еще нет частных компаний. А также созданием цифровой инфраструктуры для космической отрасли
Герман Греф сказал, что сейчас идет обсуждение вместе с Роскосмосом стратегии отрасли, и Сбер смотрит и выбирает для себя более подходящий путь участия в индустрии.
Он отметил, что в России уже есть частные компании, которые занимаются запусками спутников, но вот наземная инфраструктура и система доставки остаются пока еще государственными, нет ни одного частного игрока.
Видимо, Сбер займется тем, где еще нет частных компаний. А также созданием цифровой инфраструктуры для космической отрасли
Виталик Бутерин и команда Ethereum представила планы своего будущего
На конференции Devcon в Бангкоке Виталик Бутерин представил свое видение будущего Ethereum, подчеркивая несколько ключевых достижений и направлений развития:
1. Комиссии на L2 (втором уровне) существенно снизились - с 50 центов до менее 0.1 цента, что сделало Ethereum доступным для гораздо более широкого круга приложений
2. Бутерин прогнозирует, что термины "zero knowledge" и "SNARK" упростятся до просто "proof" в ближайшие годы
3. Он описывает Ethereum как мировой компьютер, крупную разнообразную онchain-экономику и глобальное сообщество
Ключевые направления развития:
1. Усиление фундаментальных характеристик:
- Повышение уровня децентрализации
- Усиление устойчивости к цензуре
- Обеспечение квантовой устойчивости
2. Масштабирование и эффективность:
- Последовательные улучшения эффективности
- Существенное повышение производительности
- Оптимизация Data Availability Solutions (DAS)
- Достижение более 100,000 TPS на L2
3. Расширение применения:
- ENS (Ethereum Name Service)
- Потребительские платежи
- Социальные приложения
- Гибридные решения (финансовые + нефинансовые)
Новый проект Beam Chain
В развитие видения Виталика, Джастин Дрейк представил амбициозное предложение Beam Chain, ключевые характеристики:
1. Производство блоков:
- Ускорение времени слота до 4 секунд
- Финальность за 3 слота
- Оптимизация структуры эпох
2. Демократизация стейкинга:
- Снижение порога входа до 1 ETH
- Внедрение верхнего лимита стейкинга
- Расширение доступности валидации
3. Технологические инновации:
- Внедрение нативного zkEVM
- Устранение лимитов на газ
- Квантовая устойчивость
- Chain snarkification
График внедрения
- 2025: Начало разработки спецификаций
- 2026: Старт имплементации
- 2027-2028: Расширенное тестирование
- После 2028: Внедрение в основную сеть
Для разработчиков это про:
- Новые возможности для создания масштабируемых приложений
- Снижение технических ограничений
- Расширение спектра возможных решений
Для пользователей:
- Снижение стоимости транзакций
- Увеличение скорости обработки
- Расширение функциональности
Для инвесторов:
- Новые возможности для стейкинга
- Потенциальное влияние на экономику ETH
- Долгосрочные перспективы роста
На конференции Devcon в Бангкоке Виталик Бутерин представил свое видение будущего Ethereum, подчеркивая несколько ключевых достижений и направлений развития:
1. Комиссии на L2 (втором уровне) существенно снизились - с 50 центов до менее 0.1 цента, что сделало Ethereum доступным для гораздо более широкого круга приложений
2. Бутерин прогнозирует, что термины "zero knowledge" и "SNARK" упростятся до просто "proof" в ближайшие годы
3. Он описывает Ethereum как мировой компьютер, крупную разнообразную онchain-экономику и глобальное сообщество
Ключевые направления развития:
1. Усиление фундаментальных характеристик:
- Повышение уровня децентрализации
- Усиление устойчивости к цензуре
- Обеспечение квантовой устойчивости
2. Масштабирование и эффективность:
- Последовательные улучшения эффективности
- Существенное повышение производительности
- Оптимизация Data Availability Solutions (DAS)
- Достижение более 100,000 TPS на L2
3. Расширение применения:
- ENS (Ethereum Name Service)
- Потребительские платежи
- Социальные приложения
- Гибридные решения (финансовые + нефинансовые)
Новый проект Beam Chain
В развитие видения Виталика, Джастин Дрейк представил амбициозное предложение Beam Chain, ключевые характеристики:
1. Производство блоков:
- Ускорение времени слота до 4 секунд
- Финальность за 3 слота
- Оптимизация структуры эпох
2. Демократизация стейкинга:
- Снижение порога входа до 1 ETH
- Внедрение верхнего лимита стейкинга
- Расширение доступности валидации
3. Технологические инновации:
- Внедрение нативного zkEVM
- Устранение лимитов на газ
- Квантовая устойчивость
- Chain snarkification
График внедрения
- 2025: Начало разработки спецификаций
- 2026: Старт имплементации
- 2027-2028: Расширенное тестирование
- После 2028: Внедрение в основную сеть
Для разработчиков это про:
- Новые возможности для создания масштабируемых приложений
- Снижение технических ограничений
- Расширение спектра возможных решений
Для пользователей:
- Снижение стоимости транзакций
- Увеличение скорости обработки
- Расширение функциональности
Для инвесторов:
- Новые возможности для стейкинга
- Потенциальное влияние на экономику ETH
- Долгосрочные перспективы роста
Анализ Morgan Stanley: Рынок ИИ достиг $6.7 трлн и продолжает расти
Исследование основано на свежих данных - октябрь 2024:
1. Рыночные показатели:
- Рыночная капитализация компаний-разработчиков ИИ: $6.7 трлн
- Капитализация компаний-пользователей ИИ: $27.5 трлн
- Прирост после ChatGPT: $2.9 трлн
- Соотношение разработчик/пользователь: 13.0
- P/E (коэффициент цена/прибыль): 36x
2. Потребительские метрики:
- Посещения ChatGPT: 3.5 млрд
- Тренды Google по ChatGPT: достигли пика в 100 пунктов
- Рост интереса к ChatGPT (MoM): +18%
3. Гонка языковых моделей:
- Количество моделей с открытым кодом: 1,089
- Топ-10 загрузок моделей: 1,065 млн
- Рост загрузок год к году: +280%
- Загрузки датасетов: 11.3 млн
4. Финансовые показатели компаний:
- Производительность H100 GPU: $4.3 за час
- Производительность A100 GPU: $2.1 за час
- Продажи полупроводников: $40.1 млрд
- Рост капитальных затрат: +51% год к году
5. Венчурные инвестиции:
- Количество сделок с ИИ: 106
- Объем инвестиций в ИИ: 2,050 млн
- Общее количество сделок: 359
Ключевые тренды:
1. Стабильный рост посещаемости ChatGPT
2. Значительное увеличение количества моделей с открытым исходным кодом
3. Рост инвестиций в ИИ-компании
4. Увеличение количества ИИ-вакансий
5. Рост капитализации компаний в секторе ИИ.
Исследование основано на свежих данных - октябрь 2024:
1. Рыночные показатели:
- Рыночная капитализация компаний-разработчиков ИИ: $6.7 трлн
- Капитализация компаний-пользователей ИИ: $27.5 трлн
- Прирост после ChatGPT: $2.9 трлн
- Соотношение разработчик/пользователь: 13.0
- P/E (коэффициент цена/прибыль): 36x
2. Потребительские метрики:
- Посещения ChatGPT: 3.5 млрд
- Тренды Google по ChatGPT: достигли пика в 100 пунктов
- Рост интереса к ChatGPT (MoM): +18%
3. Гонка языковых моделей:
- Количество моделей с открытым кодом: 1,089
- Топ-10 загрузок моделей: 1,065 млн
- Рост загрузок год к году: +280%
- Загрузки датасетов: 11.3 млн
4. Финансовые показатели компаний:
- Производительность H100 GPU: $4.3 за час
- Производительность A100 GPU: $2.1 за час
- Продажи полупроводников: $40.1 млрд
- Рост капитальных затрат: +51% год к году
5. Венчурные инвестиции:
- Количество сделок с ИИ: 106
- Объем инвестиций в ИИ: 2,050 млн
- Общее количество сделок: 359
Ключевые тренды:
1. Стабильный рост посещаемости ChatGPT
2. Значительное увеличение количества моделей с открытым исходным кодом
3. Рост инвестиций в ИИ-компании
4. Увеличение количества ИИ-вакансий
5. Рост капитализации компаний в секторе ИИ.
❗️Как обучать языковые модели эффективнее: новое исследование от Harvard, Stanford, MIT и CMU
Свежая статья посвящена исследованию масштабируемости точности вычислений в контексте обучения и использования языковых моделей.
Обнаружен парадокс, чем дольше обучается модель, тем хуже она реагирует на снижение точности после обучения (квантизацию).
Предложен математический аппарат, позволяющий:
- Предсказать деградацию модели при снижении точности
- Найти оптимальный баланс между размером модели, объёмом данных и точностью вычислений
- Спланировать эффективное обучение с учётом будущего использования модели
Результаты подтверждены масштабными экспериментами:
- Более 465 циклов предварительного обучения
- Модели до 1.7B параметров
- Датасеты до 26B токенов
Практическое применение:
- Для инференса: важно учитывать, как долго обучалась модель перед снижением точности
- Для обучения: можно значительно снизить требования к памяти и вычислениям, правильно выбрав точность
- Для планирования: появилась возможность точнее оценивать необходимые ресурсы
❗️Почему это важно?
1. Для бизнеса: потенциальное снижение затрат на обучение и эксплуатацию моделей
2. Для разработчиков: четкие ориентиры при выборе параметров обучения
3. Для исследователей: новый фреймворк для понимания масштабирования моделей
Свежая статья посвящена исследованию масштабируемости точности вычислений в контексте обучения и использования языковых моделей.
Обнаружен парадокс, чем дольше обучается модель, тем хуже она реагирует на снижение точности после обучения (квантизацию).
Предложен математический аппарат, позволяющий:
- Предсказать деградацию модели при снижении точности
- Найти оптимальный баланс между размером модели, объёмом данных и точностью вычислений
- Спланировать эффективное обучение с учётом будущего использования модели
Результаты подтверждены масштабными экспериментами:
- Более 465 циклов предварительного обучения
- Модели до 1.7B параметров
- Датасеты до 26B токенов
Практическое применение:
- Для инференса: важно учитывать, как долго обучалась модель перед снижением точности
- Для обучения: можно значительно снизить требования к памяти и вычислениям, правильно выбрав точность
- Для планирования: появилась возможность точнее оценивать необходимые ресурсы
❗️Почему это важно?
1. Для бизнеса: потенциальное снижение затрат на обучение и эксплуатацию моделей
2. Для разработчиков: четкие ориентиры при выборе параметров обучения
3. Для исследователей: новый фреймворк для понимания масштабирования моделей
Биткоин теперь новая нефть. Ани Асланян, основатель @blockchainrf для «Ведомости» о том, почему растет биткоин
На мой взгляд в ближайшее время биткоин может стоить $100,000 и за этим стоят фундаментальные факторы.
Катализатором текущего роста стали не только обещания Трампа создать стратегический резерв биткоина и сделать США мировой криптовалютной столицей, но и ожидаемые структурные изменения в регулировании отрасли.
Ключевым моментом здесь является планируемая замена главы SEC Гэри Генслера, известного своей жесткой позицией по отношению к криптовалютам, на более лояльного кандидата.
Новая администрация президента США планирует провести: дерегуляцию финансового сектора, сокращение государственных расходов и налоговые послабления должны придать мощный импульс развитию инновационных технологий, включая криптовалюты.
Рынок уже отреагировал на эти перспективы: биткоин установил новый исторический максимум выше $90, 000, а общая капитализация крипторынка превысила $3 трлн.
Впервые криптовалюта получила такое масштабное признание со стороны традиционных финансовых институтов.
Биткоин-ETF от BlackRock за считанные дни обошел их золотой фонд по объему активов, достигнув $33.2 млрд. Это говорит о серьезном переосмыслении роли криптовалют в глобальной финансовой системе.
Показательно, что даже консервативный BlackRock теперь рекомендует включать биткоин в инвестиционные портфели. По их расчетам, добавление всего 1% биткоина в классический портфель увеличивает доходность с 5.54% до 6.51%. Это серьезный сигнал для институциональных инвесторов.
Дополнительным сигналом для рынка стало публичное заявление Сэма Альтмана, CEO OpenAI, о его оптимистичном взгляде на будущее криптовалют. Это особенно показательно, учитывая, что Альтман является одним из ключевых визионеров в области технологий и его мнение высоко ценится инвестиционным сообществом.
Таким образом, мы видим уникальное схождение сразу нескольких факторов:
1. Политическая поддержка со стороны новой администрации США
2. Беспрецедентный институциональный интерес (рекордные показатели ETF)
3. Позитивные оценки от лидеров технологической индустрии.
4. Растущее признание биткоина как легитимного инвестиционного актива.
В такой ситуации достижение биткоином отметки в $100,000 выглядит не просто возможным, а практически неизбежным следствием происходящих изменений.
Особенно если заявленные администрацией Трампа меры по поддержке криптоиндустрии начнут воплощаться в жизнь.
На мой взгляд в ближайшее время биткоин может стоить $100,000 и за этим стоят фундаментальные факторы.
Катализатором текущего роста стали не только обещания Трампа создать стратегический резерв биткоина и сделать США мировой криптовалютной столицей, но и ожидаемые структурные изменения в регулировании отрасли.
Ключевым моментом здесь является планируемая замена главы SEC Гэри Генслера, известного своей жесткой позицией по отношению к криптовалютам, на более лояльного кандидата.
Новая администрация президента США планирует провести: дерегуляцию финансового сектора, сокращение государственных расходов и налоговые послабления должны придать мощный импульс развитию инновационных технологий, включая криптовалюты.
Рынок уже отреагировал на эти перспективы: биткоин установил новый исторический максимум выше $90, 000, а общая капитализация крипторынка превысила $3 трлн.
Впервые криптовалюта получила такое масштабное признание со стороны традиционных финансовых институтов.
Биткоин-ETF от BlackRock за считанные дни обошел их золотой фонд по объему активов, достигнув $33.2 млрд. Это говорит о серьезном переосмыслении роли криптовалют в глобальной финансовой системе.
Показательно, что даже консервативный BlackRock теперь рекомендует включать биткоин в инвестиционные портфели. По их расчетам, добавление всего 1% биткоина в классический портфель увеличивает доходность с 5.54% до 6.51%. Это серьезный сигнал для институциональных инвесторов.
Дополнительным сигналом для рынка стало публичное заявление Сэма Альтмана, CEO OpenAI, о его оптимистичном взгляде на будущее криптовалют. Это особенно показательно, учитывая, что Альтман является одним из ключевых визионеров в области технологий и его мнение высоко ценится инвестиционным сообществом.
Таким образом, мы видим уникальное схождение сразу нескольких факторов:
1. Политическая поддержка со стороны новой администрации США
2. Беспрецедентный институциональный интерес (рекордные показатели ETF)
3. Позитивные оценки от лидеров технологической индустрии.
4. Растущее признание биткоина как легитимного инвестиционного актива.
В такой ситуации достижение биткоином отметки в $100,000 выглядит не просто возможным, а практически неизбежным следствием происходящих изменений.
Особенно если заявленные администрацией Трампа меры по поддержке криптоиндустрии начнут воплощаться в жизнь.
❗️Кроме OpenAI, проблемы возникли у Google и Anthropic в разработке более совершенных моделей ИИ
Об этих проблемах мы писали ранее здесь. Вначале недели Илья Суцкевер заявил, что эра простого масштабирования ИИ подошла к концу. Все ищут что-то новое. Его команда SSI решает эту проблему.
По данным Bloomberg, Gemini 2.0 не оправдывает ожиданий внутри Google, поэтому фокус смещается на дополнительные функции (например, генерацию изображений). Меньше внимания уделяется фундаментальным улучшениям модели.
А Anthropic отложила выпуск Claude 3.5 Opus, удалив с сайта
упоминания о "скором выходе". Причина все как у конкурентов - улучшения производительности модели не оправдывают увеличение размера модели и операционных затрат.
У OpenAI проблемы с проектом Orion, который недостаточно эффективен в решении новых задач программирования.
Несмотря на доработки, модель пока не соответствует стандартам компании. Релиз отложен до начала следующего года.
Об этих проблемах мы писали ранее здесь. Вначале недели Илья Суцкевер заявил, что эра простого масштабирования ИИ подошла к концу. Все ищут что-то новое. Его команда SSI решает эту проблему.
По данным Bloomberg, Gemini 2.0 не оправдывает ожиданий внутри Google, поэтому фокус смещается на дополнительные функции (например, генерацию изображений). Меньше внимания уделяется фундаментальным улучшениям модели.
А Anthropic отложила выпуск Claude 3.5 Opus, удалив с сайта
упоминания о "скором выходе". Причина все как у конкурентов - улучшения производительности модели не оправдывают увеличение размера модели и операционных затрат.
У OpenAI проблемы с проектом Orion, который недостаточно эффективен в решении новых задач программирования.
Несмотря на доработки, модель пока не соответствует стандартам компании. Релиз отложен до начала следующего года.
Bloomberg.com
OpenAI, Google and Anthropic Are Struggling to Build More Advanced AI
Three of the leading artificial intelligence companies are seeing diminishing returns from their costly efforts to develop newer models.
Прорыв: разработан способ беспроводного доступа к мозгу через спинномозговую жидкость https://tttttt.me/alwebbci/2744
Исследователи из Медицинского филиала Техасского университета и Университета Райса разработали технологию – эндоцистернальные нейроинтерфейсы (ECI).
Это первая в своем роде демонстрация беспроводного нейроинтерфейса через цистерну (пространство, заполненное спинномозговой жидкостью).
Принципиально новые возможности у такого нейроинтерфейса:
- Одновременный доступ к мозгу и спинному мозгу через одну точку входа.
- Возможность перемещения и извлечения устройства.
- Отсутствие необходимости в антитромботических препаратах.
- Доступ к большему количеству областей мозга
- Минимальная инвазивность.
Не требуется трепанация черепа
Доступ осуществляется через люмбальную пункцию в нижней части спины. Значительно снижен риск хирургических осложнений.
- Беспроводная система использует миниатюрную магнитоэлектрическую биоэлектронику.
Успешно протестировано пока на овцах. Подтверждена возможность записи и стимуляции нейронных сигналов. Устройство остается функциональным до 30 дней после имплантации. Возможно перемещение электродов и извлечение интерфейса.
Потенциальное применение:
1. Реабилитация после инсульта
2. Мониторинг эпилепсии
3. Диагностика и лечение различных неврологических расстройств
Исследователи из Медицинского филиала Техасского университета и Университета Райса разработали технологию – эндоцистернальные нейроинтерфейсы (ECI).
Это первая в своем роде демонстрация беспроводного нейроинтерфейса через цистерну (пространство, заполненное спинномозговой жидкостью).
Принципиально новые возможности у такого нейроинтерфейса:
- Одновременный доступ к мозгу и спинному мозгу через одну точку входа.
- Возможность перемещения и извлечения устройства.
- Отсутствие необходимости в антитромботических препаратах.
- Доступ к большему количеству областей мозга
- Минимальная инвазивность.
Не требуется трепанация черепа
Доступ осуществляется через люмбальную пункцию в нижней части спины. Значительно снижен риск хирургических осложнений.
- Беспроводная система использует миниатюрную магнитоэлектрическую биоэлектронику.
Успешно протестировано пока на овцах. Подтверждена возможность записи и стимуляции нейронных сигналов. Устройство остается функциональным до 30 дней после имплантации. Возможно перемещение электродов и извлечение интерфейса.
Потенциальное применение:
1. Реабилитация после инсульта
2. Мониторинг эпилепсии
3. Диагностика и лечение различных неврологических расстройств
OpenAI планирует выпустить ИИ-агента, конкурента Anthropic
Первая версия будет представлять собой универсальный инструмент, работающий через веб-браузер.
Запуск планируется на январь в двух форматах:
- Как исследовательская предварительная версия,
- Через API для разработчиков.
Агент под кодовым названием "Operator", сможет самостоятельно выполнять различные задачи на компьютере от имени пользователя, например:
- Писать код
- Бронировать путешествия
- Выполнять другие практические задачи
Это часть общеотраслевого тренда по созданию ИИ-агентов - программ, способных выполнять сложные многоступенчатые задачи с минимальным контролем со стороны человека.
Ранее Anthropic выпустила похожего агента. А Microsoft запустила инструменты для работы с почтой и документами. Google тоже готовит своего ИИ-агента.
Первая версия будет представлять собой универсальный инструмент, работающий через веб-браузер.
Запуск планируется на январь в двух форматах:
- Как исследовательская предварительная версия,
- Через API для разработчиков.
Агент под кодовым названием "Operator", сможет самостоятельно выполнять различные задачи на компьютере от имени пользователя, например:
- Писать код
- Бронировать путешествия
- Выполнять другие практические задачи
Это часть общеотраслевого тренда по созданию ИИ-агентов - программ, способных выполнять сложные многоступенчатые задачи с минимальным контролем со стороны человека.
Ранее Anthropic выпустила похожего агента. А Microsoft запустила инструменты для работы с почтой и документами. Google тоже готовит своего ИИ-агента.
Bloomberg.com
OpenAI Nears Launch of AI Agent Tool to Automate Tasks for Users
The new software, codenamed “Operator,” is set to be released in January.
⚡️Создана 1-я в мире виртуальная лаба из команды ИИ-ученых под руководством ИИ-профессора
Работа выполнена исследователями из Стэнфордского университета и Chan Zuckerberg Biohub (организация Марка Цукерберга и его супруги).
Как это работает?
• ИИ-профессор руководит командой
• ИИ-химик, биолог, иммунолог и другие специалисты проводят "встречи"
• Человек-ученый дает обратную связь
• Система сама принимает научные решения.
В отличие от предыдущих разработок, где ИИ использовался как инструмент, здесь ИИ выступает как полноценный партнер в исследованиях.
Лаборатория самостоятельно разработала новые нанотела (микроскопические антитела) для борьбы с последними вариантами коронавируса. Результат уже подтвержден реальными экспериментами.
Результат: 92 варианта нанотел, из которых два показали отличные результаты в борьбе с новыми штаммами JN.1 и KP.3.
Работа выполнена исследователями из Стэнфордского университета и Chan Zuckerberg Biohub (организация Марка Цукерберга и его супруги).
Как это работает?
• ИИ-профессор руководит командой
• ИИ-химик, биолог, иммунолог и другие специалисты проводят "встречи"
• Человек-ученый дает обратную связь
• Система сама принимает научные решения.
В отличие от предыдущих разработок, где ИИ использовался как инструмент, здесь ИИ выступает как полноценный партнер в исследованиях.
Лаборатория самостоятельно разработала новые нанотела (микроскопические антитела) для борьбы с последними вариантами коронавируса. Результат уже подтвержден реальными экспериментами.
Результат: 92 варианта нанотел, из которых два показали отличные результаты в борьбе с новыми штаммами JN.1 и KP.3.
bioRxiv
The Virtual Lab: AI Agents Design New SARS-CoV-2 Nanobodies with Experimental Validation
Science frequently benefits from teams of interdisciplinary researchers. However, most scientists don’t have access to experts from multiple fields. Fortunately, large language models (LLMs) have recently shown an impressive ability to aid researchers across…
Франсуа Шолле, создатель Keras, ушел из Google, чтобы создать свою компанию.
Обещает скоро объявить о новой компании.
Каждый из нас постоянно взаимодействует с моделями Keras, но незаметно, они обеспечивают наши рекомендации на YouTube, Netflix и Spotify, фильтрацию мошенничества при транзакциях по вашим кредитным картам и тд.
Последнее время, Франсуа говорит, что мало внимания уделяется генетическим алгоритмам, которые имитируют процесс естественной эволюции и работают по принципу "выживает сильнейший".
В отличие от нейроморфных вычислений, которые пытаются имитировать работу мозга, генетические алгоритмы имитируют процесс эволюции. Это совершенно другой принцип работы, хотя обе концепции действительно вдохновлены биологией.
Обещает скоро объявить о новой компании.
Каждый из нас постоянно взаимодействует с моделями Keras, но незаметно, они обеспечивают наши рекомендации на YouTube, Netflix и Spotify, фильтрацию мошенничества при транзакциях по вашим кредитным картам и тд.
Последнее время, Франсуа говорит, что мало внимания уделяется генетическим алгоритмам, которые имитируют процесс естественной эволюции и работают по принципу "выживает сильнейший".
В отличие от нейроморфных вычислений, которые пытаются имитировать работу мозга, генетические алгоритмы имитируют процесс эволюции. Это совершенно другой принцип работы, хотя обе концепции действительно вдохновлены биологией.
Googleblog
Google for Developers Blog - News about Web, Mobile, AI and Cloud
Today, we're announcing that Francois Chollet, the creator of Keras and a leading figure in the AI world, is embarking on a new chapter in his career outside of Google.
Новая волна ИИ-стартапов атакует корпоративный бэк-офис
a16Z говорит, что традиционный RPA умирает с приходом LLM, и дает формулу запуска стартапа.
Раньше для автоматизации использовалась RPA (Robotic Process Automation), а с появлением современных языковых моделей появилась возможность создать по-настоящему интеллектуальную автоматизацию, где:
1. ИИ-агенты могут понимать конечную цель
2. Адаптироваться к изменениям в процессах
3. Работать с разными форматами данных
Переход от RPA к интеллектуальной автоматизации и рост специализированных отраслевых решений.
Рыночные возможности огромны:
- Более 8 миллионов рабочих мест в операционной деятельности только в США.
- Рынок аутсорсинга бизнес-процессов около $250 млрд, тоже данные в США.
- Во многих областях нет готовых программных решений.
https://tttttt.me/alwebbci/2750
a16Z говорит, что традиционный RPA умирает с приходом LLM, и дает формулу запуска стартапа.
Раньше для автоматизации использовалась RPA (Robotic Process Automation), а с появлением современных языковых моделей появилась возможность создать по-настоящему интеллектуальную автоматизацию, где:
1. ИИ-агенты могут понимать конечную цель
2. Адаптироваться к изменениям в процессах
3. Работать с разными форматами данных
Переход от RPA к интеллектуальной автоматизации и рост специализированных отраслевых решений.
Рыночные возможности огромны:
- Более 8 миллионов рабочих мест в операционной деятельности только в США.
- Рынок аутсорсинга бизнес-процессов около $250 млрд, тоже данные в США.
- Во многих областях нет готовых программных решений.
https://tttttt.me/alwebbci/2750
Telegram
All about AI, Web 3.0, BCI
a16Z reported the rise of intelligent automation: a market overview and startup guide
The intelligent automation market represents a significant transformation in how businesses handle operations. With the advent of AI, particularly large language models…
The intelligent automation market represents a significant transformation in how businesses handle operations. With the advent of AI, particularly large language models…
Новый бэнчмарк BABILong подтвердил "стену Суцкевера"
Сегодня Сэм Альтман в X уверенно заявил "there is no wall" в ответ на дискуссию о пределах масштабирования ИИ, из-за чего уже СМИ пишут, что проблемы с выпуском более продвинутых моделей не только у OpenAI, но и у Google и Anthropic.
Тем временем, результаты нового бенчмарка BABILong неожиданно подтверждают позицию Ильи Суцкевера о конце эры простого наращивания мощности ИИ.
BABILong разработан AIRI, МФТИ и LIMS и включает 20 задач на рассуждение, где факты "спрятаны" в длинных текстах до 50 млн токенов.
Даже самые мощные языковые модели используют только 10-20% длинного контекста.
GPT-4 и Gemini Pro 1.5, несмотря на огромное количество параметров, теряют эффективность при увеличении длины текста.
Еще интереснее, что небольшие специализированные модели после файнтюнинга (RMT, ARMT, Mamba) превосходят этих гигантов в работе с длинными текстами до 50 млн токенов.
Получается, что правы оба: Суцкевер - в том, что простое наращивание параметров больше не работает, а Альтман - в том, что нет фундаментального предела развития.
Сегодня Сэм Альтман в X уверенно заявил "there is no wall" в ответ на дискуссию о пределах масштабирования ИИ, из-за чего уже СМИ пишут, что проблемы с выпуском более продвинутых моделей не только у OpenAI, но и у Google и Anthropic.
Тем временем, результаты нового бенчмарка BABILong неожиданно подтверждают позицию Ильи Суцкевера о конце эры простого наращивания мощности ИИ.
BABILong разработан AIRI, МФТИ и LIMS и включает 20 задач на рассуждение, где факты "спрятаны" в длинных текстах до 50 млн токенов.
Даже самые мощные языковые модели используют только 10-20% длинного контекста.
GPT-4 и Gemini Pro 1.5, несмотря на огромное количество параметров, теряют эффективность при увеличении длины текста.
Еще интереснее, что небольшие специализированные модели после файнтюнинга (RMT, ARMT, Mamba) превосходят этих гигантов в работе с длинными текстами до 50 млн токенов.
Получается, что правы оба: Суцкевер - в том, что простое наращивание параметров больше не работает, а Альтман - в том, что нет фундаментального предела развития.
arXiv.org
BABILong: Testing the Limits of LLMs with Long Context...
In recent years, the input context sizes of large language models (LLMs) have increased dramatically. However, existing evaluation methods have not kept pace, failing to comprehensively assess the...