⚡️OpenAI: есть опасность создания моделей, чьи возможности мы не до конца понимаем https://tttttt.me/alwebbci/2649

OpenAI разработала новый бенчмарк MLE-bench для оценки способностей ИИ-систем в области машинного обучения.
Это 75 сложных задач, основанных на реальных соревнованиях Kaggle.

🚀 Ключевые моменты:
• Лучшая система (o1-preview с AIDE) получила медаль в 16.9% задач
• Задачи охватывают NLP, компьютерное зрение и другие области ML
• Результаты сравниваются с реальными участниками Kaggle

⚠️ OpenAI подчеркивает потенциальные риски:
• ИИ-агенты могут улучшать себя быстрее, чем люди-исследователи
• Есть опасность создания моделей, чьи возможности мы не до конца понимаем

🤔 Что это значит?

Хотя OpenAI не заявляет прямо о приближении к AGI, их действия говорят о серьезном прогрессе. Они призывают к дальнейшим исследованиям и разработке методов оценки и контроля продвинутых ИИ-систем.

ИТ компания MicroStrategy планирует стать ведущим биткоин-банком в мире

MicroStrategy активно покупает биткоины с 2020 года, используя долговые обязательства и акционерный капитал. На данный момент компания владеет 252,220 BTC.

Компания планирует создавать различные финансовые инструменты, связанные с биткоином: акции, конвертируемые облигации, долговые обязательства и т.д.

В отличие от традиционных банков, MicroStrategy не планирует давать биткоины в кредит, а будет зарабатывать на арбитраже между рынками капитала в $ и ростом стоимости BTC.

MicroStrategy - это ИТ компания, которая изначально специализировалась на разработке ПО для бизнес-аналитики и мобильных приложений. Основана в 1989 году.

⚡️Дарио Амодей, СЕО Anthropic - после разработки мощного ИИ (~2026г.) мы за несколько лет достигнем всего прогресса в биологии и медицине, который мы бы достигли за весь 21 век.

В 2026 уже появится AGI-страна гениев в дата-центре. Дарио Амодей,СЕО Anthropic о том, что нас ждет с появлением сильного ИИ. 

Основатель одного из самых лучших ИИ-стартапов, который мало говорит, но много делает, редко появляется в СМИ, написал интересное эссе, где он критикует мифы о сильном ИИ, мгновенной трансформации мира, сингулярности. Причем его критика подкреплена фактами. А также говорит о позитивных аспектах, также подкрепляя фактами. 

Вот главные моменты, которые мы выделяем:

1. ИИ может ускорить научный прогресс в 10-100 раз. Это означает, что мы можем достичь за десятилетие того, что обычно заняло бы столетие. Но внимание: даже гениальный ИИ не может обойти законы физики. Биологические эксперименты все еще требуют времени!

2. Амодей считает, что в эпоху ИИ мы должны говорить о предельной отдаче от интеллекта и пытаться выяснить, какие другие факторы дополняют интеллект и становятся ограничивающими факторами, когда интеллект очень высок.

3. Революция в медицине. После разработки мощного ИИ мы за несколько лет достигнем всего прогресса в биологии и медицине, который мы бы достигли за весь 21 век.
• Победа над раком и большинством инфекционных заболеваний
• Эффективное лечение генетических болезней
• Предотвращение болезни Альцгеймера
• Контроль над процессами старения
Не просто массовая концентрация ресурсов движет открытиями, а изобретательность.

4. Психическое здоровье 2.0.
ИИ может помочь нам глубже понять работу мозга, что приведет к революции в лечении психических расстройств. Более того, мы можем получить беспрецедентный контроль над нашими эмоциями и когнитивными способностями. Такие заболевания, как
ПТСР, депрессия, шизофрения можно разгадать и очень эффективно лечить.

5. Экономика и работа.
Здесь Амодей менее оптимистичен. ИИ может сделать многие человеческие профессии устаревшими. Нам придется переосмыслить саму концепцию работы и, возможно, внедрить универсальный базовый доход. Но не спешите паниковать: люди всегда находили новые способы быть полезными и находить смысл в жизни.

6. Демократия и свобода.
ИИ - обоюдоострый меч. Он может усилить как демократию, так и авторитаризм. Амодей подчеркивает: нам нужно активно работать над тем, чтобы ИИ стал инструментом свободы, а не угнетения.

Пища для размышлений:
1. Готовы ли мы к миру, где большинство болезней побеждено, а продолжительность жизни удвоена?
2. Как изменится общество, когда мы сможем контролировать наши эмоции и когнитивные способности?
3. Что произойдет с понятием "человеческой уникальности", когда ИИ сможет делать почти все лучше нас?

Амодей заключает: это не неизбежное будущее, а возможность, за которую нужно бороться. Потребуются огромные усилия ученых, политиков и всего общества.

❗️Посмотрите на это! Маск творит историю

SpaceX провела 5-й запуск Starship. Миссия включала успешное возвращение первой ступени Super Heavy с использованием системы захвата Mechazilla, что стало важным шагом к созданию полностью многоразовой ракетной системы.

Как говорит Маск: «Для того, чтобы человечество стало многопланетным видом, необходимо повторное использование ракет и их дозаправка на Земле и Марсе».

Итоги уходящей недели в России и мире, что имеет значение:

Текст недели - эссе основателя Anthropic (конкурент OpenAI) о возможностях сильного ИИ.

1. Правительство РФ поделится с бизнесом данными граждан, чтобы те в свою очередь обучали ИИ.

2. Morgan Stanley объявил технологию интерфейсов мозг-компьютер (BCI) самым многообещающим и выпустил отчет для инвесторов, смотрите тут.

3. Греф заявил, что в РФ дефицит ИТ-специалистов до 2030 года составляет 1 млн.человек. Также он рассказал, что ИИ от Сбера помогает тренерскому штабу ФК ЦСКА.

4. Нобелевскую премию по физике получил Дж. Хинтон, крестный отец ИИ. Подробнее за что, читайте здесь.

5. Нобелевскую премию по химии получил Д. Хассабис, глава Google DeepMind за создание AlphaFold2. Все подробности тут.

6. ОАЭ освободили все криптовалютные транзакции от НДС.

7. ИИ-агенты теперь могут нанимать и оплачивать услуги людей.

8. ИИ-поисковик Perplexity меняет рекламный рынок: теперь ИИ превращает поиск в диалог с брендами.

9. Будущее разговорного ИИ: от науки к бизнес-реальности - свежее исследование.

10. В РФ готовится новый нацпроект по биоэкономике, все подробности здесь.  

11. Как банки могут адаптироваться в условиях растущей децентрализации финансовой системы? Свежий доклад EY.

12. Foxconn строит крупнейший в мире производственный комплекс для сборки суперчипов Nvidia GB200.

13. Вместе со SWIFT с 2025 все банки мира(кроме РФ) начнут тестировать транзакции с цифровыми активами и валютами. 

14. OpenAI обсуждает с Oracle создание самого мощного в мире ЦОДа для ИИ.

15. МФТИ презентовал новую лабораторию нейробиоморфных технологий, а также научный журнал «Нейротехнологии и нейроэлектроника».

16. Маск показал прототип города, который будет заселен роботами. Все главные моменты с конференции Tesla тут.

17. Google рассекретили немного информации о новой Gemini 2.0.

18. Vast представила 1-ю в мире коммерческую космическая станцию, это самый настоящий отель с лабораторией.

19. OpenAI заявил об опасности создания моделей, чьи возможности не до конца понятны.

20. Вышел свежий отчет о состоянии ИИ в мире 2024.

21. Как технологические ограничения ставят под удар экономику ИИ? Читайте здесь.

22. Свежая статья от Йошуа Бенжио.

23. Google выпустила статью, в которой рассказывает о мощи своего квантового компьютера.

В РФ труд человека дешевле, чем роботизация

Правительство и общество поддерживают искусственную занятость на предприятиях. Такой консервативный подход снижает производительность труда и, в свою очередь, ведет к его недооценке.

Напомним, что Минпромторг выделил ₽130млрд на роботизацию промышленности в течение 6 лет, при этом, отметив, что бизнес не хочет роботизировать производство.

Из-за этого у компаний нет мотивации для технологической модернизации предприятий и замещения человеческого труда роботами и автоматами. В результате все большую роль на производстве играют недостаточно квалифицированные кадры, что сказывается на качестве продукции.

По оценкам ЦМАКП, сейчас автоматизация российских производств способна была бы высвободить до 12–15 млн занятых, ликвидировать нынешнее «скрытое индустриальное перенаселение» и хронический разрыв в производительности труда между Россией и технологически развитыми странами.

При реализации этого сценария будет расти и спрос на платформенную занятость — поскольку работодатели смогут снова выбирать себе работников, они, вероятнее всего, предпочтут тех, взаимодействие с кем потребует от них меньше социальных обязательств.

Кроме того, ограничивают модернизацию и санкции. Не в пользу роботов говорят и ожидаемые успехи властей в налаживании импорта иностранной рабочей силы.

👀2 студента из Гарварда создали очки с ИИ, которые могут раскрыть личную информацию, просто взглянув на человека.

Очки выдают имена, телефоны, домашние адреса людей и мн.др.

Готовы к такой персонализации и раскрытию данных?

Описание проекта по ссылке.

Web3 и токенизация: руководство инвестора по оценке цифровых активов

По оценкам McKinsey, к 2030 году объем рынка токенизированных активов может достичь $2 трлн.

Токенизация должна решать реальные проблемы, а не быть решением в поисках проблемы.
Существует риск перенасыщения рынка токенами без явной ценности, что может навредить всей отрасли.

Компания Credbull создала framework, состоящий из ключевых элементов для оценки токенизированных активов.

а) Производительность и эффективность:
- Блокчейн-инфраструктура может сократить количество посредников и время транзакций.

б) Прозрачность:
- Токенизация должна обеспечивать прозрачность, предоставляя информацию о распределении капитала, производительности активов и подверженности рискам в режиме реального времени.

в) Доступ:
- Токенизация может демократизировать доступ к инвестициям, снижая минимальные суммы вложений.
- Это особенно важно для таких классов активов, как частный кредит, недвижимость, произведения искусства или частный акционерный капитал.

г) Ликвидность:
- Важно оценить, существует ли (или может ли существовать) ликвидный рынок для токенизированного актива.

д) Хранение:
- Возможность самостоятельного хранения токенов.
- Однако должны быть предоставлены альтернативы для инвесторов, предпочитающих услуги хранения третьих сторон.

Важно:
- Не каждый актив подходит для токенизации.
- Необдуманная токенизация всего подряд может привести к неэффективности и путанице среди инвесторов.
- Четкая структура оценки помогает инвесторам принимать обоснованные решения.

ИИ в страховании: глобальные тренды и российская специфика

По прогнозам страхового брокера Mainsgroup, объем рынка киберстрахования в РФ может вырасти до более чем ₽3 млрд по итогам 2024 года.

На российском рынке работают 5 основных игроков: «Сберстрахование», «Альфастрахование», СОГАЗ, ВСК, «Ингосстрах».

Факторы роста киберстрахования в России:
- Увеличение числа кибератак: за первое полугодие 2023 года количество DDoS-атак на российские организации выросло до 355 тыс., что на 16% больше, чем за весь 2022 год.
- Ущерб от киберпреступлений в РФ по итогам 2022 года составил 156 миллиардов рублей (данные МВД).

Средняя стоимость полиса: от 40 тыс. до 60 тыс. рублей. Средняя сумма выплаты: от 25 млн до 85 млн рублей.

Препятствия для развития рынка в России:
- Сложность оценки рисков из-за их постоянно меняющегося характера.
- Излишние требования по раскрытию информации при андеррайтинге.
- Ограничение ответственности страховщиков определенными лимитами.

ЦБ РФ рассматривает возможность введения обязательного страхования киберрисков для финансовых организаций.

Глобальные тренды по данным CBInsights:

4 основных сегмента страховой цепочки создания стоимости, где применяется ИИ:
- Дистрибуция
- Андеррайтинг
- Урегулирование убытков
- Операционная деятельность

Ожидаемые преимущества от внедрения ИИ в страховании включают как повышение операционной эффективности, так и рост доходов.

Мировые тенденции, отмеченные CBInsights, указывают на широкое применение ИИ во всех аспектах страхования, российский рынок же особенно активно развивается в сфере киберстрахования. Это связано с растущим осознанием киберугроз и потребностью в защите от них в российском бизнес-сообществе.

⚡️2 человека общаются во сне: sci-fi в стиле фильма «Начало» превратилась в реальность?

Стартап REMspace провёл эксперимент, в ходе которого удалось установить первую двустороннюю связь между людьми во время осознанных сновидений.

Компания использовала специально разработанное оборудование: «сервер», «аппарат», «Wi-Fi» и «датчики», но не уточнила, как именно работала технология.

Участники исследования спали в разных домах, когда исследователи передали им слово, созданное с помощью уникального языка.

Также спящие смогли обмениваться простыми сообщениями между собой.

Научная статья будет опубликована в следующем году.

Ранее, другой стартап Prophetic представил устройство на основе ИИ отслеживает фазы сна и собирает данные о снах для уточнения ИИ-модели.

Фонд Л. Блаватника наградил премией ученого за работу над нейроинтерфейсом

Объявлены лауреаты премий Блаватника для молодых ученых 2024 года:

1. В направлении химические науки победил Арно Ванден-Брок, Рокфеллеровский университет.

За раскрытие сложных процессов сборки человеческих рибосом, создающее основу для лечения рака и заболеваний, связанных с дисфункцией рибосом.

2. В направлении физические науки и инженерия победил Рагхавендра Прадьюмна Потукучи, Йельский университет
За достижения в создании "мозгового мемекса" - системы, соединяющей компьютеры с человеческим мозгом, что может кардинально изменить наше понимание неврологических характеристик.

3. В направлении науки о жизни - Шира Вайнгартен-Габбай, Рокфеллеровский университет.
За открытие тысяч новых микропротеинов, закодированных в "темной материи" вирусных геномов, что выявило ранее неизвестные иммунные мишени для вакцин.

Каждый лауреат получит премию в размере $30,000.

#BlavatnikAwards #YoungScientists #Science

Фонд Sequoia о сверхразуме на горизонте

Ровно через 2 года после того, как фонд Sequoia выпустили свою статью про генИИ, они выпустили новую, где ожидают, что AGI удивит всех чем-то сверхчеловеческим, как независимое мышление.

Авторы отмечают, что исследования в сфере ИИ продвигаются от "быстрого мышления" к "медленному мышлению", что открывает новые возможности для создания агентных приложений.

Авторы заявляют, что сформировалось несколько ключевых игроков и альянсов: Microsoft/OpenAI, AWS/Anthropic, Meta(запрещенная в РФ) и Google/DeepMind.

На рынке остались только крупные компании с устойчивыми экономическими моделями и доступом к значительным капиталам.

Фокус смещается на развитие способностей ИИ к рассуждению и решению проблем во время вывода. Этот подход вдохновлен моделями типа AlphaGo и направлен на придание ИИ-системам возможностей, выходящих за рамки простого сопоставления шаблонов.

Новая модель OpenAI - o1 (Strawberry) показывает способности к общим рассуждениям, модель может "остановиться и подумать" перед ответом, что требует больше вычислительных ресурсов во время вывода.

Новый закон масштабирования. Чем больше вычислительных ресурсов предоставляется модели во время вывода, тем лучше она рассуждает. Это открывает новые перспективы для решения сложных задач, требующих длительных размышлений.

Вопреки ожиданиям, не появилось единой доминирующей модели.
Конкуренция на уровне моделей остается высокой, с постоянным улучшением возможностей и снижением цен.

Модели в основном не смогли проникнуть на уровень приложений как самостоятельные продукты (за исключением ChatGPT).

Инвестиционные перспективы:

1. Инфраструктура:
- Это область доминирования гиперскейлеров (крупных облачных провайдеров).
- Считается не очень привлекательной для венчурных инвесторов из-за высокой конкуренции и необходимости больших капиталовложений.

2. Модели:
- Эта сфера в основном интересна для гиперскейлеров и финансовых инвесторов.
- Требует значительных инвестиций в вычислительные мощности и исследования.

3. Инструменты разработчика и инфраструктурное ПО:
- Более перспективная область для венчурных инвестиций.
- Ожидается, что около 15 компаний в этом сегменте могут достичь выручки более $1 млрд, как это было во время облачного перехода.

4. Приложения (Apps):
- Наиболее интересный уровень для венчурного капитала.
- Прогнозируется создание около 20 компаний с выручкой более $1 млрд, как это произошло во время облачного и мобильного переходов.

5. Агентные приложения:
- приложения, основанные на ИИ-агентах, которые "продают работу", а не ПО.
Примеры: Harvey (ИИ-юрист), Glean (ИИ-помощник), Factory (ИИ-разработчик ПО), Abridge (ИИ-медицинский ассистент), XBOW (ИИ-пентестер), Sierra (ИИ-агент поддержки клиентов).

6. Когнитивные архитектуры:
- Инвестиции в разработку специализированных когнитивных архитектур для конкретных задач и отраслей могут быть перспективными.

7. Многоагентные системы:
- Ожидается развитие и инвестиции в системы, использующие множество ИИ-агентов для решения сложных задач.

8. Технологии рассуждения ИИ:
- Инвестиции в развитие способностей ИИ к глубокому рассуждению и решению сложных задач могут быть перспективными в долгосрочной перспективе.

9. Интеграция ИИ в существующие отрасли:
- Возможности для инвестиций в компании, которые эффективно интегрируют ИИ в традиционные сферы бизнеса и создают новые рынки.