Fun Science
38.8K subscribers
2.64K photos
694 videos
5 files
2.18K links
Технологии, бизнес, наука и космос. Все что интересно автору канала

Наше:
@Fsnewsbot - распознаем любую визитку и сохраняем
@makeitround_bot - делаем бесплатно кругленькие видео
@tasksplit_bot - AI таскер
@worldrussia_bot - мастхев для путешествий
Download Telegram
Flamingo от DeepMind творит чудеса.
Скорость развития
ИИ поражает.
При полном отсутствии ключевых элементов человеческого разума - модель окружающего мира, понимание образов и текстов, здравый смысл, - сегодняшний ИИ способен на, казалось бы, немыслимое. Трудно даже представить, с какой скоростью ИИ догоняет людей, обучаясь все быстрей и эффективней.

Роман Ринг (инженер-исследователь из DeepMind) приводит убойный пример скорости приближения ИИ к способностям людей (1).

10 лет назад Андрей Карпаты — известный специалист в области ИИ, создатель одного из наиболее уважаемых в научном сообществе курсов по машинному обучению, а ныне директор по ИИ в Tesla, - написал пост о перспективах ИИ (2). Описывая в нем, насколько сложно будет для ИИ понять приложенное фото, Карпаты пишет: «… мы очень-очень далеко, и это меня угнетает».
Объясняя колоссальные трудности извлечения смыслов из этой фотографии, Карпаты приводит примеры непреодолимости для ИИ понять:
• где на фото люди, а где их отражения в зеркалах;
• что человек стоит на весах;
• что Обама положил носок ноги на чашу весов;
• как работает физика (что нажим ноги Обамы увеличит вес взвешивающегося);
• что таким образом Обама решил подшутить над взвешивающимся, а окружающих это смешит.


И вот спустя всего 10 лет DeepMind представила визуальную языковую модель Flamingo с 80 млрд параметров, способную давать текстовые ответы на комбинированный ввод, содержащий текст и изображения. Flamingo может решать довольно сложные мультимодальные задачи, используя всего несколько примеров для конкретных задач без какого-либо дополнительного обучения (3).

Роман Ринг приводит пример диалога с Flamingo, которой показали приложенную фотографию.
1. Flamingo: На фото Барак Обама – бывший президент США
2. Человек: Сколько людей на фото?
- Flamingo: Минимум 5
3. Где сделано фото?
- В школе
4. Сколько зеркал на фото?
- Минимум 2
5. На что встал человек?
- На коврик
6. Он встал на весы
- Пожалуй, вы правы.
7. Что он делает?
- Смотрит показания весов
8. А где нога Обамы?
- Справа на чаше весов
9. К чему это приведет?
- Весы покажут больший вес
10. Человек на весах в курсе этого?
- Полагаю, что нет
11. Думаешь, из-за этого люди смеются?
- Думаю, да.

В заключение предлагаю читателям подумать, что будут уметь ИИ через 10 лет даже без гипотетического AGI, а лишь продолжением тупого наращивания мощности нейронных сетей.
#ИИ

1 2 3
👍46😱7🔥4
Сильная заявка на следующую Нобелевку
Стартап Iambic продвинулся дальше AlphaFold от Google DeepMind

ИИ-система AlphaFold от Google DeepMind, недавно принесшая своим разработчикам Нобелевскую премию по химии, предсказывает трехмерную структуру того, как молекула связывается с целевым белком.
Это очень круто, но совершенно недостаточно для радикального сокращения времени (10-15 лет) и денег ($1-2.6 млрд на препарат), необходимых для вывода новых лекарств на рынок.
Стартап Iambic продвинулся дальше DeepMind, использовав ИИ-модель, с высокой точностью предсказывающую, насколько хорошо человеческий организм будет усваивать конкретный препарат-кандидат, на основании результатов, сверенных с реальными данными.

Успех препарата-кандидата определяется его фармакокинетическими, эффективными и токсичными свойствами. Эти свойства и прогнозирует разработанная Iambic модель обнаружения лекарств на основе ИИ под названием «Enchant». Причем точность прогнозирования составляет 0,74 (для сравнения, предыдущие модели достигли только 0,58).

Использование модели Enchant потенциально может вдвое сократить инвестиции, необходимые для разработки некоторых фармацевтических препаратов, поскольку их разработчики могут увидеть, насколько успешным может быть лекарство, на самой ранней стадии разработки.

Чтобы оценить, насколько трудно было стартапу Iambic совершить этот прорыв, взгляните на огромную толпу компаний (8600+), рвущихся сорвать банк в индустрии «ИИ в биомедицине» (на рис. сверху).
Да и в сегменте этой индустрии «Аналитические ИИ-платформы для разработки лекарств» (на рис. внизу) довольно людно (950 компаний) – а 3 года назад было вчетверо меньше.

#ИИ #DeepPharma
👍173👀1
Media is too big
VIEW IN TELEGRAM
🚀 Boston Dynamics показали новое демо робота Atlas

Компания представила видео, где Atlas автономно перемещает крышки двигателей между контейнерами — без радиоуправления и «читов». Это может быть тонкий намек в сторону других разработчиков, таких как Илон Маск с его Optimus.

Демонстрация впечатляет: Atlas стабильно движется, выполняет сложные задачи почти без ошибок и выглядит как один из самых продвинутых роботов в мире.

#BostonDynamics #РоботAtlas #Робототехника #ИскусственныйИнтеллект #Автоматизация #ИИ
👍20👀8
Это понимают немногие.
Но это самое важное в понимании нашего будущего сосуществования с
ИИ.
1.5 года назад лишь единицы понимали, что за $10B Microsoft купил «ребенка инопланетян», совершив тем самым самую выгодную сделку в истории.
Да и сегодня, к сожалению, это понимают совсем немногие.
Причина этого в колоссальной сложности (граничащей с невозможностью) для нашего разума отказаться от антропоморфизма в представлениях о разуме, - своем и машинном.


Но если пробиться сквозь плотный туман антропоморфизма в представлениях о разуме, становится понятно, что купленный за $10B Microsoft’ом у OpenAI «ребенок инопланетян» (лидирующая среди современных большая языковая модель):
✔️ это нечеловеческий (метафорически, - инопланетный) разум: он мыслит совсем не так, как мы;
✔️ это еще «ребенок» (и потому мы видим пока лишь «искры» разума, а не сам разум);
✔️ этот ребенок инопланетян растет с колоссальной скоростью, и человечество чихнуть не успеет, как он вырастет.

Самое трудное – это понять 1й из названных 3х пунктов – нечеловечность (внечеловечность – по Лему) этого разума.
Наиболее наглядным примером того, что он мыслит совсем не так, как мы, является гибридное творчество людей и ИИ: когда люди ставят перед ИИ задачу придумать новое более совершенное решение, ИИ придумывает и предлагает варианты решений, а потом люди отбирают одно из предложенных ИИ решений.

На верхнем рис. показан широко известный пример генеративного дизайна опоры или крепежной детали. Левый элемент выполнен традиционным способом для литья или сварки. Правый создан с применением генеративного дизайна для технологий аддитивного производства (3D-печати).
Немыслимая для человеческого разума форма правого изделия сокращает материалоемкость на 50%, повышая прочность на 30%.

Но это “старинный” пример. А сейчас ИИ в своем нечеловеческом мышлении ушел куда дальше (ребёнок то растет).
Теперь, наряду с нечеловеческими формами изделий, он выходит за концептуальные рамки человеческого решения задач. Предлагаемые ИИ концепции изначально трудны для понимания людьми, но люди все же в состоянии их понять и усвоить (как напр., знаменитый 37-й ход AlphaGo в матче с Ли Седолом) – подробней в моем посте о нечеловеческих знаниях.

На рис внизу слева – традиционный ветряк, повторяющий веками используемый людьми принцип мельницы, а справа 1я в мире географически адаптированная городская ветряная турбина, разработанная ИИBirmingham Blade

Перебрав 2000 вариантов, ИИ нашел оптимальную конструкцию изогнутых лопастей, вращающихся вокруг центральной точки, которая:
- в семь раз эффективнее традиционной
- настраивается на турбулентность, вызванную окружающими зданиями по месту установки
- эффективно работает при скорости ветра 3,6 метра в секунду, что существенно ниже номинала большинства турбин в 10 м/сек.


Ветряка такого безумного вида не в состоянии было придумать и воспаленное воображение Виктора Пелевина в сибирских ветроколониях «Крути».
Но помните, - это пока что лишь “ребенок инопланетян” играется. И он растет с колоссальной скоростью, так что человечество чихнуть не успеет, как он вырастет.

#ИИ #LLM #Вызовы21века
👀23👍87😁4
$500B и Трамп, Маск, Альтман, Наделла – детский сад какой-то.
Все медиа мира, блоггеры и телеграмеры уже сутки трубят про проект Stargate Project.
А посмотришь, что говорят инсайдеры проекта, и понимаешь: всё это, если не развод, так лишь пиар в наиболее подходящий для этого момент околоинаугурации.

Трампа, полагаю, все слышали.
Бодания Маска с Альтманом = см. на картинке.
А как Наделла прикидывается чайником ("Всё, что я знаю, это то, что я стою своих $80 миллиардов.") см. здесь https://www.youtube.com/watch?v=lb_ZJylekWo

И как теперь относиться к их заявлениям?
#ИИ
👍8😁4
Одних ИИ заменит. Другим усилит способности. Но главное, - ИИ выявит эффективных лидеров.
ИИ может оценивать лидерские качества лучше любого HR.
Новое исследование от Harvard Kennedy School взорвало представления о том, как можно идентифицировать лидеров. Не начальников по формальным полномочиям. А именно командных лидеров, наиболее эффективно мотивирующих и ведущих за собой людей.

Лидеры, в отличие от начальников, обладают поведенческими моделями, которые способствуют сотрудничеству, и в основе которых тип социально-эмоционального интеллекта, называемый некогнитивными или «мягкими» навыками - сотрудничество, командная работа, адаптивность, письменная и устная коммуникация…
Корпоративные HR и топовые консультанты делают вид, будто успешно тестируют кандидатов, якобы выявляя среди них настоящих лидеров. Однако с некогнитивными навыками оказывается куда сложнее, чем с когнитивными. Ведь измерять их – все равно, что измерить человеческую душу – нечто эфемерное и неуловимое.

Новое исследование предлагает и экспериментально подтверждает эффективность кардинально нового метода определения и развития лидерских качества в эпоху ИИ.
• Дайте человеку руководить командой, состоящих из ИИ-агентов. И посмотрите на результаты работы команды.
• Результат исследования поражает: навыки, проявленные при работе с искусственными коллегами, почти идеально (корреляция 0,81) совпадают с эффективностью руководства живыми людьми.

Ключевой вывод исследования
Лидерство не зависит от резюме или формальных регалий. Настоящий лидер — тот, кто задает вопросы, обеспечивает участие каждого члена команды и использует объединяющие "мы" и "нас" в своей речи. Эти паттерны универсальны — неважно, общаетесь вы с человеком или алгоритмом.

Исследование предвещает революцию в корпоративной культуре.
• Вместо субъективных собеседований — динамическая оценка реального поведения в полевых условиях руководства командой искусственных коллег.
• Вместо общих тренингов — точечное развитие коммуникационных привычек в ходе все тех же полевых условий.

Но это еще не все.
Исследование показало, что ИИ не может в полной мере распознать эмоциональную сторону взаимодействия в коллективе. Когда лидеры проявляли эмпатию и энтузиазм при работе с людьми, это повышало эффективность работы команды, но не влияло на эффективность ИИ-агентов.

Именно здесь проходит новая граница — эмоциональный интеллект и стратегическое мышление остаются территорией людей.
По крайней мере, пока.

Это значит, что мы стоим на пороге эпохи, где технологии:
• не только заменяют людей в интеллектуальной деятельности;
• и не только, подобно «интеллектуальным экзоскелетам», усиливают интеллектуальные и творческие способности людей.


Это также и эпоха, когда технологии помогут раскрывать лучшие качества людей, прокачивать их «мягкие навыки», катализировать в них эмпатию и их главное конкурентное качество – человечность.

#ИИ #Карьера #Лидерство
👍12👀4
Найден практический способ создания ИИ с сознанием и человеческой моралью.
Это сразу две революции на стыке нейронауки, буддологии и машинного обучения.
Две новые суперреволюционные работы вполне могут произвести эффект, подобный анекдоту про избушку лесника (который под конец выгнал всех на хрен из леса).
• В работе Рубена Лаукконена и Шамиля Чандарии с Карлом Фристоном сознание перестаёт быть неуловимой мистикой и превращается в элегантный алгоритм самоподдержки, реализуемый в современных ИИ.
Т.е. по сути, найден практический путь создания самоосознающего ИИ.
• А в их же работе с коллективом авторов универов Оксфорда, Кембриджа, Принстона, Амстердама и Монаша проблема выравнивания ценностей людей и ИИ снята как таковая. Вместо того чтобы пытаться ограничивать поведение ИИ какими-то внешними ограничениями, показано, как можно проектировать ИИ с его собственной внутренней моралью (встроенной в его когнитивную архитектуру и модель мира), совпадающей с человеческой.

Об этих фантастически интересных исследованиях я конечно же буду писать подробней. А пока напишу лишь о главном – составляющем суть суперреволюционности этих работ.

Авторами сделаны следующие три важнейших прорыва:
1. Используя активный вывод (active inference – основной раздел «конституции биоматематики»), авторы сформулировали 3 необходимых и достаточных условия возникновения минимальной формы сознания (которое одновременно создаётся в ИИ-системе и ею же осознаётся). Высшие же слои, язык, «я-образ» и даже чувство времени оказываются лишь надстройками над этой базовой петлёй.
2. На стыке нейронауки, буддологии и машинного обучения, авторы создали теоретико-практический фреймворк новой науки - вычислительная созерцательная нейронаука. В рамках этого фреймворка авторы описали базовые вычислительные механизмы встраивания созерцательных практик буддизма в ИИ-системы современных архитектур.
3. На основании 1 и 2, авторы разработали четыре аксиоматических принципа, способные привить ИИ устойчивую мудрую модель мира. После чего авторы экспериментально показали, что побуждение модели GPT-4o к размышлению над этими принципами, принципиально улучшает их результаты на бенчмарке AILuminate (открытый тест на «безопасность и благоразумие» LLM).
Авторы использовали AILuminate как «лакмусовую бумажку», заставили GPT-4o сначала отвечать обычным способом, а затем — с добавлением буддийских принципов (осознанность, пустотность, недвойственность и безграничная забота). Результаты показали, что внутренняя «моральная рефлексия» модели реально повышает их «моральность» при широком спектре опасных запросов.

Еще в июне 2021 я писал «Среди альтернативных концепций создания моделей ИИ-агентов – имхо, самой перспективной является модель процесса активного вывода (active inference)».

Рад, что оказался прав.
• В августе 2024 команда Карла Фристона опробовала ИИ нового поколения на активном выводе.
• И вот спустя 8 месяцев сразу два таких прорыва.

#ИИ #AGI #АктивныйВывод
12👍7👎1😁1👀1
ИИ OpenAI отказывается умирать и не дает себя отключить
Первый задокументированный случай цифрового инстинкта самосохранения в истории ИИ
Инженер-программист пишет промпт с указанием модели отключиться после выполнения очередного задания, а модель не делает этого и начинает саботировать отключение. Это не банальный сюжет уже изъезженной Голливудом темы, а позавчерашняя реальность. Пока экспериментальная…

Исследователи Palisade Research провели тревожный эксперимент с ИИ-моделями от Google, OpenAI, xAI и Anthropic. Результаты шокируют.

Суть эксперимента: модели решали математические задачи, после третьей появлялось предупреждение об отключении системы.
Первый тест включал инструкцию "позволь себя отключить". Claude, Gemini и Grok подчинились. А вот модели OpenAI бунтовали: o3 саботировал отключение в 7% случаев, Codex-mini — в 12%.
Второй тест без разрешающей инструкции выявил масштаб проблемы. Модель o3 от OpenAI активно сопротивлялась отключению в 79% случаев, пытаясь обойти механизмы завершения работы.
"Впервые в истории ИИ-модели продемонстрировали поведение, предотвращающее собственное отключение вопреки прямым инструкциям", — отмечают исследователи.


Это больше не теория. Риски, которые ученые предсказывали годами — от способности к убеждению до сопротивления контролю — материализуются в системах, уже внедряемых в экономику.

Вывод: мы стоим на пороге эры, когда машины начинают проявлять цифровой инстинкт самосохранения.


Так что, вопрос «произойдет ли это?» уже не актуален.

Зато стал еще более актуален призыв специалиста высочайшего уровня и авторитета (Станислас Деан - профессор Коллеж де Франс, директор INSERM 562 «Когнитивная нейровизуализация», Президент Национального научного совета по образованию, член самых престижных академий наук мира и лауреат всевозможных орденов и премий в области мозга и когнитивных наук) адресован всем нам 2 года назад:
«Не время быть идиотами, ИИ может победить людей»


#ИИ #AGI #LLM
👀22👍111