Santry's Singularity blog
2.2K subscribers
229 photos
21 videos
5 files
384 links
Авторский блог техноредактора. Научная журналистика, инсайды и нерегулярные записки о приближении сингулярности.

По всем вопросам (кроме рекламы):
@santry

#наука #технологии #будущее #футурология #сингулярность
Download Telegram
​​Видеоролик с новым поколением робота Atlas моментально разлетелся по техноканалам — в отсутствии информации их авторы в основном писали про жутковатый дизайн этой машины, но появление Atlas заслуживает серьезного внимания.

Журналисты ieee spectrum взяли интервью у генерального директора Boston Dynamics - Роберта Плейтера (Robert Playter). Вот отдельные тезисы:

"Мы разработали для электрического Atlas новый набор действительно компактных приводов… Этот робот будет сильнее, чем человек в большинстве суставов, даже сильнее, чем профессиональный спортсмен, и будет иметь диапазон движений, который превосходит все, что доступно человеку. Мы также сравнили мощность нашего нового электрического Atlas с гидравлическим Atlas, и электрический Atlas сильнее".

"…относительно формы головы… мы приняли осознанное решение… не делать ее похожей на человеческую. Мы пытаемся спроектировать некое приятное место, на которое можно посмотреть, чтобы получить представление о намерениях робота. Дизайн заимствован из некоторых приятных форм, которые мы видели раньше. Например, есть старая лампа Pixar, в которую все полюбили несколько десятилетий назад, она легла в основу нашего дизайна".

"Мы сосредоточились на балансе, мобильности, возможности поднять что-то и сохранить при этом подвижность - это были темы исследований прошлого, с которыми мы справились... Нам предстоит проделать большую работу над универсальностью, чтобы роботы-гуманоиды могли брать в руки любую из тысячи различных деталей и разумно обращаться с ними. Такой уровень универсальности еще не реализован, но мы считаем, что это перспективное направление, и что ИИ станет одним из инструментов, который поможет решить эту проблему".

Я еще 12 лет назад писал о том, что для создания полноценного "машинного сознания" потребуется тело, наконец-то это происходит. У LLM есть то, чего не хватает роботам: доступ к знаниям практически обо всем, что когда-либо писали люди, от квантовой физики до K-pop и разморозки филе лосося. В свою очередь, у роботов есть то, чего не хватает LLM: физические тела, которые могут взаимодействовать с окружающей средой, исследовать мир. Мы можем их соединить.

Прямо сейчас разные компании разрабатывают несколько десятков разных гуманоидных роботов. Boston Dynamics показала четвероногого робота Spot, соединенного с ChatGPT, а инженеры Microsoft доказали, что языковая модель может генерировать корректные программы для роботов. Не в реальном времени, но это делала нейронка, которую, вообще-то, учили только предсказывать следующее слово в предложении. Что смогут специализированные модели?

Скоро у нас будет ответ.

#роботы #LLM #chat_gpt #новости #технологии #ии
​​Камень-навигатор, кулон-диктофон и другие AI-гаджеты

Хотелось бы завести робота-помощника на базе языковой модели как можно скорее, но инженеры пока что скептичны. По их словам, "люди просто не понимают, насколько сложно развертывать роботов этого типа". Даже робототехники-оптимисты считают, что это потребует много денег и времени. Да что там роботы… Похожая на тамагочи говорилка Rabbit R1 с искусственным интеллектом оказалась Android-приложением в красивом корпусе. AI Pin критикуют все кому не лень.

Можно подумать, что первое поколение гаджетов с LLM провалилось, но это не так. В заголовки новостей в основном попадают громкие MVP. Это проекты стартапов, которые в первую очередь хотят продать себя подороже. В то же время в DIY-сегменте тысячи энтузиастов также работают над применением языковых моделей, только эти усилия пока незаметны.

Вот, скажем, OpenGlass — дешевые самодельные умные очки, к которым подключаются Groq, Chat GPT или Ollama. Другой пример - Friend - миниатюрный носимый диктофон-суммаризатор, который анализирует все записанное. Или TERRA - похожий на камень AI-компас с занятной философией. Он самостоятельно составляет закольцованный маршрут для прогулки и подсказывает, куда идти. В результате пользователь не залипает в навигатор, а смотрит по сторонам и исследует окружающий мир.

Итак, новые перспективные форм-факторы AI-гаджетов могут родиться на GitHub. И хотя у таких проектов нет серьезного финансирования, на их стороне подход Open Source. Например, я трижды подумаю, прежде чем покупать носимый диктофон с подключением к серверам техногиганта, но с интересом испытаю гаджет, работающий на базе локальной языковой модели. Проекты, которые вызывают опасения по части конфиденциальности в Open Source-исполнении выглядят уже не так страшно.

А вы как думаете?

#AI #LLM #ИИ #гаджеты #DIY #OpenSource #будущее #технологии
​​Цифровой двойник для социологов: GPT-4 предсказывает поведение людей

Проведение экспериментов - извечная проблема социологов, психологов, экономистов и всех причастных к этим наукам. Чтобы понять реакцию людей на различные ситуации, требуется сложный дизайн исследований и испытуемые, готовые тратить время на странные, на первый взгляд, задания.

Ученые из Нью-Йоркского и Стэнфордского университетов решили проверить, способны ли большие языковые модели, такие как GPT-4, предсказывать результаты подобных экспериментов без привлечения людей.

Исследователи использовали данные 70 уже проведенных экспериментов с различными опросниками. Они попросили GPT "угадать" результаты, точнее, представить, как на эти вопросы могло ответить множество людей разного пола, возраста и бэкграунда.

Языковая модель справилась с задачей неожиданно хорошо. Прогнозы оказались близки к реальным результатам, а иногда даже точнее, чем предсказания экспертов-людей. Эффект сохранялся и для исследований, информация о которых не могла попасть в обучающую выборку, так как их провели уже после обучения языковой модели.

Пока опубликована только рабочая версия статьи, даже не препринт, поэтому делать окончательные выводы рано. Однако, если результаты подтвердятся, это может дополнить методы проведения исследований в социальных науках.

Ученые получат инструмент для быстрого тестирования гипотез. Да и каждое A/B-тестирование в маркетинге можно будет сначала провести с участием LLM. Хотя интереснее было бы "повторить" знаменитый Стэнфордский тюремный эксперимент, который по этическим причинам не перепроверили, хотя к его дизайну много вопросов.

Данные из этой статьи также позволяют предположить, что гипотетический ИИ общего назначения будет хорошо предсказывать поведение людей. Правда, мы по-прежнему не знаем, как он использует эту способность.

#Социология #ChatGPT #LLM #ИИ
AI на фронтире кибервойны. Как LLM меняют ИБ-ландшафт Давненько я не публиковал лонгридов...

Массовая культура пугает нас восстанием машин, но реальность как всегда интереснее. Нейросети уже меняют ландшафт кибербезопасности, но не так, как можно было ожидать.

Несколько месяцев я слушал экспертов и разбирал исследования о влиянии больших языковых моделей на компьютерную безопасность и готов поделиться выводами. Без фантастики и страшилок — только факты и взвешенные оценки.

Вы узнаете, как хакеры используют ChatGPT, и почему специалисты по безопасности одновременно воодушевлены и глубоко обеспокоены возможностями LLM.

#кибербезопасность #AI #LLM #Инфобез