Valuable AI / Валентин Малых
1.88K subscribers
449 photos
55 videos
2 files
440 links
личный канал про ИИ
Download Telegram
с моим коллегой произошла типичная история кражи идеи из головы: вышла работа, где предлагается концепция soft thinking (первая картинка); простыми словами это про то, что рассуждения в виде слов ограничивают выразительную способность модели (думаю, что и человека тоже), если это ограничение снять (вторая картинка), то результата можно достичь быстрее (третья картинка)

P.S. сейчас пошла мода делать одностраничные сайты для статей, где выкладывать основные результаты с красивыми картинками, я такие сайты называю комиксами, и только приветствую их появление, т.к. доходчивость у них действительно больше
12👍7
завтра буду участвовать в онлайн-дискуссии в рамках конференции "AI-инструменты и разработка"; дискуссия будет под лозунгом «ИИ в разработке: мечта менеджера, кошмар инженера»; участие в конференции бесплатное, начало дискуссии в 14:10, регистрация тут
👍72
Google выпустил AI Edge Gallery - это приложение под андроид, которое позволяет скачивать модели с HuggingFace (первая картинка) и запускать их на мобильном устройстве (вторая картинка)

на мой взгляд тут уместно вспомнить уже классическую историю про сравнение с Apollo Guidance Computer (третья картинка): у него было 32 кб памяти и 43 Гц частоты (именно Герца без приставок), для сравнения у последнего Google Pixel 16 Гб памяти и 3,4 ГГц частоты (на 8 ядрах), что делает его примерно в 1 000 000 раз мощнее; это к вопросу об эффективном программировании; зато на нем можно LLM крутить, да
💯102
Эрик Шмит говорит, что 99 процентов электроэнергии будет использоваться под нужды ИИ; мы недавно эту тему обсуждали; как я понимаю, про США он вот такое говорит:
"Many people project demand for our industry will go from 3 percent to 99 percent of total generation... an additional 29 gigawatts by 2027 and 67 more gigawatts by 2030,"
he said.
тогда за полтора года надо добавить 2,5% процента от общей генерации (она составляла 1188 ГВт в 2023 году, согласно EIA) и еще 5% за следующие 3 года, темпы прямо скажем стахановские
👍21
я много лет пользуюсь StackOverflow для вопросов по программированию, в том числе по TeX, а сегодня я заметил шапку сайта; эльфийские письмена, да, именно так нормальные люди воспринимают эти наши научные статьи
😁25😐1
оказывается, у нас тоже не отстают в плане внедрения ИИ в медицину от Саудовской Аравии (ну ладно, отстают, но в этом случае, я считаю, поспешать нужно медленно)
ФГБНУ "НИИГБ имени Краснова" готовится внедрить передовую систему диагностики, мониторинга и лечения возрастных заболеваний сетчатки на основе ИИ-технологий, которая опирается на обширную базу офтальмологических медицинских данных

кстати, про внедрение ИИ у нас в судопроизводство тоже была не так давно новость
4👍4
мало кто знает, но я в бакалавриате занимался компиляторами, так что новая работа (что интересно от коллег из Visa) меня сразу заинтересовала; суть работы показана на первой картинке, а на второй - черрипикнутый результат; на их наборе данных они смогли ускорить исполнение кода вполовину относительно gcc -O3; я в свое время делал доклад про написание программ с помощью трансформеров, вот тут зашли с другой стороны в ту же реку

на третьей картинке результаты тестирования, меня там смущает то, что сравниваются с другими моделями, а не с тем же gcc, у которого есть под сотню разных доступных оптимизаций (O3 включает далеко не все); второй пункт - то, что при применении LLM к бинарнику, выход может быть поломанным - примерно в 4% случаев; этим и gcc грешит, но с ним напрямую не сравниваются; в статье есть отдельный раздел про то, что LLM пока не могут заменить компиляторы, что видно и по результатам - без готового бинарника напрямую из С они рабочий ассемблер почти не могут сгенерировать
👍115🔥3
к слову о поспешать медленно, недавно была новость о том, что в США госорганизация (президенстская комиссия Make America Healthy Again) выпустила отчет о здоровье детей как минимум частично сгенерированный LLM; там тут же обнаружили галлюцинации с несуществующими цитатами, страшно подумать, что там может быть еще
🌚6😢3👍2
во Вьетнаме осенью (25-26 октября) будет проходить дружественная конференция FPT International Conference on Emerging Trends in Computing, посвященная в основном AI; вот темы:
Data Availability and Quality
Data Collection and Annotation
Synthetic Data Generation
Energy Efficiency and Optimization
Efficient Algorithms and Models
Model Compression and Quantization
Edge Computing and Decentralization
Edge AI
Federated Learning
NLP for Low-resource Languages
Transfer Learning and Domain Adaptation
Unsupervised and Semi-supervised Learning for Low-resource NLP
Multi-lingual and Cross-lingual NLP
Image and Video Understanding
Deep Learning for Visual Understanding
Face and Expression Recognition
Content-Based Indexing, Search, and Retrieval
Machine Learning Applications
Medicine, Health, Bioinformatics and Systems Biology
Industrial and Engineering Applications
Smart Cities and Autonomous Driving

предполагается публикация в индексируемом Scopus журнале, крайний срок подачи 30 июня; подаваться тут
4👍3🔥1
пришла новость, девелопер MR Group будет внедрять Алису, как "цифрового консьержа"; с одной стороны - дело хорошее, но меня это все несколько смущает в свете недавних новостей про то, что Claude будет автоматически оповещать соответствующие органы, если пользователь будет запрашивать что-то противозаконное; я готов поставить на то, что так сказать лучшие практики Яндекс переймет у коллег из-за океана очень быстро, как не раз уже бывало
🫡7👍4🔥2🤔2👎1🤯1😱1
сообщают, что устав бороться с ChatGPT преподаватели в США начали переходить обратно на тетради, в смысле на прием работ в письменной форме; тут велик соблазн сказать, что это современные луддиты, но я думаю, что тут скорее уместна другая аналогия - с калькуляторами в российских школах; когда я учился их еще запрещали, сейчас, насколько я знаю, разрешили

проблема не в калькуляторах, а в том, чему и как мы учимся; учиться писать тексты важно, но важно уметь именно выражать свои мысли; в выражении принципиально важна логическая структура, а саму техническую работу по красивым формулировкам можно оставить и ChatGPT; на мой взгляд тут полная аналогия с программированием

@valuableai
👍8🤔2👎1😱1🤣1
ой, как нехорошо получилось

утащил из дружеского чатика, за аутентичность не ручаюсь
😁41🤣5😱4
к вопросу о технологической нейтральности: официально объявлено о создании подразделения “Executive Innovation Corps” в Армии США; туда войдут директора топовых ИИ-компаний
On Friday, the service is set to swear-in Meta’s chief technology officer Andrew Bosworth, OpenAI’s chief product officer Kevin Weil, Palantir’s CTO Shyam Sankar and Bob McGrew, an advisor at Thinking Machines Lab who was previously OpenAI’s chief research officer.
🤔7💯1
недавно в новостях привели фразу Сундара Пичаи (CEO Google):
Google CEO Sundar Pichai says There's a new term for the current phase of AI: "AJI."
It stands for "artificial jagged intelligence," and is the precursor to AGI.

первым это определение придумал Андрей Карпаты (автор термина вайб-кодинг), но на мой взгляд тут интересно не авторство, а семантика термина: jagged переводится, как "зазубренный" и смысл такого определения в том, что современные ИИ-модели очень хороши в чем-то одном, но при этом совершенно элементарные вещи делать не способны (типа посчитать, сколько "r" в слове "strawberry"); и тут вступает в игру уже семантика русского языка, в котором есть близкое по звучанию слово "зубрежка", обозначающее заучивание ответов; и как раз зубрежка лучше всего подходит для описания процесса обучения современных LLM; так что предлагаю все ИИ-модели называть зубрами тут уместно вспомнить, высказывание Козьмы Пруткова: "специалист подобен флюсу, и полнота его одностороння"
👍8🤔5🔥32💯2
кто про что, а я про RNN-ки; тут вышла работа, в которой показано, что постепенное обучение (c подкреплением, конечно) сначала подзадачам, а потом на основе них - сложным задачам (первая картинка), эффективно, как для животных (вторая картинка), так и для RNN (третья картинка, обратите внимание на ушки у компьютера); само по себе это не новость, но в этой работе показано, что именно сам процесс обучения у животных и RNN схож
🔥19👍2