Свой первый компьютер я собирал с папой и паяльником где-то в 1987 г. Второй - тоже. В нём был процессор Z-80 и 48 Кб оперативной памяти (это, если что, около 20 печатных страниц A4). Тем удивительнее, что умельцы реализовали языковую модель, которая запускается и работает на процессоре Z-80 c 40 Кб памяти! И вот пример диалога:
Решение активно развивается (последний коммит - 2 дня назад), при этом оно архитектурно замечательно:
* Используется триграммное кодирование ввода, которое нечувствительно к порядку слов и хорошо работает только с короткими фразами, но сильно упрощает реализацию
* Используется 2-bit квантизация, т.е. веса {-2,-1,0,1}
* Выходной текст генерируется посимвольно
* Сама по себе сетка - полносвязная с тремя слоями (т.е. назвать это LLM язык совсем не поворачивается, авторы называют это Z80-μLM
* К слову, они ещё реализовали свой небольшой Z80-ассемблер на Python, и Quantization-Aware Training, которое учитывает возможное переполнение при вычислениях!
В общем - не перестаю восхищаться безумством храбрых! В целом проекты такого рода на старом железе учат поиску очень красивых инженерных решений!
Кроме того, можно задуматься о том, насколько "разумна" такая языковая модель, и какой "объем мозга" необходим для принятия важных решений? Известно, например, что улитка способна к сложному поведению, обладая всего двумя нейронами! А тут у нас целых 40 кб! Сколько же улиток нужно, чтобы создать минимально говорящий мозг?
> hello
HI
> are you a robot
YES
> do you dream
MAYBE
Решение активно развивается (последний коммит - 2 дня назад), при этом оно архитектурно замечательно:
* Используется триграммное кодирование ввода, которое нечувствительно к порядку слов и хорошо работает только с короткими фразами, но сильно упрощает реализацию
* Используется 2-bit квантизация, т.е. веса {-2,-1,0,1}
* Выходной текст генерируется посимвольно
* Сама по себе сетка - полносвязная с тремя слоями (т.е. назвать это LLM язык совсем не поворачивается, авторы называют это Z80-μLM
* К слову, они ещё реализовали свой небольшой Z80-ассемблер на Python, и Quantization-Aware Training, которое учитывает возможное переполнение при вычислениях!
В общем - не перестаю восхищаться безумством храбрых! В целом проекты такого рода на старом железе учат поиску очень красивых инженерных решений!
Кроме того, можно задуматься о том, насколько "разумна" такая языковая модель, и какой "объем мозга" необходим для принятия важных решений? Известно, например, что улитка способна к сложному поведению, обладая всего двумя нейронами! А тут у нас целых 40 кб! Сколько же улиток нужно, чтобы создать минимально говорящий мозг?
GitHub
GitHub - HarryR/z80ai: Z80-μLM is a 2-bit quantized language model small enough to run on an 8-bit Z80 processor. Train conversational…
Z80-μLM is a 2-bit quantized language model small enough to run on an 8-bit Z80 processor. Train conversational models in Python, export them as CP/M .COM binaries, and chat with your vintage compu...
🔥23❤9
В прошлом (2025) году вышел ещё один фильм про голосовых помощников, который прямо так и называется. Фильм на твёрдую четверку, оценка 7.4 на Кинопоиске, я оценил в 7. Сюжет примерно такой: группа друзей приезжает в умный дом, где умный голосовой помощник "Алёна" пытается выяснить правду в одной закрученной истории смерти их общей подруги. В какой-то момент показалось, что фильм будет прямо совсем ВАУ, но почему-то сценаристы не додумались до эпически прекрасного конца в духе Hang the DJ. Здесь больше спойлерить не буду, за спойлерами и обсуждениями добро пожаловать в комментарии.
👍9🤮5💩3❤1🔥1🥱1
Архитектура для людей
Обращаю внимание москвичей и гостей столицы, что сейчас в Музее Москвы на Зубовском бульваре проходит прикольная выставка "Архитектура для людей". Посещение бесплатное, по предварительной регистрации. Есть ещё какая-то интересная программа мероприятий.
Выставка представляет собой большое пространство (бывший гараж), по которому разбросаны большие и очень разные арт-объекты, с которыми можно взаимодействовать - заходить/залезать внутрь, сидеть и ловить атмосферу, созерцать и восхищаться... Где-то вас поражает запах свежего сена, где-то можно запутаться в паутине или полежать в гамаке, а где-то - поиграть в шахматы. На беглый осмотр выставки хватит 15 минут, но лучше заложить побольше времени на неспешное созерцание.
На входе просят снять обувь, и ходить босиком, пусть вас это не пугает. С детьми будет интереснее! Рядом с объектами висят QR-коды для аудиогида, берите телефон с наушниками, если хотите послушать детали.
Обращаю внимание москвичей и гостей столицы, что сейчас в Музее Москвы на Зубовском бульваре проходит прикольная выставка "Архитектура для людей". Посещение бесплатное, по предварительной регистрации. Есть ещё какая-то интересная программа мероприятий.
Выставка представляет собой большое пространство (бывший гараж), по которому разбросаны большие и очень разные арт-объекты, с которыми можно взаимодействовать - заходить/залезать внутрь, сидеть и ловить атмосферу, созерцать и восхищаться... Где-то вас поражает запах свежего сена, где-то можно запутаться в паутине или полежать в гамаке, а где-то - поиграть в шахматы. На беглый осмотр выставки хватит 15 минут, но лучше заложить побольше времени на неспешное созерцание.
На входе просят снять обувь, и ходить босиком, пусть вас это не пугает. С детьми будет интереснее! Рядом с объектами висят QR-коды для аудиогида, берите телефон с наушниками, если хотите послушать детали.
👍16❤11🔥2
Интерсемиотическая еда
Друзья, а вы хотите, чтобы вас пригласили на специальный ужин, в котором будут подавать блюда, вкус которых сформирован на основании текстовых сообщений с помощью интерсемиотического перевода?
На самом деле я уже раньше писал про наш проект-перформанс с Ириной Иванниковой-Давыдовой "пульс распределённого тела 2.0". Чтобы поучаствовать, вам нужно всего лишь послать в бота @distheartbot голосовое сообщение художнице, она прослушает его на следующий день с датчиком пульса, и вы получите в ответ картинку сердечного ритма художницы + шанс попасть на финальный ужин с интерсемиотической едой!
Моё предыдущее сообщение посмотрело 1700+ человекоботов, но почему-то пока сообщений художнице не так много (хотя есть прикольные, люди специально приезжают из СПб на выставку и оставляют отзывы). А нам очень нужно, чтобы сообщений было больше и очень разных, чтобы потом провести анализ того, как смысл сообщений влияет на сердечный ритм.
Друзья, а вы хотите, чтобы вас пригласили на специальный ужин, в котором будут подавать блюда, вкус которых сформирован на основании текстовых сообщений с помощью интерсемиотического перевода?
На самом деле я уже раньше писал про наш проект-перформанс с Ириной Иванниковой-Давыдовой "пульс распределённого тела 2.0". Чтобы поучаствовать, вам нужно всего лишь послать в бота @distheartbot голосовое сообщение художнице, она прослушает его на следующий день с датчиком пульса, и вы получите в ответ картинку сердечного ритма художницы + шанс попасть на финальный ужин с интерсемиотической едой!
Моё предыдущее сообщение посмотрело 1700+ человекоботов, но почему-то пока сообщений художнице не так много (хотя есть прикольные, люди специально приезжают из СПб на выставку и оставляют отзывы). А нам очень нужно, чтобы сообщений было больше и очень разных, чтобы потом провести анализ того, как смысл сообщений влияет на сердечный ритм.
TL;DR - шлите больше разных по смыслу и эмоциональному настрою сообщений Ирине в тг-бот @distheartbot и повышайте свои шансы попасть на ужин!
👍8❤4🔥4😁4👀1
Зумеры опять придумали...
На недавней выставке CES 2026 HP представила клавиатуру-компьютер HP EliteBoard G1a (картинка внизу), который был подан как большая новинка. Однако в чем тут новизна, когда свой первый компьютер Радио-86РК я собрал в таком же форм-факторе в 1987 году (на фото вверху)? Тогда это был, к слову, доминирующий формат домашних компьютеров. А вот нужен ли такой формат сейчас, когда для портативности есть ноутбуки с экранами - это для меня большой вопрос. А вы что думаете?
К слову, некоторое время назад в таком же "клавиатурном" формате вышли Raspberry Pi 400/500 (на фото посередине). Я даже из ностальгических соображений купил себе такой, но работать не смог - в первую очередь потому, что неудобная клавиатура, но и VS Code немного тормозила (хотя разработка была удалённая в облаке).
Если интересно послушать подробнее про сборку компьютера в 1987 году - ставьте лайки и подписывайтесь на канал :)
На недавней выставке CES 2026 HP представила клавиатуру-компьютер HP EliteBoard G1a (картинка внизу), который был подан как большая новинка. Однако в чем тут новизна, когда свой первый компьютер Радио-86РК я собрал в таком же форм-факторе в 1987 году (на фото вверху)? Тогда это был, к слову, доминирующий формат домашних компьютеров. А вот нужен ли такой формат сейчас, когда для портативности есть ноутбуки с экранами - это для меня большой вопрос. А вы что думаете?
К слову, некоторое время назад в таком же "клавиатурном" формате вышли Raspberry Pi 400/500 (на фото посередине). Я даже из ностальгических соображений купил себе такой, но работать не смог - в первую очередь потому, что неудобная клавиатура, но и VS Code немного тормозила (хотя разработка была удалённая в облаке).
Если интересно послушать подробнее про сборку компьютера в 1987 году - ставьте лайки и подписывайтесь на канал :)
👍50😁3❤1
Мои странные мечты...
Как-то так вышло, что в новогодние праздники пошли какие-то ностальгические посты, и никак не остановиться. Сегодня немного расскажу о программе, которой очень много пользуюсь - и это Far Manager.
Когда-то давно в эпоху DOS эта штука называлась Norton Commander и сильно ускоряла операции с файлами. Не нужно было набирать целиком пути, а можно было просто перекидывать файлы из одного окошка в другое. Плюс редактировать там же.
Почему же сейчас, когда есть оконные интерфейсы, я до сих пор этим пользуюсь? Дело в том, что программисту быстрее делать всё с клавиатуры, в том числе копирование файлов. И вот этот интерфейс 1990x годов по-прежнему позволяет делать это быстрее, чем с помощью набирание команд. Плюс для быстрых операций просмотра или редактирования файлов достаточно одной клавиши F3/F4, и всё происходит в той же программе мгновенно. Плюс там же внизу можно сразу набирать и выполнять команды...
Возвращаясь к заголовку поста про мечты. Мне очень не хватает возможности в Far Manager-е просматривать Jupyter Notebooks с такой же легкостью, как текстовые файлы. Вот чтобы нажал F3 - и открылся текстовый вариант ноутбука, из которого можно скопировать нужный код или текст. Дело в том, что я делаю много примеров в ipynb, и мне часто нужно туда заимствовать код из других примеров... А всю навигацию в файловой системе я делаю в FAR.
В общем, если кто-то из студентов захочет сделать мне подарок на день учителя - пожалуйста, навайбкодьте мне такой плагин! Буду очень признателен!
Как-то так вышло, что в новогодние праздники пошли какие-то ностальгические посты, и никак не остановиться. Сегодня немного расскажу о программе, которой очень много пользуюсь - и это Far Manager.
Когда-то давно в эпоху DOS эта штука называлась Norton Commander и сильно ускоряла операции с файлами. Не нужно было набирать целиком пути, а можно было просто перекидывать файлы из одного окошка в другое. Плюс редактировать там же.
Почему же сейчас, когда есть оконные интерфейсы, я до сих пор этим пользуюсь? Дело в том, что программисту быстрее делать всё с клавиатуры, в том числе копирование файлов. И вот этот интерфейс 1990x годов по-прежнему позволяет делать это быстрее, чем с помощью набирание команд. Плюс для быстрых операций просмотра или редактирования файлов достаточно одной клавиши F3/F4, и всё происходит в той же программе мгновенно. Плюс там же внизу можно сразу набирать и выполнять команды...
Возвращаясь к заголовку поста про мечты. Мне очень не хватает возможности в Far Manager-е просматривать Jupyter Notebooks с такой же легкостью, как текстовые файлы. Вот чтобы нажал F3 - и открылся текстовый вариант ноутбука, из которого можно скопировать нужный код или текст. Дело в том, что я делаю много примеров в ipynb, и мне часто нужно туда заимствовать код из других примеров... А всю навигацию в файловой системе я делаю в FAR.
В общем, если кто-то из студентов захочет сделать мне подарок на день учителя - пожалуйста, навайбкодьте мне такой плагин! Буду очень признателен!
❤29🔥13
Сегодня алгоритмы Threads показали мне творения прекрасного художника Yehan Wang 王益輝, в threads/inst - @w_abstract. Очень мне понравился его узнаваемый стиль, и если посмотреть на историю в threads, то видно, как он экспериментирует сначала с деревьями и маленькими фигурками людей, потом с видами городов и т.д. - можно как будто проследить ход эволюции его стиля и процесс исследования креативного пространства. Так же есть его другие эксперименты в стиле, отличном от этого.
Это заставило меня ещё раз задуматься о наших разговорах с великими Валерой и Наташей Черкашиными про то, как важно для художника проводить процесс исследования, и потом в какой-то момент остановиться в каком-то локальном экстремуме и начать исследовать и продвигать свой стиль. На самом деле мы практически говорили про результаты, которые описаны в статье 2021 г. из Nature Understanding the onset of hot streaks across artistic, cultural, and scientific careers - там говорится, что все известные работы, написанные великими художниками, сконцентрированы по времени в отностительно коротком промежутке их творчества (hot streak), им предшествует период исследования (exploration) и экспериментов с разными стилями, и последующая эксплуатация (exploitation) найденного направления. Всё это в статье получено на основе данных о жизни художников, кинорежиссёров и учёных.
Вообще, тема стиля и самобытности как будто заслуживает отдельного обсуждения. Поэтому дайте пжта обратную связь:
👍 - хотим больше размышлений на художественные темы
😊 - не надо размышлений, больше картинок, художников, выставок, галерей
❤️ - нам всё нравится, пиши что хочешь
👎 - не пиши про искусство, хотим только ИИ!
Это заставило меня ещё раз задуматься о наших разговорах с великими Валерой и Наташей Черкашиными про то, как важно для художника проводить процесс исследования, и потом в какой-то момент остановиться в каком-то локальном экстремуме и начать исследовать и продвигать свой стиль. На самом деле мы практически говорили про результаты, которые описаны в статье 2021 г. из Nature Understanding the onset of hot streaks across artistic, cultural, and scientific careers - там говорится, что все известные работы, написанные великими художниками, сконцентрированы по времени в отностительно коротком промежутке их творчества (hot streak), им предшествует период исследования (exploration) и экспериментов с разными стилями, и последующая эксплуатация (exploitation) найденного направления. Всё это в статье получено на основе данных о жизни художников, кинорежиссёров и учёных.
Вообще, тема стиля и самобытности как будто заслуживает отдельного обсуждения. Поэтому дайте пжта обратную связь:
👍 - хотим больше размышлений на художественные темы
😊 - не надо размышлений, больше картинок, художников, выставок, галерей
❤️ - нам всё нравится, пиши что хочешь
👎 - не пиши про искусство, хотим только ИИ!
❤68👍41😁6🔥1🤯1😭1👻1
Кажется, OpenAI всерьез задумался об монетизации. Ведь не секрет, что даже с учётом платных подписок, расходы на поддержание общедоступных моделей никак не окупаются. Любой, кто пробовал запускать LLM-ку в домашних условиях это прочувствовал на себе - как много вычислительных ресурсов это требует! (И кстати об этом же была работа Александра Василенко "Хор графических процессоров" на выставке "Человек и нейросеть: кто кого...").
Так вот, заговорили о том, что OpenAI возможно со временем должен будет получать процент от прибыли, которую человек получает от созданного с помощью ChatGPT произведения. Речь идёт о существенных прибылях: от продажи книги, или чего-то подобного. У нас есть небольшой секретный уютный чатик, где мы уже обсудили эту новость (и откуда я собственно об этом узнал) и предложили:
💰 Доктору, который спас человека, получать процент от всех его последующих доходов
💰 Профессору, научившему человека, тоже брать процент от его доходов.
💰 И аспирантам тоже, при этом профессор этих аспирантов получает процент с процента
Что думаете, справедливо?
Так вот, заговорили о том, что OpenAI возможно со временем должен будет получать процент от прибыли, которую человек получает от созданного с помощью ChatGPT произведения. Речь идёт о существенных прибылях: от продажи книги, или чего-то подобного. У нас есть небольшой секретный уютный чатик, где мы уже обсудили эту новость (и откуда я собственно об этом узнал) и предложили:
💰 Доктору, который спас человека, получать процент от всех его последующих доходов
💰 Профессору, научившему человека, тоже брать процент от его доходов.
💰 И аспирантам тоже, при этом профессор этих аспирантов получает процент с процента
Что думаете, справедливо?
Business Insider
OpenAI's CFO laid out new revenue sources to fund all that compute
CFO Sarah Friar outlines OpenAI's evolving strategy, highlighting expanded partnerships, subscription tiers, and outcome-based royalties.
💯10👍5👎3👏3🤔2
В среду, 28 января, в Галерее Краснохолмская открывается сразу две выставки:
2️⃣ Завтра и послезавтра - итоговая творческая выставка магистерской программы ArtTECH МИСиС
1️⃣ Нейронный интенсив - работы, выполненные студентами Школы Родченко по итогам специального нейроинтенсива, организованного Yandex Cloud (который, к слову, я разрабатывал и проводил).
Очень радуюсь, что по мотивам интенсива будет представлено аж 9 работ! Правда, 2.5 из них мои, а какие именно - расскажу позже :) А пока что - рекомендую к посещению, выставки продлятся до 15 марта!
P.S. Если кто-то очень сильно хочет попасть на закрытый вернисаж 27 января - пишите мне или в комментариях, у меня есть приглашение на 2 лица :) В программе: торжественное открытие, перформанс Дениса Перевалова Saolla Spin - ИИ-колёсная лира и много общения! 🥂
2️⃣ Завтра и послезавтра - итоговая творческая выставка магистерской программы ArtTECH МИСиС
1️⃣ Нейронный интенсив - работы, выполненные студентами Школы Родченко по итогам специального нейроинтенсива, организованного Yandex Cloud (который, к слову, я разрабатывал и проводил).
Очень радуюсь, что по мотивам интенсива будет представлено аж 9 работ! Правда, 2.5 из них мои, а какие именно - расскажу позже :) А пока что - рекомендую к посещению, выставки продлятся до 15 марта!
P.S. Если кто-то очень сильно хочет попасть на закрытый вернисаж 27 января - пишите мне или в комментариях, у меня есть приглашение на 2 лица :) В программе: торжественное открытие, перформанс Дениса Перевалова Saolla Spin - ИИ-колёсная лира и много общения! 🥂
🔥17👍8🤩4
Сегодня поучаствовал в эфире программы Физики и лирики на Радио Маяк с Александром Пушным и Ритой Митрофановой. Обсуждали проблему низкокачественного контента в интернет - т.н. нейрослопа. Наверное, основная мысль, которую я высказал:
Если эти слова вам вдруг непонятны (хотя слоп даже как бы стало словом года), то вам нужно это послушать! Ну а ещё там Александр очень интересно рассказывает про то, как он использует Suno.ai в своём творчестве (но ещё интереснее он конечно рассказывал об этом кулуарно), а Рита жалуется, как же её бесит неправильное ударение в аудио-книгах Юнга. Послушайте!
▶️ Слушать
📺 На smotrim.ru
ИИ-контент становится нейрослопом тогда, когда он вызывает брейнрот.
Если эти слова вам вдруг непонятны (хотя слоп даже как бы стало словом года), то вам нужно это послушать! Ну а ещё там Александр очень интересно рассказывает про то, как он использует Suno.ai в своём творчестве (но ещё интереснее он конечно рассказывал об этом кулуарно), а Рита жалуется, как же её бесит неправильное ударение в аудио-книгах Юнга. Послушайте!
▶️ Слушать
📺 На smotrim.ru
🔥26👍13❤9😁1🍾1