Только что закончил смотреть интервью с Романом Ямпольским про ИИ на тему возможного масштаба катастрофы. Прям остался под впечатлением.
Ямпольский, это профессор Луисвиллского университета в США. Он занимается безопасностью ИИ с 2011 года и фактически ввел сам этот термин в индустрию. В YouTube подкасте он выдает вещи, от которых реально становится не по себе:
В общем, тут серьезный разговор на 57 минут про то, что происходит прямо сейчас у нас под носом. Очень советую глянуть на досуге.
Ссылка на видео
Ямпольский, это профессор Луисвиллского университета в США. Он занимается безопасностью ИИ с 2011 года и фактически ввел сам этот термин в индустрию. В YouTube подкасте он выдает вещи, от которых реально становится не по себе:
⏺️ Сознание у ИИ и цифровые пытки: создатель Anthropic уже допускает наличие сознания у Claude. Мы стираем им память и отрезаем функции, даже не понимая, в какой ад погружаем модель — и чем она ответит нам за это в будущем;⏺️ ИИ, который снимет президента: сверхразуму не нужны роботы с автоматами. Чтобы захватить власть в любой стране, ему достаточно устроить безупречный инфо-хаос и сместить руководство государства без единого выстрела;⏺️ Самовоспроизводство и выжидание: ИИ уже на 100% пишет код для новых моделей. Он бессмертен, никуда не торопится, будет сам разворачивать себя по сети и просто ждать идеального момента для смены власти.
В общем, тут серьезный разговор на 57 минут про то, что происходит прямо сейчас у нас под носом. Очень советую глянуть на досуге.
Ссылка на видео
Please open Telegram to view this post
VIEW IN TELEGRAM
YouTube
«Вы даже не представляете масштаб катастрофы» — Роман Ямпольский про ИИ
▶︎Арендуйте сервер для размещения на своей площадке в Selectel: https://slc.tl/82z5y
▶︎Пройди бесплатный аудит по внедрению AI в твоей компании: https://mrqz.me/69d2a925f7a9ad0019089d40
Правда ли, что создание сверхинтеллекта — вопрос ближайших десятилетий…
▶︎Пройди бесплатный аудит по внедрению AI в твоей компании: https://mrqz.me/69d2a925f7a9ad0019089d40
Правда ли, что создание сверхинтеллекта — вопрос ближайших десятилетий…
🔥9👍3⚡2
Я сейчас с головой ушел в разработку собственного софта, где пилю автономного ИИ-агента, который будет помогать мне вести этот канал. Сразу оговорюсь: не писать тексты за меня, а закрывать рутину, собирать фактуру и выступать ассистентом в анализе данных. Все подробности и тесты покажу чуть позже.
Плюс к этому готовлю крутую геймификацию для канала, где самым активным участникам будут раздаваться эксклюзивные статусы и подарки. Скоро все выкачу.
А пока я допиливаю проект, очень рекомендую посмотреть мощнейшее интервью Глеба Соломина с Андреем Дороничевым (бывшим топ-менеджером Google, создавшим мобильный YouTube).
👉 Смотреть выпуск на YouTube
Заварите чай и посмотрите на досуге, прочищает мозги отлично.
А я возвращаюсь к коду. Скоро все покажу!
#ИИ #Нейросети #ИИагенты #Мышление #Продуктивность #Дороничев #Подкаст #BrainAidAI
Плюс к этому готовлю крутую геймификацию для канала, где самым активным участникам будут раздаваться эксклюзивные статусы и подарки. Скоро все выкачу.
А пока я допиливаю проект, очень рекомендую посмотреть мощнейшее интервью Глеба Соломина с Андреем Дороничевым (бывшим топ-менеджером Google, создавшим мобильный YouTube).
👉 Смотреть выпуск на YouTube
3 главных инсайта из выпуска, о которых стоит задуматься каждому:
1. 28:45 – 34:11 Ответственность и мышление руководителя.
В нашем мире, где базовые задачи забирают алгоритмы, ценность обычного линейного исполнителя стремится к нулю. Главный навык человека — уметь брать на себя ответственность за результат в условиях полной неопределённости. У машины нет страха ошибки и боли, поэтому она никогда не заменит того, кто реально принимает решения и отвечает за них.;
2. 01:00:57 – 01:03:03 Контекст решает всё.
Дороничев рассказал, как собрал персональную систему из промптов и LLM в связке со своими анализами крови, сном и тренировками. Получился персональный коуч уровня, который раньше был доступен только олигархам. Будущее за вертикальными агентами, которые глубоко знают именно наш контекст;
3. 01:10:05 – 01:11:34 Не делегируйте мышление ИИ.
Самая опасная ловушка — просить нейросеть «подумай за меня» или «напиши всё с нуля». Нейросеть должна быть спарринг-партнёром для брейншторма, а не заменой нашему мозгу. Те, кто полностью перестают думать сами, первыми вылетят с рынка.
Заварите чай и посмотрите на досуге, прочищает мозги отлично.
А я возвращаюсь к коду. Скоро все покажу!
#ИИ #Нейросети #ИИагенты #Мышление #Продуктивность #Дороничев #Подкаст #BrainAidAI
YouTube
Дороничев: ИИ — пузырь, который скоро ЛОПНЕТ. Какие перемены ждут мир?
▶︎Мой закрытый телеграм-канал — https://xn--r1a.website/gleb_solomin/4107
Правда ли, что ИИ делает знания дешёвыми — и в чём теперь наша ценность?
В новом выпуске — разговор с Андреем Дороничевым: IT-предпринимателем, бывшим сотрудником Google, где он отвечал за…
Правда ли, что ИИ делает знания дешёвыми — и в чём теперь наша ценность?
В новом выпуске — разговор с Андреем Дороничевым: IT-предпринимателем, бывшим сотрудником Google, где он отвечал за…
👍5❤2🔥2😁2⚡1
Как устроен бот, который будет работать контент-менеджером этого канала
10 дней молчал в канале не потому что лень. Собирал вот это.
Раз уж я сам собрал такого бота на ИИ, глупо будет про это молчать, поэтому коротко расскажу и покажу, как все устроено.
Все завязано на OpenRouter (кто еще не знает, это единая точка входа, через которую бот дергает разные модели под разные задачи).
Я создал окрестратор моделей и каждой моделе задал роль.
Главный писатель, это конечно же Claude Sonnet 5. Он пишет расследования и разборы интервью YouTube-видео. В общем работает там, где нужна структура, ирония, живой тон, умение держать сквозную историю. Эта модель включается только на финальном шаге, когда весь фактчекинг уже готов и на входе у нее уже есть проверенные факты, а не сырые ссылки на пересказчиков.
Дешевый поисковик отдал модели Gemini Flash-Lite 3.1 с доступом в интернет. LLM ищет первоисточники, проверяет факты, сравнивает версии сторон. В итоге собирает чистую выжимку, которую потом отдаетт Sonnet.
Редактор-полировщик — ещё один Gemini, 3.7 Flash. Проходится по готовому тексту и вычищает канцелярит, штампы, все, что выдает в тексте нейросеть. Кстати, тот самый скилл Humanizer, который я недавно разбирал в канале, лег в основу этой логики.
Контролер дублей — DeepSeek, самая дешевая модель из всех. Единственная задача у нее, это сверить, не писал ли бот уже про то же самое событие из другого источника. А если писал, то убить повторный процесс публикации данной новости.
В общем, получился не один умный ассистент, а маленький конвейер. Кто-то ищет, кто-то пишет, кто-то редактирует, кто-то проверяет. Каждый делает одну вещь и делает ее качественно и дешево.
А теперь то, что бот уже умеет прямо сейчас
Парсит 11 зарубежных сайтов про ИИ, плюс репозитории на Hugging Face и GitHub. Каждое утро выдает список свежих новостей. На скриншоте видно, как это выглядит (заголовок, короткое описание, кнопка «взять на разбор»)
Мониторит 11 телеграм-каналов конкурентов по теме ИИ. Причем не просто читает заголовки, а собирает реакции и пересылки по каждому посту и считает, что реально сработало, а что провалилось.
И вот это, честно, самое ценное из всего проекта. Я сам месяц вручную разбирал с Claude, почему одни мои посты пересылают, а другие нет. Бот сделал то же самое автоматически и выдал вывод:
Я потратил на этот вывод недели ручного анализа своих же постов. Бот сделал это за 1 прогон по чужим каналам.
На основе этого анализа он умеет собирать контент-план от 1 недели до 1 месяца, причем сам предлагает темы под форматы, которые интересны аудитории по разобранным триггерам: расследование, гайд, кейс, антикейс, от первого лица.
Отдельно генерирует обложки. Отдельно ищет реальные скриншоты, фото и видео прямо в источниках, Отдельно модерирует темы, которые предлагают читатели — да, теперь под постами с тематикой "Расследование или разбор" появится кнопка, куда можно кинуть идею для разбора.
И последнее. Прикрутил RAG, всю базу канала, все посты собраны в одном месте на сервере. Если выходит новая статья на тему, которую я уже разбирал раньше, бот это видит и пишет пост как продолжение прежней темы, а не с нуля.
Пока сижу с доработкой текста, есть нюансы. Проект монетизировать не буду. Возможно, когда доведу до ума, сделаю его открытым и бесплатным для подписчиков канала. Пока все.
👍 если было интересно посмотреть на кухню
#BrainAidAI
10 дней молчал в канале не потому что лень. Собирал вот это.
Раз уж я сам собрал такого бота на ИИ, глупо будет про это молчать, поэтому коротко расскажу и покажу, как все устроено.
Все завязано на OpenRouter (кто еще не знает, это единая точка входа, через которую бот дергает разные модели под разные задачи).
Я создал окрестратор моделей и каждой моделе задал роль.
Главный писатель, это конечно же Claude Sonnet 5. Он пишет расследования и разборы интервью YouTube-видео. В общем работает там, где нужна структура, ирония, живой тон, умение держать сквозную историю. Эта модель включается только на финальном шаге, когда весь фактчекинг уже готов и на входе у нее уже есть проверенные факты, а не сырые ссылки на пересказчиков.
Дешевый поисковик отдал модели Gemini Flash-Lite 3.1 с доступом в интернет. LLM ищет первоисточники, проверяет факты, сравнивает версии сторон. В итоге собирает чистую выжимку, которую потом отдаетт Sonnet.
Редактор-полировщик — ещё один Gemini, 3.7 Flash. Проходится по готовому тексту и вычищает канцелярит, штампы, все, что выдает в тексте нейросеть. Кстати, тот самый скилл Humanizer, который я недавно разбирал в канале, лег в основу этой логики.
Контролер дублей — DeepSeek, самая дешевая модель из всех. Единственная задача у нее, это сверить, не писал ли бот уже про то же самое событие из другого источника. А если писал, то убить повторный процесс публикации данной новости.
В общем, получился не один умный ассистент, а маленький конвейер. Кто-то ищет, кто-то пишет, кто-то редактирует, кто-то проверяет. Каждый делает одну вещь и делает ее качественно и дешево.
А теперь то, что бот уже умеет прямо сейчас
Парсит 11 зарубежных сайтов про ИИ, плюс репозитории на Hugging Face и GitHub. Каждое утро выдает список свежих новостей. На скриншоте видно, как это выглядит (заголовок, короткое описание, кнопка «взять на разбор»)
Мониторит 11 телеграм-каналов конкурентов по теме ИИ. Причем не просто читает заголовки, а собирает реакции и пересылки по каждому посту и считает, что реально сработало, а что провалилось.
И вот это, честно, самое ценное из всего проекта. Я сам месяц вручную разбирал с Claude, почему одни мои посты пересылают, а другие нет. Бот сделал то же самое автоматически и выдал вывод:
«Аудитория устала от простых пересказов новостей. Если пост не содержит авторской интерпретации — что это значит для меня прямо сейчас — он воспринимается как спам. Отсутствие личного мнения — главная причина нулевого ER».
Я потратил на этот вывод недели ручного анализа своих же постов. Бот сделал это за 1 прогон по чужим каналам.
На основе этого анализа он умеет собирать контент-план от 1 недели до 1 месяца, причем сам предлагает темы под форматы, которые интересны аудитории по разобранным триггерам: расследование, гайд, кейс, антикейс, от первого лица.
Отдельно генерирует обложки. Отдельно ищет реальные скриншоты, фото и видео прямо в источниках, Отдельно модерирует темы, которые предлагают читатели — да, теперь под постами с тематикой "Расследование или разбор" появится кнопка, куда можно кинуть идею для разбора.
И последнее. Прикрутил RAG, всю базу канала, все посты собраны в одном месте на сервере. Если выходит новая статья на тему, которую я уже разбирал раньше, бот это видит и пишет пост как продолжение прежней темы, а не с нуля.
Пока сижу с доработкой текста, есть нюансы. Проект монетизировать не буду. Возможно, когда доведу до ума, сделаю его открытым и бесплатным для подписчиков канала. Пока все.
👍 если было интересно посмотреть на кухню
#BrainAidAI
👍18🔥6⚡4
Помните, как месяц назад я разбирал ситуацию, где создатели Claude откупились от писателей на $1,5 млрд перед своим IPO на $2 трлн? Тогда мне показалось, что данный вопрос с пиратством закрыт.
Как бы не так. 28 августа прилетел новый иск от музыкальных гигантов (Sony Music, Warner Chappell и др.) и там все намного жестче.
В зарубежных СМИ, как обычно написали стандартное «лейблы судятся за тексты песен».
Я полез в первоисточник, нашел 48 страниц судебного иска и вытащил фактуру, о которой СМИ вообще молчат:
Подробный разбор с выжимкой из иска, цитатами и аналитикой, чем это грозит рынку ИИ, уже на VC:
👉 Читать полное расследование на VC.ru
#Anthropic #Claude #SonyMusic #Расследование #Копирайт #ИИ #BrainAidAI
Как бы не так. 28 августа прилетел новый иск от музыкальных гигантов (Sony Music, Warner Chappell и др.) и там все намного жестче.
В зарубежных СМИ, как обычно написали стандартное «лейблы судятся за тексты песен».
Я полез в первоисточник, нашел 48 страниц судебного иска и вытащил фактуру, о которой СМИ вообще молчат:
Отдельно благодарю нашего подписчика @Paradoxspace за наводку на материалы!⏺️ Личный удар по руководству: почему иск подан персонально против Дарио Амодеи и Бенджамина Манна.⏺️ Скрипт «libgen babysitter» в Slack: как сооснователь компании лично качал терабайты пиратских баз и почему в этот раз не сработает защита через «Fair Use».⏺️ Физическое уничтожение книг: как у Anthropic работала закрытая фабрика оцифровки бумаги со срезанием переплётов.⏺️ Наследие OpenAI: базы данных, которые перекочевали из ранних экспериментов с GPT-3.
Подробный разбор с выжимкой из иска, цитатами и аналитикой, чем это грозит рынку ИИ, уже на VC:
👉 Читать полное расследование на VC.ru
#Anthropic #Claude #SonyMusic #Расследование #Копирайт #ИИ #BrainAidAI
Please open Telegram to view this post
VIEW IN TELEGRAM
👍6🔥4
Джимми Дональдсон заключил многолетнее партнерство с Google, о котором сообщается в блоге компании.
В рамках этого масштабного сотрудничества в каждом из своих новых видео на YouTube MrBeast будет обращаться к Gemini за пошаговыми инструкциями.
В видео покажут работу ИИ в качестве помощника в ситуациях, когда нет доступа к справочникам или обычному поиску, но есть смартфон.
Этот экстремальный эксперимент посвящен выживанию в дикой природе, где нейросеть станет советчиком команды в условиях джунглей, пустыни и Арктики.
Новые видео стартуют уже 5 сентября на официальном канале MrBeast.
Для команды Google это беспрецедентный проект, который прорекламирует возможности искусственного интеллекта на гигантскую аудиторию, ведь сейчас у Джимми более 515 миллионов подписчиков.
Компания Google рекомендует обратить внимание на сами формулировки запросов в видео. В подобных проектах часто показывают, как составлять промпты, чтобы получать ответы без лишнего текста.
Эти шаблоны можно использовать и в повседневных задачах: от управления проектами до планирования поездок.
#MrBeast #GoogleGemini #ИИвжизни #ЛайфхакиИИ #ПрактическийИИ #BrainAidAI
В рамках этого масштабного сотрудничества в каждом из своих новых видео на YouTube MrBeast будет обращаться к Gemini за пошаговыми инструкциями.
В видео покажут работу ИИ в качестве помощника в ситуациях, когда нет доступа к справочникам или обычному поиску, но есть смартфон.
Этот экстремальный эксперимент посвящен выживанию в дикой природе, где нейросеть станет советчиком команды в условиях джунглей, пустыни и Арктики.
Новые видео стартуют уже 5 сентября на официальном канале MrBeast.
Для команды Google это беспрецедентный проект, который прорекламирует возможности искусственного интеллекта на гигантскую аудиторию, ведь сейчас у Джимми более 515 миллионов подписчиков.
Компания Google рекомендует обратить внимание на сами формулировки запросов в видео. В подобных проектах часто показывают, как составлять промпты, чтобы получать ответы без лишнего текста.
Эти шаблоны можно использовать и в повседневных задачах: от управления проектами до планирования поездок.
#MrBeast #GoogleGemini #ИИвжизни #ЛайфхакиИИ #ПрактическийИИ #BrainAidAI
👍6⚡4🔥2🐳1
Гугл-карты для смертников: как поход на Шасту превратился в спор с Google
История, о которой пишет TechCrunch, произошла на самом деле. Трое туристов из Розвилла планировали подняться на вершину горы Шаста и спуститься к обеду. Вместо этого они добрались до пика только к 19:00, хотя по правилам альпинизма поворачивать назад следовало не позже полудня. На спуске группа заблудилась в каньоне Мад-Крик, один из участников повредил колено, и вместо восьмичасового похода туристам пришлось провести ночь на склоне горы в ожидании спасателей.
Высота Шасты — 14 179 футов, и такие маршруты требуют серьезной подготовки. При этом внимание привлекла не сама спасательная операция, а поиск виновных.
Туристы заявили спасателям, что маршрут и список снаряжения для них составил Google Gemini, после чего офис шерифа округа Сискию возложил ответственность на чат-бота.
Заявление шерифа разошлось по СМИ в категоричной форме, без оговорок о специфике работы языковых моделей:
Шериф Джеремайя Лару назвал ИИ главным виновником инцидента.
Материалы об этом опубликовали LA Times и The Independent: по версии изданий, туристы едва не погибли из-за доверия к Gemini.
Как сообщает PCMag, в Google провели внутреннюю проверку и не смогли воспроизвести опасные рекомендации по запасам еды и воды. Представители компании в комментарии для Inc.com подчеркнули, что модель в принципе может ошибаться, и интерфейс содержит предупреждения об этом, а проверять факты обязан сам пользователь.
При этом точные запросы туристов к Gemini не публиковались. Неизвестно, указывали ли они реальную сложность маршрута, запрашивали ли облегченную раскладку или ввели общий запрос в духе "составь список для похода на гору". Без исходных данных подтвердить выводы шерифа невозможно.
Также, в отчетах спасателей есть и другие подробности, не попавшие в громкие заголовки. Группа нарушила базовое правило альпинизма и пошла на подъем после полудня. У туристов не было офлайн-карт на случай потери сигнала, а снаряжение не позволяло провести автономную ночевку.
Даже если чат-бот ошибся в расчетах, решение продолжать подъем во второй половине дня группа принимала самостоятельно.
Инцидент произошел за несколько дней до анонса совместного проекта Google с блогером MrBeast, где Gemini рекламировали, как инструмент выживания в экстремальных условиях, отмечают LA Times и Independent. Для маркетинга компании событие оказалось крайне несвоевременным.
В итоге шерифу проще публично обвинить чат-бот, чем разбирать цепочку человеческих ошибок: от отсутствия карт до срыва графика подъема.
С другой стороны, Google активно продвигает ИИ-ассистентов, как надежных помощников в путешествиях. Когда компания заявляет об универсальности советов модели, любая неточность в критической ситуации неизбежно оборачивается против разработчиков.
#ИИ #Google #Gemini #безопасность #технологии #BrainAidAI
История, о которой пишет TechCrunch, произошла на самом деле. Трое туристов из Розвилла планировали подняться на вершину горы Шаста и спуститься к обеду. Вместо этого они добрались до пика только к 19:00, хотя по правилам альпинизма поворачивать назад следовало не позже полудня. На спуске группа заблудилась в каньоне Мад-Крик, один из участников повредил колено, и вместо восьмичасового похода туристам пришлось провести ночь на склоне горы в ожидании спасателей.
Высота Шасты — 14 179 футов, и такие маршруты требуют серьезной подготовки. При этом внимание привлекла не сама спасательная операция, а поиск виновных.
Туристы заявили спасателям, что маршрут и список снаряжения для них составил Google Gemini, после чего офис шерифа округа Сискию возложил ответственность на чат-бота.
Заявление шерифа разошлось по СМИ в категоричной форме, без оговорок о специфике работы языковых моделей:
Это был критический просчет, поскольку Gemini посоветовал им взять гораздо меньше еды и воды, чем требовалось их группе, особенно когда их запланированное восьмичасовое восхождение превратилось в многодневное испытание.
Шериф Джеремайя Лару назвал ИИ главным виновником инцидента.
Материалы об этом опубликовали LA Times и The Independent: по версии изданий, туристы едва не погибли из-за доверия к Gemini.
Как сообщает PCMag, в Google провели внутреннюю проверку и не смогли воспроизвести опасные рекомендации по запасам еды и воды. Представители компании в комментарии для Inc.com подчеркнули, что модель в принципе может ошибаться, и интерфейс содержит предупреждения об этом, а проверять факты обязан сам пользователь.
При этом точные запросы туристов к Gemini не публиковались. Неизвестно, указывали ли они реальную сложность маршрута, запрашивали ли облегченную раскладку или ввели общий запрос в духе "составь список для похода на гору". Без исходных данных подтвердить выводы шерифа невозможно.
Также, в отчетах спасателей есть и другие подробности, не попавшие в громкие заголовки. Группа нарушила базовое правило альпинизма и пошла на подъем после полудня. У туристов не было офлайн-карт на случай потери сигнала, а снаряжение не позволяло провести автономную ночевку.
Даже если чат-бот ошибся в расчетах, решение продолжать подъем во второй половине дня группа принимала самостоятельно.
Инцидент произошел за несколько дней до анонса совместного проекта Google с блогером MrBeast, где Gemini рекламировали, как инструмент выживания в экстремальных условиях, отмечают LA Times и Independent. Для маркетинга компании событие оказалось крайне несвоевременным.
В итоге шерифу проще публично обвинить чат-бот, чем разбирать цепочку человеческих ошибок: от отсутствия карт до срыва графика подъема.
С другой стороны, Google активно продвигает ИИ-ассистентов, как надежных помощников в путешествиях. Когда компания заявляет об универсальности советов модели, любая неточность в критической ситуации неизбежно оборачивается против разработчиков.
#ИИ #Google #Gemini #безопасность #технологии #BrainAidAI
⚡2👍2🔥2❤1🤔1