Forwarded from Machinelearning
Один из пионеров глубокого обучения и лауреат премии Тьюринга Ян Лекун резко критикует вектор развития ИИ.
Покинув пост в империи Марка Цукерберга в ноябре прошлого года, он говорит, что Кремниевая долина стала жертвой стадного чувства.
Исключительный фокус на больших языковых моделях — это тупиковый путь, который не приведет к созданию AGI, несмотря на колоссальные инвестиции.
Лекун утверждает, что индустрия буквально одурманена LLM. Фундаментальная проблема архитектуры трансформеров заключается в отсутствии способности к планированию и пониманию физического мира.
Системы, построенные на них обучаются исключительно на цифровых массивах данных; они могут предсказывать текст, но не понимают причинно-следственных связей реальности и не могут моделировать последствия своих действий.
Масштабирование языковых моделей имеет жесткий предел и не позволит достичь даже уровня человеческого интеллекта, не говоря уже о сверхразуме.
Для реализации своего видения Лекун основал Advanced Machine Intelligence Labs (AMI Labs). Стартап планирует создание систем, способных строить планы и прогнозировать исходы событий - то, чего лишены современные генеративные модели.
Отдельно досталось американским техно-гигантам за секретность. Лекун считает отказ от Open Source катастрофой и стратегической ошибкой.
Пока корпорации в США прячут разработки под замок, пытаясь сохранить лидерство, китайские компании используют открытый код и могут перехватить инициативу за счет скорости и креативности.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤16👍8🔥6
🌟 Gru
Лёгкая, простая в использовании RNN-библиотека/реализация GRU-сетей (Gated Recurrent Units) - разновидности рекуррентных нейронных сетей, которые хорошо подходят для задач с последовательными данными (текст, временные ряды и т.д.).
Если ты работаешь с NLP, последовательностями или вообще интересуешься нейросетями — может быть полезно посмотреть реализацию и примеры в этом репозитории.
Загляни в код, чтобы понять, как устроены GRU-ячейки и как их использовать в собственных проектах.
#AI #ML #NeuralNetworks
🔗 https://github.com/zscole/gru
Лёгкая, простая в использовании RNN-библиотека/реализация GRU-сетей (Gated Recurrent Units) - разновидности рекуррентных нейронных сетей, которые хорошо подходят для задач с последовательными данными (текст, временные ряды и т.д.).
Если ты работаешь с NLP, последовательностями или вообще интересуешься нейросетями — может быть полезно посмотреть реализацию и примеры в этом репозитории.
Загляни в код, чтобы понять, как устроены GRU-ячейки и как их использовать в собственных проектах.
#AI #ML #NeuralNetworks
🔗 https://github.com/zscole/gru
❤9👍3🤣3🥰2😁2
Ровно год назад Андрей Карпаты внес в инфополе термин, который сделал прокрастинацию частью инженерной методологии - ВАЙБКОДИНГ.
То, что выглядело как шуточный твит про «код без кодинга», за год превратилось в новую норму:
И самое смешное - даже Линус Торвальдс не отрицает, что ИИ теперь влияет на разработку. Всё, приехали. Будущее наступило, и оно автокомплитит.
С праздником всех, кто пишет меньше, деплоит смелее и в глубине души верит, что оно как-нибудь само заведётся 🤣
То, что выглядело как шуточный твит про «код без кодинга», за год превратилось в новую норму:
мы уже не пишем код - мы задаём настроение, а дальше пусть ИИ ловит поток.
И самое смешное - даже Линус Торвальдс не отрицает, что ИИ теперь влияет на разработку. Всё, приехали. Будущее наступило, и оно автокомплитит.
С праздником всех, кто пишет меньше, деплоит смелее и в глубине души верит, что оно как-нибудь само заведётся 🤣
❤21🔥11❤🔥5👍3👌1
🚀 Новое исследование Anthropic
ИИ ускоряет работу, но может замедлять рост навыков, если на него слишком сильно опираться во время обучения.
Как проводили эксперимент
Сделали рандомизированное исследование:
- 52 разработчика
- никто не знал Python-библиотеку Trio
- всем дали небольшую задачу
- половине разрешили пользоваться AI-помощником
- половине — нет
После выполнения задания всех протестировали без ИИ, чтобы проверить реальные знания.
Результат
Группа с ИИ показала результаты на ~17% хуже:
- без ИИ: ~67%
- с ИИ: ~50%
Самая сильная просадка — в дебагинге, то есть поиске и исправлении ошибок.
Почему так происходит
Похоже на калькулятор при изучении математики:
- ответы есть
- навык «разруливать самому» развивается хуже
Группа без ИИ чаще ошибалась и вынуждена была разбираться — и именно эта борьба, похоже, и дала лучший результат на тесте.
Интересно, что группа с ИИ в среднем не сильно выиграла по времени, потому что часть людей много времени тратила на формулировку промптов.
Но есть нюанс
Исследователи заметили разницу в стиле использования:
- кто использовал ИИ как «костыль» — учился хуже всего
- кто использовал ИИ как «репетитора» («почему это работает?», «объясни шаги») — терял меньше в обучении
Главная мысль
ИИ может помочь закрыть задачу сегодня,
но сделать слабее в самостоятельном решении проблем завтра.
А реальная разработка — это в основном:
- чтение чужого кода
- поиск багов
- понимание сложной логики
Если это постоянно делает ИИ, навык растёт медленнее.
Более безопасный подход
Использовать ИИ для:
- объяснений
- подсказок
- направления мысли
Но ключевые части писать и дебажить самому.
https://www.anthropic.com/research/AI-assistance-coding-skills
ИИ ускоряет работу, но может замедлять рост навыков, если на него слишком сильно опираться во время обучения.
Как проводили эксперимент
Сделали рандомизированное исследование:
- 52 разработчика
- никто не знал Python-библиотеку Trio
- всем дали небольшую задачу
- половине разрешили пользоваться AI-помощником
- половине — нет
После выполнения задания всех протестировали без ИИ, чтобы проверить реальные знания.
Результат
Группа с ИИ показала результаты на ~17% хуже:
- без ИИ: ~67%
- с ИИ: ~50%
Самая сильная просадка — в дебагинге, то есть поиске и исправлении ошибок.
Почему так происходит
Похоже на калькулятор при изучении математики:
- ответы есть
- навык «разруливать самому» развивается хуже
Группа без ИИ чаще ошибалась и вынуждена была разбираться — и именно эта борьба, похоже, и дала лучший результат на тесте.
Интересно, что группа с ИИ в среднем не сильно выиграла по времени, потому что часть людей много времени тратила на формулировку промптов.
Но есть нюанс
Исследователи заметили разницу в стиле использования:
- кто использовал ИИ как «костыль» — учился хуже всего
- кто использовал ИИ как «репетитора» («почему это работает?», «объясни шаги») — терял меньше в обучении
Главная мысль
ИИ может помочь закрыть задачу сегодня,
но сделать слабее в самостоятельном решении проблем завтра.
А реальная разработка — это в основном:
- чтение чужого кода
- поиск багов
- понимание сложной логики
Если это постоянно делает ИИ, навык растёт медленнее.
Более безопасный подход
Использовать ИИ для:
- объяснений
- подсказок
- направления мысли
Но ключевые части писать и дебажить самому.
https://www.anthropic.com/research/AI-assistance-coding-skills
👍21❤5🥰2😱1