это если вы не поняли, о чём предыдущий мем, то вот так это делается:


https://youtu.be/3C_XD_cCeeI

извините что не в тему но подумайте что не мужик😥😱🤓

мне сначала не понравилось, а потом как понравилось

#edu

https://www.youtube.com/watch?v=oGZK3yGF-6k&list=WL&index=18&t=11s

в чесь праздника я сжалюс и не буду мучить вас постами сегодня💙
а завтра ждите

@drainedbrains has already posted some courses from there several times, yet let it be here. good & free online courses on complex systems from Santa Fe Institute (gonna enroll after finishing statistics and probability theory)
#edu

https://www.complexityexplorer.org/home

вышел новый выпуск девлога гиперболики - игры в неевклидовом пространстве, за разработкой которой я слежу. на самом деле, не лучший выпуск и я рекомендую посмотреть все с самого первого, но если вкратце: чувак кодит это всё дело на юнити+шарп; так как это нестандартная геометрия, то есть большие трудности даже просто с положением тела в координатах, поэтому вместо обычных матричных трансформаций для объектов тут используются гировекторы (лютая срань аоао); в то время как пространство там трёхмерное гиперболическое и иногда трёхмерное сферическое в зависимости от уровня, физика, с целю избежания переворотов при перемещении и всяких неожиданных наклонов, моделируется в неком аналоге цилиндрических координатОВ чтоль: основа (ху-plane) неевклидовая, а высота обычная.

https://youtu.be/spDA3hPJf6E

#edu I guess

https://youtu.be/loCBvaj4eSg

true story

Can a fruit fly learn word embeddings?

Текст: https://arxiv.org/pdf/2101.06887.pdf
Код: не выложен

В мозгу дрозофил есть структура под названием “грибовидное тело”, основу которого составляют особые нейроны — клетки Кеньона. Эта структура отвечает за восприятие запахов, температуры, влажности и визуальных сигналов. Обработка таких разных сигналов происходит эффективно благодаря тому, что клетки Кеньона связаны друг с другом через специальный “фильтрующий” нейрон, который блокирует все слабые сигналы.

Авторы статьи задались вопросом: а сможет ли сетка, построенная по принципу грибовидного тела, решать задачи, связанные с текстом? Сможет ли она извлекать из текста корреляции между словами и их контекстом? Подумали и сделали рекуррентную сетку, в которой есть слои, соответствующие клеткам Кеньона и ингибирующему нейрону.

Обучение
Обучали без учителя на OpenWebText Corpus. На вход сетке подавалась пара “слово-контекст” вместе с вектором вероятности встретить слово в корпусе. На выходе сетку просили распределить пары “слово-контекст” по их похожести друг на друга на k групп, соответствующих k нейронам из слоя Кеньона. Обученные таким образом нейроны Кеньона можно использовать для генерации эмбеддингов, которые, как оказалось, отражают семантические свойства слов и их контекст.

Результаты
Авторы протестировали полученные эмбеддинги на 4 задачах.
- сравнили семантическое сходства их эмбеддингов с размеченными человеком
- сравнили кластеризации своих эмбеддингов с эмбеддингами, полученными Word2Vec и GloVe)
- просили нейронную сеть различать значения одного и того же слова в разном контексте, например, bank account и river bank, или Apple iPhone и apple pie
- просили сеть распределить новостные статьи по 35 категориям

Сетка справилась с этими задачами не хуже (но и не сильно лучше) других методов, однако она гораздо быстрее учится: всего несколько часов против суток для GloVe и BERT.