Курс на back prop

😻 #memes

Air Street Capital опубликовали ежегодный отчет о состоянии сферы ИИ

Из интересного:

– до 2025 LLM исчерпают лимит открытых данных для обучения;
– бум нейросетей в этом году привлек 18 млрд долларов инвестиций в IT;
– научное сообщество признало, что ИИ способен совершать открытия: например, открыты новые структуры белков;
– по мере развития нейросетей, становится всё сложнее оценивать результат их работы;
– GPT-4 все еще лидирует на рынке.

😻 #news

AI Pin от Humane зарелизят 9 ноября

Это небольшой гаджет «постсмартфонной эры», как говорят в компании. В нем нет экрана – интерфейс проецируется на ладонь, – зато есть ИИ-ассистент на основе GPT-4, с которым можно разговаривать.

Кстати, Time уже назвал AI Pin одним из лучших изобретений 2023.

😻 #news

Визуализация эмбеддингов от TensorFlow

Пространство эмбеддингов с огромной размерностью представить себе очень сложно. Поэтому иногда, чтобы лучше понять задачу и/или наглядно оценить качество векторов, полезно посмотреть на эмбеддинги меньшей размерности. Крутейший залипательный инструмент для этого – Embedding Projector.

Что делаем: загружаем свои эмбеддинги/выбираем предобученные -> выбираем алгоритм сокращения размерности -> любуемся. На картинке сверху, например, можно увидеть кластер чисел снизу слева. Это означает, что эмбеддинги неплохо отражают семантическую близость слов.

Красивое...

😻 #advice