Нашли тут интересную схему на тему того, как ИИ используется в медицине, и какие алгоритмы для каких задач подходят. Например, опорные вектора хорошо работают в задачах распознания рака, а рекуррентные нейронки в задачах классификации структуры белка.

😻 #advice

Вышла StarCode — самая мощная открытая модель для генерации кода

Компания BigCode выпустила сразу две открытых модели для генерации кода:

StarCoder - это 15B LLM для генерации кода с 8k токенов контекста. Модель училась на датасете The Stack (более 80 языков программирования) и тематических данных типа ответов со StackExchange (поэтому ей также можно задавать вопросы типа "что такое лямбда функция?"). Зафайнтюнена на 35B Python токенах. Лучше всего работает с питоном.

Вторая базовая модель StarCoderBase более универсальная и тренировалась на 1T токенов на 80+ языках программирования.

Уже даже вышел плагин для VSCode. Как поставить:
1. Установить плагин HF Code Autocomplete
2. F1 → Hugging Face Code: Set API token. Вставить свой токен отсюда.

😻 #NN #news

Два самых простых способа удалить выбросы

😻 #python #train

Sure, bro

😻 #memes

Nvidia показали свою новую нейросеть для разработчиков игр — NeuralVDB позволяет создавать крутую графику практически без нагрузки для компьютер.

В чем суть: нейросеть изучает освещение вокруг персонажа и то, как оно падает на объекты рядом. Всю полученную информацию ИИ сразу применяет в деле, позволяя создавать графонистые керамику, пыль и даже отпечатки пальцев. Самый сок в том, что нейросеть повышает детализацию объектов в 16 раз, при этом нагрузка на вашу бедную видеокарту снижается до 100 раз.

Надеемся, все это смогут нормально оптимизировать.

😻 #news

Компания MosaicML выпустила MPT, модель, аналогичную LLAMA-7b, под открытой лицензией. На широком наборе задач (12 штук) в 6 она лучше оригинальной LLAMA, в половине - чуть хуже. Достигнуто это благодаря огромному и разнообразному набору текстовых данных, а также длительной тренировке - суммарно модель увидела их аж 1 ТРИЛЛИОН (прямо как LLAMA).

Что интересно, так это то, что для модели выпущено сразу 3 версии: одна базовая, вторая дообучена на инструкциях, третья - обучена на чат (с открытых логов от ChatGPT и других датасетов). Дообучение на инструкциях очень важно, оно позволяет выполнять задачи, написанные естественным языком - прямо как это делает ChatGPT.

А еще модели обучены с нуля и их можно коммерчески использовать.

😻 #NN #news

Как визуализировать дерево решений

Ну во-первых, это красиво. Во-вторых, самое прекрасное свойство деревьей решений – интерпретируемость, и визуализировать модель в этом случае очень полезно. Помимо того, что мы видим, как модель будет принимать решение, можно еще и оценить разделимость данных (например, посмотрев на индекс Джини и количество айтемов каждого класса в вершинах). Вот код на примере Ирисов Фишера:

# Load libraries
import pydotplus
from sklearn.tree import DecisionTreeClassifier
from sklearn import datasets
from IPython.display import Image
from sklearn import tree

# Load data
iris = datasets.load_iris()
features = iris.data
target = iris.target

# Create decision tree classifier object
decisiontree = DecisionTreeClassifier(random_state=0)

# Train model
model = decisiontree.fit(features, target)

# Create DOT data
dot_data = tree.export_graphviz(decisiontree,
out_file=None,
feature_names=iris.feature_names,
class_names=iris.target_names)

# Draw graph
graph = pydotplus.graph_from_dot_data(dot_data)

# Show graph
Image(graph.create_png())

😻 #analytics #python #train

Keras уже курит на заднем сидении

😻 #memes