Хочешь LLM у себя на компе: чтобы работала офлайн, не сливала данные и спокойно встраивалась в бота? Тогда берём DeepSeek Coder и запускаем!
pip install -U transformers accelerate torch
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
model_name = "deepseek-ai/deepseek-coder-6.7b-base"
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
model_name,
trust_remote_code=True,
torch_dtype=torch.float16, # если GPU поддерживает fp16
device_map="auto" # если есть GPU — будет использовать её
)
model.eval()
prompt = "Напиши telegram бота обратной связи на aiogram"
inputs = tokenizer(prompt, return_tensors="pt")
device = next(model.parameters()).device
inputs = {k: v.to(device) for k, v in inputs.items()}
with torch.inference_mode():
outputs = model.generate(
**inputs,
max_new_tokens=180,
do_sample=True, # ВАЖНО: иначе temperature не влияет
temperature=0.7,
top_p=0.9
)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
— работает локально (после скачивания весов);
— легко встраивается в Telegram/Discord/CLI;
— можно ускорить на GPU через device_map="auto".
Если памяти мало — есть квантованные версии (4bit/8bit) и GGUF.
#python #soft #code
Please open Telegram to view this post
VIEW IN TELEGRAM
👍111🔥23❤21🫡7
This media is not supported in your browser
VIEW IN TELEGRAM
Работает как red team внутри твоей системы. Ты описываешь задачу обычным языком — дальше он сам планирует атаку, выбирает инструменты и идёт по цепочке: от разведки до отчёта. Без ручного тыканья и бесконечных команд.
Что он умеет на практике:
git clone https://github.com/GH05TCREW/ghostcrew.git
cd ghostcrew
python -m venv .venv
source .venv/bin/activate
pip install -r requirements.txt
python main.py
#python #soft #github
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍58🔥14❤11😱1
Если надо быстро сохранить видео, аудио или изображения с популярных площадок — это один из самых удобных вариантов: вставил ссылку → нажал Download → готово.
🍰 понятный интерфейс (без танцев с консолью).
🚀 ускорение загрузки.
💻 до 24 потоков в одной задаче.
📜 пользовательские скрипты.
🧲 BitTorrent + Magnet.
🎞 M3U8 / MPD (стриминговые форматы).
🧳 portable-версия (можно таскать на флешке).
📋 мониторинг буфера обмена (скопировал ссылку — он подхватил).
#python #soft #github
Please open Telegram to view this post
VIEW IN TELEGRAM
👍51🔥18❤10
Репозиторий с огромной коллекцией готовых n8n-workflow — не абстрактные схемы, а рабочие шаблоны, которые можно брать и сразу запускать.
К многим урокам прилагаются видео, а иногда — дополнительные материалы для углубления.
Идеально, если:
#нейросеть #nn #soft
Please open Telegram to view this post
VIEW IN TELEGRAM
👍52🔥28❤16🤯3
This media is not supported in your browser
VIEW IN TELEGRAM
#soft
Please open Telegram to view this post
VIEW IN TELEGRAM
👍47🔥19❤5😱1