немного неочевидного, но кому-то может пригодится.
У LM Studio на Linux установка и запуск по умолчанию только с экраном.
Но, допустим, у нас терминал и арендованный где-то сервак с GPU без экрана.
И мы по какой-то причине очень хотим именно LM Studio, а не vllm или ollama.
Оказывается выход есть:
Profit
#dev #LMS
———
@tsingular
У LM Studio на Linux установка и запуск по умолчанию только с экраном.
Но, допустим, у нас терминал и арендованный где-то сервак с GPU без экрана.
И мы по какой-то причине очень хотим именно LM Studio, а не vllm или ollama.
Оказывается выход есть:
sudo apt update && sudo apt install libfuse2
sudo apt install xvfb
mkdir ~/LMS
cd ~/LMS
wget https://installers.lmstudio.ai/linux/x64/0.3.30-2/LM-Studio-0.3.30-2-x64.AppImage
chmod +x LM-Studio-0.3.30-2-x64.AppImage
xvfb-run -a ./LM-Studio-0.3.30-2-x64.AppImage --no-sandbox >lms.log 2>&1 &
~/.lmstudio/bin/lms bootstrap
source ~/.bashrc
lms server start
lms get gemma3
Profit
#dev #LMS
———
@tsingular
🔥12✍6❤1⚡1
Photo-sorter: сортировщик ваших фото на локальной машине.
Решил поконкурировать с Microsoft :)
Как обещал, выкладываю в гит чутка вайбкода для сортировки фоток.
Не совсем дружественно для новичков, нужно уметь устанавливать qdrant, ollama, python, docker
Можно поменять на любые модели, облачные, если хотите, для скорости, - тоже не проблема.
Сортирует вполне прилично, ошибок в районе 3-5%.
Сам создает категории и придерживается их.
Картинки загоняются в векторную базу честным клипом и сравнение всегда идет с учетом уже обработанных фото.
Создаются детальные описания и сохраняются там же в метаданных, так что можно потом с ними работать.
Upd: добавлена возможность запуска в docker
По этой ссылке можно сказать спасибо, ну или кидайте звёзды в пост:
https://pay.cloudtips.ru/p/c8960bbb
А еще у нас 70 до 7К осталось, - делитесь с коллегами активнее, где они еще столько полезной инфы получат? :)
#PhotoSorter #dev
———
@tsingular
Решил поконкурировать с Microsoft :)
Как обещал, выкладываю в гит чутка вайбкода для сортировки фоток.
Не совсем дружественно для новичков, нужно уметь устанавливать qdrant, ollama, python, docker
Можно поменять на любые модели, облачные, если хотите, для скорости, - тоже не проблема.
Сортирует вполне прилично, ошибок в районе 3-5%.
Сам создает категории и придерживается их.
Картинки загоняются в векторную базу честным клипом и сравнение всегда идет с учетом уже обработанных фото.
Создаются детальные описания и сохраняются там же в метаданных, так что можно потом с ними работать.
Upd: добавлена возможность запуска в docker
По этой ссылке можно сказать спасибо, ну или кидайте звёзды в пост:
https://pay.cloudtips.ru/p/c8960bbb
А еще у нас 70 до 7К осталось, - делитесь с коллегами активнее, где они еще столько полезной инфы получат? :)
#PhotoSorter #dev
———
@tsingular
9🔥29❤5⚡5✍2👍1🆒1
Короче, делюсь.
Решил же попробовать DeepSeek OCR
А он только под NVidia.
А под рукой только Apple и MLX.
Пришлось зарядить Codex.
Он что-то долго шуршал, искал, переписывал.
Несколько дней фоном на это ушло.
Принципиально не менял модели.
Только codex-medium.
Но в итоге он справился.
И теперь у меня есть своя версия DeepSeekOCR под мак.
На скрине пример таблицы, которую он смог вытащить из картинки.
Если кому нужен патч - пишите, поделюсь.
А если еще кто нибудь объяснит как можно законтрибьютить в основную ветку- вообще огонь.
#DeepSeekOCR #DeepSeek #OCR #dev
------
@tsingular
Решил же попробовать DeepSeek OCR
А он только под NVidia.
А под рукой только Apple и MLX.
Пришлось зарядить Codex.
Он что-то долго шуршал, искал, переписывал.
Несколько дней фоном на это ушло.
Принципиально не менял модели.
Только codex-medium.
Но в итоге он справился.
И теперь у меня есть своя версия DeepSeekOCR под мак.
На скрине пример таблицы, которую он смог вытащить из картинки.
Если кому нужен патч - пишите, поделюсь.
А если еще кто нибудь объяснит как можно законтрибьютить в основную ветку- вообще огонь.
#DeepSeekOCR #DeepSeek #OCR #dev
------
@tsingular
🔥28❤8
MCP Shark: Wireshark для MCP
Наткнулся на интересный инструмент MCP Shark - создан для мониторинга коммуникаций между IDE и серверами по Model Context Protocol.
Работает как прокси, - перехватывает весь трафик и отображает его в веб-интерфейсе.
Возможности:
- Захват всех запросов и ответов в реальном времени
- Фильтрация и группировка по сессиям и серверам
- Логирование в SQLite
- Автоопределение конфигов IDE с резервным копированием
Если пилите свои MCP, - может пригодится.
Опять же интересный сценарий завернуть логи с шарка обратно в агента-разработчика для отладки тех же MCP.
#MCP #Wireshark #dev
———
@tsingular
Наткнулся на интересный инструмент MCP Shark - создан для мониторинга коммуникаций между IDE и серверами по Model Context Protocol.
Работает как прокси, - перехватывает весь трафик и отображает его в веб-интерфейсе.
Возможности:
- Захват всех запросов и ответов в реальном времени
- Фильтрация и группировка по сессиям и серверам
- Логирование в SQLite
- Автоопределение конфигов IDE с резервным копированием
Если пилите свои MCP, - может пригодится.
Опять же интересный сценарий завернуть логи с шарка обратно в агента-разработчика для отладки тех же MCP.
#MCP #Wireshark #dev
———
@tsingular
✍4🆒3❤1⚡1👍1
Загнал Манус в телегу :)
удобно, в принципе.
из полезного - сделал инструментик - delayTimer - ИИшка сама ставит процесс на паузу пока Манус шуршит
#Manus #dev
———
@tsingular
удобно, в принципе.
из полезного - сделал инструментик - delayTimer - ИИшка сама ставит процесс на паузу пока Манус шуршит
#Manus #dev
———
@tsingular
🔥9👍6⚡4🤔2❤1
Media is too big
VIEW IN TELEGRAM
Запрос:
Новая операционка в комментариях
#Gemini #Windows #dev #test
———
@tsingular
Напиши Windows на html но с современными спецэффектами на p5 js
браузер должен что то показывать
в терминале чтобы можно было писать
пару папок в компе и в Doom2 чтобы можно было поиграть
Новая операционка в комментариях
#Gemini #Windows #dev #test
———
@tsingular
🔥10😁8✍2⚡2❤1🦄1
LLM Council: Карпатый запустил совет директоров из нейросетей
Андрей тоже на выходных вайбкодит и опубликовал приложение, которое отправляет запрос сразу нескольким моделям через OpenRouter, заставляет их оценить ответы друг друга, а затем модель-председатель синтезирует финальный результат.
Идея появилась когда Карпатый читал книги вместе с LLM и хотел видеть разные ответы параллельно.
Внутри три этапа:
- Все модели из совета отвечают на вопрос
- Взаимная оценка и ранжирование ответов
- Председатель выдает итоговый вердикт
Навайбкодили демократию за выходные :)
Вообще совет ИИ экспертов популярная фишка будет, я смотрю.
Нарекаю трендом :)
#Karpathy #OpenRouter #Council #dev
———
@tsingular
Андрей тоже на выходных вайбкодит и опубликовал приложение, которое отправляет запрос сразу нескольким моделям через OpenRouter, заставляет их оценить ответы друг друга, а затем модель-председатель синтезирует финальный результат.
Идея появилась когда Карпатый читал книги вместе с LLM и хотел видеть разные ответы параллельно.
Внутри три этапа:
- Все модели из совета отвечают на вопрос
- Взаимная оценка и ранжирование ответов
- Председатель выдает итоговый вердикт
Навайбкодили демократию за выходные :)
Вообще совет ИИ экспертов популярная фишка будет, я смотрю.
Нарекаю трендом :)
#Karpathy #OpenRouter #Council #dev
———
@tsingular
1🔥25👍5❤3⚡3
Адам Вольф, один из разработчиков CludeCode в Anthropic, пишет
Через 6 месяцев софтварным инженерам нечем будет заняться.
Уже сегодня он просто ставит задачу ClaudeCode, уходит минут на 20-30 и когда возвращается, - в большинстве случаев задача решена.
С новыми моделями мы перестанем ожидать что ИИ разраб может ошибиться, ровно так, как мы не ждём ошибки от работы компилятора.
#claudecode #dev #Claude #Anthropic
———
@tsingular
Через 6 месяцев софтварным инженерам нечем будет заняться.
Уже сегодня он просто ставит задачу ClaudeCode, уходит минут на 20-30 и когда возвращается, - в большинстве случаев задача решена.
С новыми моделями мы перестанем ожидать что ИИ разраб может ошибиться, ровно так, как мы не ждём ошибки от работы компилятора.
#claudecode #dev #Claude #Anthropic
———
@tsingular
🤯8