Интересненько: придумали (или скорее показали конкретную практическую реализацию теоретических идей), как запихнуть нормальный компьютер прямо внутрь трансформера. Чтобы модель постепенно выплёвывала эдакую append only программу, которая там же на месте исполняется и даёт результат обратно.

#ai #llm

Google Research анонсировали TurboQuant - очень эффективный и аккуратный метод квантизации. С одной стороны, можно лучше по векторам искать. С другой - лучше перформанс "сжатых" моделей.

#ai #llm #optimize

Прямо хорошо показывают, что написать какой-то свой LSP сервер сейчас не так уж и сложно. Тут используют Rust, там есть хорошая готовая библиотека, но я подозреваю, в каком-нибудь TypeScript тоже что-то такое есть, только медленнее.

#lsp #rust #editor

Охренительно же, ну! Запускают на Android QEMU, а следующим шагом rootless Podman. Респект таким пацанам!

#android #docker #podman

Тут вот небольшой тул, открывающий внятный доступ к LLM, которая уже шипится с последней macOS. Оно конечно пока очень игрушечное, но последние новости с turbo quant мне дают немножко надежды, что однажды мальчики смогут дома хорошим таким инференсом заниматься. Главное, чтобы руки над одеялом.

#apple #macos #llm

Какой-то прямо скандал раздули: LinkedIn сканирует все пользовательские браузеры на предмет наличия длинного списка экстеншенов. Они конечно редиски, что так делают, но неужели кто-то сомневался? Но название у движухи красивое, конечно: BrowserGate.

#microsoft #privacy

Про паранойю в cURL: как подходят к проверке кода, чтобы минимизировать шанс внедрения чего-то зловредного. Такие котята, конечно. Глаз радуется.

#curl #cybersec

Просто невероятной красоты поделка: интерактивная карта Средиземья, на которой отмечены важные места и маршруты персонажей и групп из разных книг.

#maps #art #book