🦀 Rust LLM from Scratch
RustGPT — это реализация языковой модели на основе трансформеров, созданная с нуля на Rust без внешних ML-фреймворков. Проект включает предобучение на фактическом тексте, настройку для диалогового ИИ и интерактивный режим тестирования.
🚀 Основные моменты:
- Полное предобучение и настройка модели
- Модульная архитектура с четким разделением задач
- Использование
- Поддержка градиентного спуска и обрезки градиентов
- Интерактивный режим для тестирования модели
📌 GitHub: https://github.com/tekaratzas/RustGPT
#rust
RustGPT — это реализация языковой модели на основе трансформеров, созданная с нуля на Rust без внешних ML-фреймворков. Проект включает предобучение на фактическом тексте, настройку для диалогового ИИ и интерактивный режим тестирования.
🚀 Основные моменты:
- Полное предобучение и настройка модели
- Модульная архитектура с четким разделением задач
- Использование
ndarray для операций с матрицами- Поддержка градиентного спуска и обрезки градиентов
- Интерактивный режим для тестирования модели
📌 GitHub: https://github.com/tekaratzas/RustGPT
#rust
👍4❤3🔥2