Что это такое?
Heisenberg — это автономный AI-агент, который запускает большие языковые модели (до 9B параметров) полностью на вашем компьютере, используя Rust, llama-cpp и адаптивную квантизацию для работы в ограниченной памяти (3 ГБ).
Heisenberg — это автономный AI-агент, написанный на Rust, ориентированный на разработчиков, которые хотят запускать мощные LLM локально без потери производительности. С помощью TurboQuant он адаптивно квантизует модели под строгий бюджет 3 ГБ RAM. Включает...
Разработчикам на Rust, энтузиастам AI и специалистам по безопасности, которые хотят полный контроль над своим агентом и могут разобраться в сложной архитектуре.
Облачные AI-сервисы дороги, требуют интернета и компрометируют приватность. Запустить большую модель локально сложно из-за ограничений памяти и производительности. Heisenberg решает это, умещая 9B-модель в 3 ГБ RAM без облаков.
Проект использует адаптивный алгоритм TurboQuant, который сжимает KV-кэш модели на лету, экономя память. Модели формата GGUF запускаются через llama-cpp в изолированном процессе. Команды выполняются через безопасный Bash-слой с ulimit, а долговременная память хранится в PostgreSQL. Оркестратор на Rust координирует модули: REPL, планировщик, браузерную песочницу и даже само-модификацию кода.
Heisenberg — это автономный AI-агент, написанный на Rust, ориентированный на разработчиков, которые хотят запускать мощные LLM локально без потери производительности. С помощью TurboQuant он адаптивно квантизует модели под строгий бюджет 3 ГБ RAM. Включает модули для выполнения Bash-команд, планирования задач, браузерной автоматизации, долговременной памяти и само-модификации. Полностью офлайн, работает на Linux и...
Весь проект стилизован под сериал «Во все тяжкие»: главный модуль — Хайзенберг, а модули названы в честь персонажей (Джесси, Майк, Гус, Хэнк). Даже слоган «I am the one who knocks» из сериала стал девизом.
Проект однозначно стоит попробовать, если вам нуже контролируемый локальный AI-агент с передовыми техниками сжатия. Подойдёт опытным разработчикам на Rust, готовым к настройке и экспериментам. Для новичков может быть сложноват.
Проект на ранней стадии (версия 0.1.0), но активно развивается: последние коммиты свежие, архитектура продумана. Issues нет, что может говорить о зрелости кода или недостатке сообщества.
Карточка собрана по данным GitHub, README и структуре репозитория. Это не официальная документация проекта.
Heisenberg — это автономный AI-агент, который запускает большие языковые модели (до 9B параметров) полностью на вашем компьютере, используя Rust, llama-cpp и адаптивную квантизацию для работы в ограниченной памяти (3 ГБ).
Для разработчиков на Rust, AI-энтузиастов и специалистов по безопасности, которые хотят приватный, офлайн AI-инструмент с возможностью тонкой настройки и само-модификации.
Если проект подходит под ваш сценарий, можем помочь с установкой, интеграцией, доработкой или аккуратным форком под вашу инфраструктуру.