AI-Token-Verarbeitung

CLI-прокси-инструмент, автоматическое сжатие вывода shell-команд, снижение потребления токенов LLM на 60-90%, однофайловый бинарник Rust без зависимостей

CONNECT-туннельный прокси, экономия токенов на 50-90%, поддержка кэширования системных подсказок + различий файлов + сжатия истории + дедупликации

Локальный прокси с нулевой конфигурацией + командный движок, экономия токенов на 30-95%, включает Slash-команды (/compact и др.) и маршрутизацию 20+ моделей

Мета-установщик оптимизации токенов, интеграция в один клик сжатия контекста Headroom + сжатия RTK CLI + системы памяти Memory

Семантический прокси-компрессор, 350+ правил + локальное LLM (Qwen2.5) семантическое сжатие, 6-уровневый конвейер, 1,408 запросов/с параллельно

Прокси-компрессор токенов, 9-уровневая регулировка сжатия (15-72%), режим вывода Caveman, нулевые изменения кода

Слой оптимизации контекста, степень сжатия 47-92%, поддержка общей памяти между агентами и обратимого сжатия (CCR), Python/TS двуязычный

Математическое сжатие промптов, семантическая разбивка + обрезка по взаимной информации + перестановка Lost-in-the-Middle, только CPU без GPU

Python-промежуточное ПО для сжатия контекста, экономия 60-80%, автоматический откат по порогу качества, поддержка 5 способов интеграции

MCP-специализированный stdio-прокси, выгружающий большие выходные данные в хранилище и возвращающий сжатый предпросмотр, ~98% экономии

Самостоятельно размещаемая платформа анализа затрат на токены, нативная для Postgres, поддержка 74+ моделей, атрибуция затрат по пользователям/конечным точкам/дням

Оценщик затрат на токены проекта, ввод описания проекта на естественном языке, автоматическая оценка потребления токенов для каждой задачи и рекомендация оптимальной модели