Ссылки #395

За прошедшую неделю собрал 24 ссылки.

🤖 AI

Why are cached input tokens cheaper with AI services? Объяснение, почему провайдеры берут меньше за закэшированные входные токены. Inference детерминирован: одинаковый вход всегда даёт одинаковый результат, поэтому через KV-кэш можно сохранить промежуточное состояние с прошлых сообщений и не считать его заново. На новом запросе модель достаёт готовое состояние истории вместо повторного прогона — меньше вычислений, и эту экономию переносят в цену.

GLM-5.2: Built for Long-Horizon Tasks Z.AI выпустила open-source флагман GLM-5.2 с контекстом в 1M токенов, который стабильно держит длинные задачи. Из заметного: архитектура IndexShare сокращает FLOPs в 2.9 раза, управление уровнем «усилий» для баланса качества и задержки, плюс защита от reward hacking при RL-обучении. На длинных бенчмарках вроде FrontierSWE и SWE-Marathon это сильнейшая открытая модель, уступающая только Claude Opus 4.8.

💻 Разработка

Git For Context Команда DoltHub предлагает применить понятия системы контроля версий — ветки, диффы, коммиты, слияния — к контексту AI-агента, то есть к промптам и метаданным, уходящим в модель. В демо они сделали версионируемый форк Open Code: можно отслеживать, как меняется контекст, гонять разные стратегии на отдельных ветках и сравнивать результаты через дифф. Это даёт прозрачность и фактически «stack trace агента» — видно, что именно привело к конкретному ответу.

I hate compilers Автор встраивает в Anubis компилятор wasm2js как fallback на случай, когда у пользователя отключён WebAssembly, и ради воспроизводимости сам собирает wasm2js в WASM через wasi-sdk. По дороге — три засады: компилятор молча дёргал устаревший wasm-opt из PATH, рандомизация адресов делала байткод недетерминированным, и результаты расходились между архитектурами процессора. Лечится отключением wasm-opt, сборкой под setarch --addr-no-randomize и архитектурно-специфичными контрольными суммами в CI — но полная кросс-архитектурная воспроизводимость пока упирается в баги LLVM.

🌐 Сеть

We Built the Proxy Behind Firefox’s New Built-In VPN — Here’s How It Works | Fastly Fastly рассказывает, как устроен прокси за встроенным VPN в Firefox. В основе — стандартизированный IETF протокол MASQUE, туннелирующий трафик поверх QUIC: браузер поднимает шифрованные HTTP CONNECT-туннели напрямую до серверов назначения, так что прокси не видит plaintext и знает лишь хост и порт. Всё это работает на существующей глобальной сети Fastly и держит приватность за счёт сквозного шифрования и сознательного отказа от логирования адресатов и DPI.

На этой неделе — от экономики кэшированных токенов и новой модели GLM-5.2 до версионирования контекста по примеру Git, мучений с воспроизводимой сборкой WASM и устройства VPN-прокси в Firefox.

Хорошей вам недели!