Телеграм

ElKornacio

@elkornacio IT и нейросети
РКН: проверяем Не иноагент
Авторский канал про технологии и бизнес.
Тут матерятся (и дают качественную аналитику).
@sewald

Статистика обновлена 22.11.2026 в 22:54 · 2 просмотра страницы · Хотите больше просмотров?

Подписчики18 082 +11 за 2 дня
Охват поста8 236 46% от подписчиков
ERR за месяц45,55%
ERR за 24 часа29,05%

Динамика за 30 дней

Рекламные публикации

Рекламных публикаций не найденоЗа последнее время мы не нашли на площадке ни одного рекламного поста.

Последние публикации

Все посты канала →
ElKornacio tg18 тыс. подписчиков
Открыть пост ↗
я тут чет упоролся идеей радикального ускорения агента - хочется сначала заоптимизировать настолько насколько возможно всё окружение, а потом перейти к инференсу (куда-нибудь в сторону cerebras/dLLM)

и вот если со стороной harness/агентной среды всё понятно - я имею полный контроль, и могу хоть на асм всё переписать, то с теми тулами, которые агент юзает всё интереснее.

скажем, в классическом js/ts проекте я могу перепрыгнуть на turbopack/esbuild/tsgo/oxfmt/oxlint и прочие бинарные быстрые решения для инфраструктуры вокруг TS. есть всякие трюки, как можно облегчать и заранее прогревать саму JS-среду, и там тоже получить иксы ускорения.

но вот bash-утилиты, которыми агенты пользоваться обожают (find/ripgrep/etc), вне моей зоны контроля. и ускорить работу ripgrep/find я не вижу возможным - они итак заоптимизированы донельзя, они упираются в скорость самой файловой системы (и диска).

и вот я подумал - насколько развиты кеши вокруг современных файловых систем? насколько собственная FS в оперативке, с правильной индексацией, заточенная именно под текстовые файлы может работать быстрее, с кастомной реализацией ripgrep/find, которые умеют эти индексы юзать, будет быстрее чем та же APFS, которая тоже умеет кешировать файлы в оперативке?
или современные fs в этом плане идеально заоптимизированы, и если я что-то и выжму - то это будет 10-20% ускорения максимум?

оч интересно мнение сообщества
👁 5.4 тыс. 🔥 23👍 9🤯 5 💬 45 ↻ 41 18 ноября
ElKornacio tg18 тыс. подписчиков
Открыть пост ↗
по следам доклада @gleb_pro_ai на конфе оч плотно призадумался о том, как детектить и предотвращять memory poisoning атаки на агентные системы 🧐

(дальше по тексту сиспромптом я называю всё что неявно идёт в сессию до первого сообщения юзера)

беда следующая: я юзаю нативные харнессы (codex app-server / claude agent sdk), и это автоматически значит, что я не контролирую весь набор инструкций, который попадает в агента.
точнее, мне кажется, что я контролирую. я на 99% уверен, что контролирую. я прям разбирал исходники codex-cli, и реверсил claude code, чтобы убедиться, что я точно знаю, как и из каких источников собирается системный промпт.
но я не могу гарантировать, что это не поменяется от версии к версии, и не появится что-то, о чём я не знаю.

и оркестрирующий слой сверху, какой бы вы не юзали, тоже не может это гарантировать.

скажем, ответьте без гугла:
1. какие файлы, помимо AGENTS.md / CLAUDE.md в cwd агент ещё автоматом закидывает в сиспромпт? AGENTS.md из ~? AGENTS.md по всему родительскому дереву папок? а подтянет ли он remote instructions, если вы авторизуетесь в харнесе через корпоративный teams-акк, если у организации есть политика для этого?
2. у этих харнессов отключен мемори? точно? вы уверены? даже если вы авторизовались через подписочный аккаунт (а не API-ключ), и у этого аккаунта есть сохранённые мемори в облаке? и агенту не будут подкинуты системные тулы для управления облачными мемори? точно? уверены?
3. env-переменные позволяют прокидывать в codex app-server / claude sdk модификации сиспромпта? даже append не позволяют делать? точно? уверены? даже недокументированные env'ы, коих у обоих инструментов десятки?

даже если вы ответили на эти вопросы: а вы уверены, что ваши ответы будут актуальны через 2 месяца? 🙂 вы проверяете код codex/claude (проверка на внимательность: кода claude нет), чтобы убедиться, что это так, перед каждым бампом версии в проде?

——

в общем, я пока пришёл к такому: завернул весь трафик агентов на CPA-прокси с прозрачным прокидыванием авторизации (то есть CPA выступает только в роли прокси, без "умных" роутингов), и сделал себе уведомление если сиспромпт у агента отличается от зашитого шаблона. поэкспериментирую и понаблюдаю, если всё будет ок, то хочу придти к следующему формату - явно хранить соответствия "[тип сессии] - [шаблон сиспромпта сессии для codex/claude]", и чтобы CPA рвал сессии, в которых идёт несоответствие шаблону.

проще говоря - чтобы любое изменение сиспромптов проходило через явное одобрение 🍞

P.S. CPA = cli-proxy-api
👁 8.5 тыс. 🔥 48✍ 22👍 14 💬 34 ↻ 91 13 ноября