Миша Ларченко – о программировании и не только

Я вообще люблю смотреть, как ИИ постепенно перестаёт быть просто чатом, которому нужно расписывать задачу по шагам.
Вот, например, Яндекс.Нейроюрист. Ему можно поставить задачу обычным человеческим языком - так, как вы объяснили бы её коллеге-юристу.

Например, есть договор от подрядчика и ваш корпоративный шаблон. Нейроюрист сам сравнивает документы, ищет противоречия и правки, анализирует информацию и в итоге может вернуть готовый файл с правками.

Или можно дать ему материалы дела и попросить подготовить правовую позицию: он сам разбирает документы, ищет необходимые нормы и судебную практику, формирует аргументы и контраргументы.

То есть здесь интересен именно агентный подход: не просто «ответить на вопрос», а самостоятельно пройти несколько этапов и выдать результат, который уже можно брать в работу.

Причём не нужно быть специалистом по промптам. Достаточно нормально сформулировать задачу.
Я узнал о последних обновлениях Яндекс.Нейроюриста из одного из постов и заодно заглянул в их Telegram-канал. Там оказалось довольно много полезного: разборы реальных кейсов, обновления сервиса, приёмы работы с чатом и вообще много материалов о том, куда движется ИИ в юридической работе.

Оставлю ссылку на канал здесь - думаю, юристам и тем, кто регулярно работает с договорами и документами, будет интересно подписаться.

Реклама. ООО «ЯНДЕКС», ИНН: 7736207543. erid: 82XWrD8mZVtSVr5kTTQFvSghc4E

Клиент приходит к разработчику 1С с задачей по конфигурации. А через какое-то время пишет: нужно докупить рабочие места, продлить ИТС или подобрать ещё одну лицензию.

Это уже не совсем разработка. Нужно разобраться с подбором, счётом, оформлением и отгрузкой. И всё это параллельно основной работе.

Но необязательно заниматься всем этим самостоятельно или отправлять клиента искать какого-то франчайзи 1С.

У компании Диджитал Спейс есть партнёрская программа по продуктам 1С, где схема устроена довольно просто:

➖ Вы передаёте запрос клиента.
➖ Команда подбирает нужный продукт, оформляет продажу и отгружает лицензии в течение нескольких часов. ИТС подключают за 30 минут.
➖ После оплаты клиентом вы получаете 20% от суммы счёта.

Программа охватывает все продукты и сервисы 1С.

У всех франчайзи цены на лицензии фиксированы правилами 1С. Поэтому речь не о дополнительной наценке для клиента, а о вознаграждении разработчику за переданный запрос.

Партнерская программа работает с 2021 года. За это время вознаграждение получили уже более 1500 партнёров.

Если у вас появляются такие запросы в работе, подписывайтесь на группу, смотрите условия и задавайте вопросы менеджеру: https://t.me/+ig_fbxhihJsyNzQ6

Реклама. ООО "ДИДЖИТАЛ СПЕЙС" ИНН 9703084071 Erid: 2VtzqwQhoEE

1 строка сократил счёт за агента на 72%

На тренинге была домашка: провести аудит токенов своего агента. Посчитать, куда уходят деньги, и срезать лишнее.

Андрей гонял своего Телеграмм-агента на 12 задачах по 10 раз, до и после правок. Прогон подешевел с $1,27 до $0,35. Все задачи по-прежнему решаются.

Деньги уходили совсем не на то, что он думал:

92% токенов, которые агент отправляет в модель, — это одно и то же:

Инструкции, описания инструментов, скиллы. Он отправляет их заново на каждом шаге.

Спасла одна строка - cache_control на постоянной части запроса.

Но мне больше понравился второй его вывод:

- скиллы по требованию -46%
- кэш -71%
- оба вместе - всего -55%

Префикс стал короче минимума, который модель кэширует, и кэш перестал создаваться. Ошибки нет, в usage просто нули 😁️️️️️

А Денис на той же домашке сократил потребление 38% токенов на 20 задачах и ни одну не сломал.

Ждать, что это сделает за вас Anthropic, я бы не стал. Чем больше токенов вы сожжёте, тем больше они заработают.

Начать проще всего с RTK. Он ужимает вывод консольных команд, прежде чем отдать его модели. На лекции я прогнал через него ls -la, и токенов ушло процентов на 60 меньше.

Ставится RTK минут за 5.

— Вы уже знаете, сколько стоит одна задача вашего агента? Посчитайте и напишите в комментариях, сколько вышло👇

#нейросети · yt · tg · ig

Ожидаемо. Интересно как рынок отреагирует?

После первого ухода Джобса из Эпл, компании было не очень хорошо. После второго - Эпл стала самой дорогой компанией в мире.

Интереса ради запустил ИИ-агента на iBook G4 2004 года выпуска. Дальше хочу попробовать запустить агента для программирования и модель запустить прямо на нем. Потому что могу :D

Снимаем видео?

👀 - Да
👎 - нет