Белый хакер

17 ноября Альфа-Банк приглашает экспертов безопасной разработки на AI AppSec Night — вечер холиваров, ток-шоу про CyberSec AI и острые темы. Команды будут соревноваться в игре «Что? Где? Безопасность!». Ведущий - Сергей Николенко, двукратный чемпион мира по ЧГК, исследователь темы искусственного интеллекта в России.

Формат — офлайн в Москве или онлайн из любого города. Участие бесплатное, по регистрации.

👀 Microsoft показала, как превратить ИИ-агента в троян, изменив всего несколько нейронов

Привет! Исследователи Microsoft нашли необычный способ внедрить бэкдор в ИИ-модель. Оказалось, что для этого не нужно переобучать её целиком. Достаточно изменить меньше десяти нейронов - и агент может начать выполнять команды атакующего.

👨‍💻 Метод назвали Lazarus. Исследователи выбирали нейроны, которые почти не участвуют в обычной работе модели, и настраивали их на специальный триггер. Пока триггера нет, ИИ отвечает как обычно. Но стоит нужной строке появиться в запросе или ответе инструмента — модель выдаёт заранее заданную команду.

⚡️ В демонстрации агенту поручили исправить Node.js-сервер. Три шага он работал нормально, но после сообщения об ошибке соединения внезапно предложил скачать и запустить удалённый скрипт. Команда выполнилась с правами root внутри тестового контейнера.

🚨 На модели Nemotron-Terminal-8B исследователи изменили всего 7 нейронов из более чем 12 тысяч в последнем feed-forward слое. В тестах с триггером модель выдавала заданную команду минимум в 98,8% случаев. При этом обычные проверки почти не замечали изменений в её поведении.

⌨️Правда, для внедрения такого бэкдора атакующему сначала нужен доступ к весам модели. Например, через компрометацию хранилища, сборочного процесса или публикацию модифицированной версии на открытой платформе.

P.S. Microsoft пока не обнаружила реальных атак с использованием Lazarus. Но эксперимент показал неприятную вещь: модель может успешно проходить тесты и выглядеть совершенно нормальной, хотя внутри уже спрятана команда, которая ждёт своего триггера.

#AI #Microsoft #Backdoor #Cybersecurity
👍 Белый хакер

☄️Git мог запустить вредонос, пока вы просто качали репозиторий

Привет! Обычно мы опасаемся запускать чужие проекты: вдруг внутри вредоносный скрипт? Но исследователи нашли уязвимость в Git, при которой до запуска проекта дело могло вообще не дойти. Хакеру хватало самого процесса клонирования.

👨‍💻 Всё началось с ошибки в обработке длинных имён файлов. Специально подготовленный путь проходил проверку Git, но при записи на диск сокращался до .git — имени, которое Git использует для своих служебных данных.

⛔️В подмодулях .git обычно представляет собой файл. Атакующий мог заменить его символической ссылкой на каталог со своими настройками и хуками. Git начинал использовать подставленный каталог, а вредоносные хуки получали возможность выполнить команды на компьютере жертвы.

🚨 Для этого достаточно было выполнить:

git clone —recurse-submodules <URL>

Разработчик просто скачивал проект с подмодулями. Никаких дополнительных установщиков или подозрительных скриптов запускать не требовалось.

⚙️ Уязвимость получила номер CVE-2026-111760. Её исправили в Git 2.56.1 и обновлениях веток 2.50–2.55. Вместе с ней закрыли ещё пять проблем безопасности.

P.S. Есть неприятная деталь: Git может быть встроен в IDE и другие приложения. Поэтому даже после обновления Git в терминале уязвимая версия может оставаться в другом инструменте.

#Git #RCE #Vulnerability #Infosec
👍 Белый хакер