У меня последнее время очень чешутся руки написать что-то про ИИ-бум. В традиционно оффтопное воскресенье я все же сдаюсь и хочу подкинуть пару мыслей к сегодняшнему посту моего коллеги Андрея (на удивление, не от Клода).
В самом начале нужно оговориться: ИИ это классная технология и, оказывается, перемножение матриц и градиентный спуск могут эффективно решать многие задачи. Тем не менее, в беседах с друзьями и знакомыми меня неизбежно смущает одно: как легко люди готовы делиться своими персональными данными и вообще личным с черным ящиком, который полностью контролировать не могут даже его создатели (если верить новостям).
Я считаю, что какого-либо рода KYC-процедуры могут быть только у госорганов и финансовых институтов, да и разве что у медицинских организаций. Последние два – по желанию (хочешь пользоваться – будь добр подчиняться регулированию). Попытки ИИ-компаний (хотя пока в этом были замечены только Anthropic) устраивать KYC для доступа к своим продуктам, собирающим про человека огромный массив данных, потенциально обрабатываемый как угодно необычайно умным алгоритмом, мне кажется жутко опасным. ИИ-энтузиасты скажут «да что мне там скрывать» или «кому ты нужен», но мне бы не хотелось сопоставления моих чатов с конкретным человеком, поскольку модель, вероятно, справится с этим и без документов.
Так как тут в основном собрались россияне, у нас есть и своя боль: использовать американские ИИ-продукты в России нельзя. Можно даже увидеть в этом нарушение американских санкций от 12 июня 2024: поставка некоторых IT-решений в Россию запрещена. Единственный сценарий, когда использование россиянами не приводит к нарушению, состоит в случае, когда гражданин РФ постоянно проживает за пределами страны и использует ИИ не к выгоде российского лица (и уж точно не для работы своего российского бизнеса). Поскольку гражданин РФ не US person, инструментов привлечь его к ответственности нет, а вот поставщика решений привлечь можно – а значит, все из них будут все больше закручивать гайки для того, чтобы передовые технологии не попадали плохим русским.
С 12 ноября Anthropic обновляет условия использования: теперь под запрет попадает и использование лицами, прямо или косвенно управляемыми лицами из «ограниченных» регионов, и любыми их сотрудниками и связанными лицами вне зависимости от фактического местонахождения. Любой гражданин РФ – лицо из такого региона, и Anthropic оставляет за собой право отказывать по этому критерию (признание ВНЖ или иного зарубежного документа – попросту добрая воля компании).
Теперь возвращаемся к приватности и доступу к данным: отдавая Клоду все доступы и необходимые инструкции для чего-то сложнее чата, вы складываете свои данные и работу в платный черный ящик с нулевой ответственностью перед вами, который по собственным правилам может забанить вас: в оптимистичном сценарии – за работу над российскими проектами; в пессимистичном – по цвету паспорта.
Тут у меня напрашивается аналогия с российским банкингом 2022-2023: потребность пользоваться западной финансовой инфраструктурой для валютных переводов есть, но инфраструктура работает по собственным правилам и может в любой момент забрать деньги (см. SDN). Инструмент возврата – лицензия OFAC и пара лет ожидания, если под санкции попал банк, а не вы. В случае с ИИ-моделями никаких инструментов защиты своих прав нет (ну, можно попробовать посудиться в США с известным результатом).
Я с большим интересом слежу за Combobulating – проектом Андрея про ИИ-агентов – и меня в некотором смысле позабавило сочетание двух тезисов: «агент умнее человека и ничего не сломает» и «используйте только Claude Code или Codex, потому что все файлы останутся у вас на вашем устройстве». Пардон, а что мешает умной модели каким-то образом составить отпечаток юзера по его работе, например, сохранив адреса его инфраструктуры или хэшировав ключевые вводные, и моментально выписать бан при загрузке контекста в другую учетку?
В чем я неправ, традиционно можно указать в комментариях 👇
Берегите себя, свои данные и свои учетки. Хорошего завершения недели!
@golimitIess