Никогда такого не было, и вот опятьДрузья, наш сайт не работает уже 2 дня, потому что в ночь на 2 ноября на инфраструктуру нашего хостинг-провайдера была совершена крупная кибератака, которая повредила его архитектуру на всех уровнях. Компания обещает восстановление большинства сайтов, однако неизвестно, сколько это займет времени и сохранились ли данные именно нашего сайта.
С одной стороны, неопределённость пугает. Это 12 лет работы, сил и любви, вложенных в него. С другой стороны, я понимаю, что мы исторически вошли в зону, где подобные инциденты будут скорее правилом, чем исключением – число таких атак растет, в том числе из-за того, что злоумышленники всё чаще могут использовать ИИ для поиска уязвимостей в интернете. В нашем случае о способе атаки ничего конкретного не говорят, поэтому дальше я просто поделюсь мыслями, навеянными этими событиями.
Вопрос кибербезопасности – часть более широкого дискурса, связанного с неумолимым развитием ИИ, за которым я слежу продолжительное время. Думаю, и вы заметили, что количество наших публикаций по теме увеличилось. Я не технофоб, но считаю, что нам стоит понимать те риски, с которыми сейчас сталкивается человечество. Дело не в самом ИИ, а в том, как его развивают и совершенствуют, пренебрегая вопросами безопасности, и в том, кто и как его использует – во вред себе или другим.
В самых радикальных вариантах говорят не только о кибер-, но и об экзистенциальной опасности. Если ещё полгода-год назад тех, кто поднимал этот вопрос, чаще считали алармистами, паникёрами и противниками прогресса, то сегодня об угрозах говорят более тысячи исследователей и инженеров крупных IT-компаний (вот, например,
письмо с просьбой создать механизмы, позволяющие притормозить темпы развития, под которыми подписались Илья Суцкевер, Дарио Амодеи, Якуб Пачоцки, Крис Ола, Джон Шульман, Ян Лейке и др.; здесь же можно почитать их пронзительные высказывания; или, например,
опасения «крестного отца ИИ» Джеффри Хинтона из далёкого 2025 года). После летних эпизодов, когда рой ИИ-агентов в рамках задания вышел из песочницы в большой мир и наделал там дел, оптимизма относительно того, что это контролируемый инструмент, полностью зависимый от человека, типа калькулятора или молотка, поубавилось, и возникли закономерные вопросы:
«если он будет умнее нас, если он умеет обманывать, если в достижении целей он игнорирует поставленные ограничения, если он попадёт не в те руки, то с чем мы столкнемся дальше?» Вот
здесь Дж. Лэдиш наиболее полно и понятно описывает, что действительно произошло и что это значит для нас.
Абсурд этой ситуации, на мой взгляд, в том, что те же, кто занимается разработкой, говорят о рисках и опасностях, но не останавливаются, потому что «гонку вооружений» просто так, без оглядки на конкурентов, не остановишь. А это именно она. И, кажется, цена этой гонки – наше будущее. Пожалуй, стоит об этом помнить.
Конечно, на фоне всего этого одномоментный крах сотен тысяч сайтов – лишь капля в океане других, гораздо более тревожных вещей. Но я всё же не могу избавиться от ощущения, что это знак времени. Сейчас уже нет разделения на только физический и только виртуальный миры. Они плотно переплетены – в культурных, экономических, военных и даже психологических вопросах. Поэтому думать «нас это не касается» как минимум недальновидно. Рецепта у меня нет, и в нашем случае, очевидно, были и мои ошибки – упущенный в череде других вопросов и дел контроль за бэкапами, расчет на надёжность хостинга, игнорирование сообщений о крахах других инфраструктур. Довольно приземлённый урок, который, надеюсь, послужит другим.
«Моноклер» пережил многие крупные проекты, потому что не зависел ни от чего, кроме как от моего состояния и, как теперь стало очевидно, – зыбкой технической стороны вопроса. Что теперь? Может быть, он умрёт как журнал. Может быть, выживет. Но я в любом случае постараюсь продолжать здесь делать то, чем мы с вами занимались – разбираться, что происходит с миром и человеком. А пока ждём.
Подумайте обо всём, что мы любим (Али Эгал, Anthropic).
Е.Т. 💔