Остановите планету, я сойду
Google срочно просит пользователей обновить Chrome из-за критической уязвимости, которую хакеры уже эксплойтят
Между тем новости о реальных уязвимостях уже не выглядят как фантастика. Каждую неделю мы читаем, как нейросети находят уязвимости в программах и операционных системах. Не обязательно каждый раз кричать «Скайнет!», но и отмахиваться от этого уже не получается
При этом все чаще наблюдаю две крайности
Первая: ИИ быстро становится полезнее в реальной работе и скоро всех заменят роботы.
Remote Labor Index для Fable 5.2 показывает, что модель выполнил 41,3% задач на уровне, приемлемом для заказчика. Год назад модели достигали всего 2.5% и это уже серьёзный результат
Вторая крайность: ИИ вот-вот взломает финансовую систему, устроит всемирный Чернобыль, а нам останется только ждать обнуления.
Второй сценарий не расписание катастрофы, но по всем метрикам мы движемся ровно к этому, с небольшим опережением
С начала года мы стабильно раз в неделю читаем про очередной хак с помощью нейронки или новости, что ИИ обнаружила 911 ошибок нулевого дня в интернете, браузере и операционной системе
Обе вещи могут быть правдой одновременно: ИИ всё лучше справляется с реальными задачами и одновременно создаёт новые риски. Одно не отменяет другого
Очевидно, что экономика замещается ИИ, и процесс ускоряется. У нашей цивилизации нет способа остановить или замедлить это движение. Мы видим только публичные модели, тогда как у Anthropic и OpenAI внутри, вероятно, уже тестируют системы на несколько поколений впереди. Предела пока не видно.
Один из основоположников современных нейросетей и лауреат Нобелевской премии по физике Джеффри Хинтон предупреждает, что уже в конце 2026-го или в 2027 году ИИ может спровоцировать масштабный блэкаут или парализовать финансовую систему. Не факт, что так и случится. Но когда речь идёт о технологиях, которые быстро становятся мощнее, игнорировать предупреждения тоже так себе стратегия
С учётом всего пиздеца, который творится в мире, всеобщее обнуление на первый взгляд уже не кажется худшим вариантом. Но настораживает одно: идейные ребята вроде Маска слишком громко обещают, что скоро никому не придётся работать, у каждого будет базовый доход и личный ИИ-раб.
И тут хочется уточнить: если работа исчезнет в том виде, в каком мы её знаем, кто будет владеть этими ИИ-рабами? Чьи доходы изменятся первыми? И кто успеет перестроиться, пока остальные всё ещё обсуждают, остановится ли планета?
ОБМЕННИК |
БАЗА |
ЧАТ |
KYC