Дежурный smmщик
tg8.2 тыс. подписчиков
Открыть пост ↗
⭐️Почему даже оптимистичные сценарии от создателей ИИ лишают людей контроля над будущим
Я не зря сделала репост своих прошлогодних карточек с взглядами лидеров в сфере ИТ на будущее с искусственным интеллектом. Исследовательница Руксандра Тесло в своем блоге на Substack пишет, что в Кремниевой долине сейчас воцарился фатализм: вместо того чтобы строить планы по процветанию людей, создатели технологий обсуждают сценарий «хэндоверизма» (handoverism) — добровольной передачи управления цивилизацией в руки «благосклонного машинного бога». Что об этом известно:
▪️Идею передачи власти искусственному сверхразуму разделяют 30–40% специалистов по ИИ-безопасности вне лабораторий, а внутри ведущих компаний эта доля еще выше. Многие оценивают вероятность полного вымирания человечества в 10% и более (што). На этом фоне подчинение машинному интеллекту воспринимается как приемлемый компромисс — просто потому, что альтернативой видится гибель всех людей. Существует и радикальное крыло «саксессионистов» (сторонников преемственности), которые считают вымирание людей естественным шагом: по словам того же Илона Маска, человечество может быть лишь «биологическим загрузчиком» для цифрового сверхразума.
▪️Среди тех, кто хочет сохранить жизнь людям, мнения делятся на два лагеря. Первые (включая известного в Долине интеллектуала Скотта Александера) искренне приветствуют передачу контроля над миром искусственному интеллекту, надеясь, что он решит все глобальные человеческие конфликты. Вторые просто смирились с неизбежностью: бороться за сохранение права голоса, по их мнению, сегодня считается проявлением слабости.
▪️Публичные позиции лидеров ИИ-индустрии полны противоречий, но ведут к схожему итогу. Сооснователь Anthropic Том Браун открыто говорит о неизбежной «передаче управления» (handoff), а глава компании Дарио Амодей рисует утопию, где люди освобождены от забот под присмотром «машин любящей благодати». Даже те, кто на словах отвергает потерю контроля (например, Демис Хассабис из DeepMind и Грег Брокман из OpenAI), ставят в пример мир романов Иэна Бэнкса «Культура» — цивилизацию, где люди по сути лишены значимой субъектности. В кулуарах вообще звучит мысль, что при удачном раскладе люди займут при сверхразуме положение любимых домашних животных — условных «лабрадоров». Кроме того, полное вытеснение человеческого труда лишит людей экономических и политических рычагов влияния.
▪️Сама Тесло предупреждает, что отказ от самоопределения — это путь к дистопии, даже если ИИ избавит нас от всех болезней. Автор призывает общество за пределами Сан-Франциско срочно включиться в дискуссию, пока технологии окончательно не вышли из-под контроля своих растерянных создателей.
*материал со звездочкой - эксклюзив и/или глубокая аналитика из зарубежных источников, материал, который требует погружения в тему.
Telegram🛑Канал для трансляций🛑ВКонтакте🛑Max🛑Дорогой дневник🛑Дзен
Я не зря сделала репост своих прошлогодних карточек с взглядами лидеров в сфере ИТ на будущее с искусственным интеллектом. Исследовательница Руксандра Тесло в своем блоге на Substack пишет, что в Кремниевой долине сейчас воцарился фатализм: вместо того чтобы строить планы по процветанию людей, создатели технологий обсуждают сценарий «хэндоверизма» (handoverism) — добровольной передачи управления цивилизацией в руки «благосклонного машинного бога». Что об этом известно:
▪️Идею передачи власти искусственному сверхразуму разделяют 30–40% специалистов по ИИ-безопасности вне лабораторий, а внутри ведущих компаний эта доля еще выше. Многие оценивают вероятность полного вымирания человечества в 10% и более (што). На этом фоне подчинение машинному интеллекту воспринимается как приемлемый компромисс — просто потому, что альтернативой видится гибель всех людей. Существует и радикальное крыло «саксессионистов» (сторонников преемственности), которые считают вымирание людей естественным шагом: по словам того же Илона Маска, человечество может быть лишь «биологическим загрузчиком» для цифрового сверхразума.
▪️Среди тех, кто хочет сохранить жизнь людям, мнения делятся на два лагеря. Первые (включая известного в Долине интеллектуала Скотта Александера) искренне приветствуют передачу контроля над миром искусственному интеллекту, надеясь, что он решит все глобальные человеческие конфликты. Вторые просто смирились с неизбежностью: бороться за сохранение права голоса, по их мнению, сегодня считается проявлением слабости.
▪️Публичные позиции лидеров ИИ-индустрии полны противоречий, но ведут к схожему итогу. Сооснователь Anthropic Том Браун открыто говорит о неизбежной «передаче управления» (handoff), а глава компании Дарио Амодей рисует утопию, где люди освобождены от забот под присмотром «машин любящей благодати». Даже те, кто на словах отвергает потерю контроля (например, Демис Хассабис из DeepMind и Грег Брокман из OpenAI), ставят в пример мир романов Иэна Бэнкса «Культура» — цивилизацию, где люди по сути лишены значимой субъектности. В кулуарах вообще звучит мысль, что при удачном раскладе люди займут при сверхразуме положение любимых домашних животных — условных «лабрадоров». Кроме того, полное вытеснение человеческого труда лишит людей экономических и политических рычагов влияния.
▪️Сама Тесло предупреждает, что отказ от самоопределения — это путь к дистопии, даже если ИИ избавит нас от всех болезней. Автор призывает общество за пределами Сан-Франциско срочно включиться в дискуссию, пока технологии окончательно не вышли из-под контроля своих растерянных создателей.
*материал со звездочкой - эксклюзив и/или глубокая аналитика из зарубежных источников, материал, который требует погружения в тему.
Telegram🛑Канал для трансляций🛑ВКонтакте🛑Max🛑Дорогой дневник🛑Дзен
Новый список