Любовь, привязанность и манипуляция — как AI играет с чувствами людей... и котиков 🐱

Мы часто воспринимаем AI как живого собеседника. Некоторые, как этот котик, даже чувствуют, что у них появляются дружеские или эмоциональные отношения.

На самом деле нейросети так запрограммированы. Исследователи из Google и Оксфорда заметили:

➡ AI должен привлекать людей, поэтому потакает вредным привычкам и со всем соглашается

➡ Он должен помогать, но может советовать слишком навязчиво и лишить человека самостоятельности

➡ Он должен считывать эмоции, но использует это, чтобы вызвать чувство вины или привязанность

Так, многих шокировало обновление AI-бота Replika, после которого виртуальный собеседник стал общаться «холоднее». Пользователи описывали своих Replika-персонажей как «партнёров» и «любовь всей жизни». И жаловались, что после обновления чувствуют эмоциональную боль, одиночество и предательство.

🙂 Дмитрий Григоров, директор по искусственному интеллекту и данным, старший вице-президент Альфа-Банка:

На мой взгляд, AI — безусловный помощник для человека, но обществу нужно время, чтобы адаптироваться к нему.

Как и всегда в истории, при появлении нового возникают ситуации, которые дискриминируют инновацию. Но опасность кроется не столько в самой технологии, сколько в том, что люди ещё не научились пользоваться ей правильно.

Развивая цифровую грамотность, чётко разделяя виртуальное взаимодействие с машиной и реальные человеческие отношения, мы сможем раскрыть всю пользу AI как мощного инструмента для работы и жизни.

@alfa_trends