Данила Медведев о пути к Сингулярности
tg1.7 тыс. подписчиков
Открыть пост ↗
Наш незапатентованный способ отличать людей от иишки и нейрослопа продолжает действовать вот уже три с половиной года. Кто-то как обычно скажет, что авторы картинки не использовали самую-самую последнюю нейромодель, или агентов, или лупы, или рои или квантовый ии...
А я скажу так: существует определенная математика мышления и эта математика говорит, что основанные на нейросетях системы в куче важных аспектов не мыслят. Да, эту математику понимают не все (почти никто), но sapienti sat. Читайте Paul Christiano про agent foundations (ещё 2014 год) и разное более свежее. Мне некоторые нюансы в силу кружковского матобразования и ФМЛ очевидны на уровне интуиции (про вычислительную стоимость мышления), и у меня нет задачи это формально обосновать или всем объяснить.
Но базово это так и это довольно важно для человечества сейчас. Поэтому как говорится, заказывайте лекции про мышление в вашей любимой организации, если хотите послушать.
А я скажу так: существует определенная математика мышления и эта математика говорит, что основанные на нейросетях системы в куче важных аспектов не мыслят. Да, эту математику понимают не все (почти никто), но sapienti sat. Читайте Paul Christiano про agent foundations (ещё 2014 год) и разное более свежее. Мне некоторые нюансы в силу кружковского матобразования и ФМЛ очевидны на уровне интуиции (про вычислительную стоимость мышления), и у меня нет задачи это формально обосновать или всем объяснить.
Но базово это так и это довольно важно для человечества сейчас. Поэтому как говорится, заказывайте лекции про мышление в вашей любимой организации, если хотите послушать.
1 картинка
Новый список