Malakhoverse

«Да, вы должны паниковать из-за ИИ»

Вчера вышел показательный текст Рутгера Брегмана - одного из самых влиятельных гуманитариев мира. Приведу несколько отрывков:

«Представьте, что перед вами две группы экспертов. Первая группа говорит очень разумные вещи, с которыми вы интуитивно соглашаетесь. Но с прогнозами на будущее у них всё ужасно. По сути, они ошибаются раз за разом - уже больше десяти лет.

А есть вторая группа. Они говорят совершенно безумные вещи, в которые просто невозможно поверить. Но с прогнозами на будущее у них всё блестяще. По сути, они оказываются правы раз за разом - уже больше десяти лет.

Кого вы станете слушать?

Именно этот вопрос стоит перед нами прямо сейчас, когда речь заходит об ИИ...

В первой группе - те, кто считает ИИ фикцией: машиной хайпа, надувательством и пузырём, который может лопнуть в любой момент. Во второй - те, кто полагает, что 2027 год вполне может оказаться самым безумным годом в истории человечества и что мы на всех парах мчимся к катастрофе.

Годами я слушал разумных людей. Я согласно кивал, когда критики называли ИИ "надувательством" и отмахивались от ChatGPT как от "автодополнения на стероидах". Я верил аналитикам вроде Эда Зитрона, которые неустанно предсказывали, что ИИ уже не станет лучше, а пузырь вот-вот лопнет. Я смеялся в 2024 году, когда интернет потешался над ChatGPT из-за того, что он не мог сосчитать буквы r в слове "strawberry". Встречая молодых исследователей, посвятивших свою карьеру опасности вышедшего из-под контроля ИИ, я думал: какая пустая трата таланта.

Но в какой-то момент я начал понимать, что что-то здесь не так. Машина продолжала учиться тому, чему она в принципе не должна была научиться...

Ничего этого не должно было случиться. Скептики, которым я так охотно поддакивал, уверяли, что подобного не произойдет и через миллион лет. Поэтому я оглянулся назад, посмотрел, что ещё они предсказывали, и меня осенило: они ошибались... практически во всём...

Затем я изучил прогнозы сумасшедших и понял, что они оказались пугающе прозорливыми. Те, кто оказался прав ещё десять лет назад, сделали одну феноменально успешную ставку: они взглянули на график прогресса ИИ (количество чипов, эффективность алгоритмов, возможности машин) и предположили, что линия продолжит идти вверх. Экспоненциально.

Именно это и произошло».

(полный текст на английском)

«Жить духовной жизнью значит не действовать подобно механизму, но свободно вверять себя Провидению, каким оно открывается в зове каждого наступающего мгновения. Более же нам ничего не остаётся, кроме как уповать и ждать Грядущего и торжества безраздельного царства любви в оный день - день и час, о которых не ведает никто, кроме Того, Кто может даровать его (Мф. 24:36). И ныне, и в конце времён наше бытие заключается в призвании к любви - и если откликнуться на этот зов означает обнаружить, что от нас требуется любить ещё полнее, со всеми испытаниями и жертвами, которых это может потребовать, то тем самым мы лишь глубже проникаем в тайну того, кто мы есть, - в духе и истине».

Из «Метафизики любви», завершающей части гениального трёхтомника Джорджа Паттисона = George Pattison. A Metaphysics of Love: A Philosophy of Christian Life, Part 3. Oxford University Press, 2021.

В текущей версии Панграм есть большая проблема с текстами переведёнными с русского на английский.

Машинные переводы русских текстов, целиком написанных людьми и проверка оригиналов которых показывает 100% человеческое авторство, помечаются Pangram как полностью написанные AI или в лучшем случае AI-assisted. Это касается переводов сделанных с помощью Google Translate, DeepL, фронтирных LLMs, даже в тех случаях, когда в промте указано ограничиться максимально точным переводом без редактуры. Примечательно, что это верно для перевода большинства текстов с русского (и других славянских языков) на английский, но это гораздо реже встречается при переводе с русского на другие проверенные мной языки. Очевидно, что эта проблема существует для разных языковых пар, но степень распространеннёности отличается на порядок. Это может быть большой проблемой, поскольку многие русскоязычные писатели и учёные используют LLMs и инструменты машинного перевода для первичного перевода и крайне важно иметь возможность отличить LLM-процедурный перевод от сгенерированного текста.

(Немного технических деталей: чтобы проверить свои полевые наблюдения я выбрал несколько абзацев из избранных, т.е. прошедших проверку качества, статей в русской Википедии и перевёл их на английский с помощью различных сервисов. Также я проделал эту процедуру для различных языковых пар).