В мае товарищ сказал мне, что ему порекомендовали прочитать «Маятник Фуко» Умберто Эко — с формулировкой «это предтеча современных LLM». Я купил книгу в аудиоформате, какое-то время к ней подбирался, наконец дослушал и хочу поделиться ощущениями.
Параллель с большими языковыми моделями в книге действительно есть, причём навязчивая. Но самое интересное в том, что роман как будто заранее объясняет, почему именно к нему так хочется приклеить ярлык «предсказал ChatGPT» — и почему этот ярлык стоит держать на расстоянии вытянутой руки. Об этом, собственно, и весь текст.
Начну с предупреждения, которого мне самому не хватило на старте. «Маятник Фуко» — очень сложная книга. Сложная именно к восприятию: это нагромождение огромной массы фактов, имён, дат и теорий. И если вы когда-либо читали исторические работы или учебники про тамплиеров, вы с удивлением обнаружите, что значительная часть всего этого — буквально исторические, общепринятые сведения. Эко не выдумывает декорации, он берёт настоящие и наваливает их одну на другую, пока у читателя не начинает рябить в глазах.
Кто такой Эко и почему без личности автора никуда
Тут важно посмотреть на личность автора. Умберто Эко — итальянский учёный, философ, специалист по семиотике и средневековой эстетике, теоретик культуры, литературный критик, публицист и только потом уже романист. Одной из центральных для него была проблема интерпретации: отношения читателя и автора, та самая «роль читателя».
Это не беллетрист, забредший в красивую тему. Это человек, который теорию смыслопорождения построил сам, своими руками. И когда такой автор пишет роман про то, как из случайных фактов собирается «теория всего», — он пишет не триллер про заговор. Он показывает собственную науку в действии, на живом, чуть ли не клиническом материале. «Маятник Фуко» — это семиотика, которая решила проверить себя на прочность.
Что, собственно, происходит
Милан, 1970-е. Три редактора издательства «Гарамон» — Казобон (рассказчик, защищал диссертацию по тамплиерам), Бельбо и Диотиллеви. К ним стекаются рукописи оккультистов и конспирологов, которых они между собой насмешливо зовут «одержимыми» или «писсами» (в противопоставление писателям). От скуки и интеллектуального снобизма троица затевает игру: берёт случайные факты, имена и события из этих рукописей и сшивает их в одну великую теорию — «План».
Главный инструмент игры — персональный компьютер Бельбо, который он в шутку называет «Абулафия», в честь средневекового каббалиста Авраама Абулафии. Программа компьютера просто переставляет и комбинирует куски текста, выдавая бесконечные варианты связок. Из этих комбинаций постепенно вырастает всеобъемлющая конспирология: тамплиеры, розенкрейцеры, масоны, «телурические токи», карта центра мира — всё связано со всем.
И вот здесь читатель, заставший эпоху ChatGPT, начинает узнавать слишком многое.
Почему это так похоже на LLM
Параллелей действительно набирается на целый список.
Во-первых, генерация текста из паттернов. «Абулафия» соединяет случайные факты в осмысленные на вид комбинации, не понимая ни одной из них. Ровно так работает и языковая модель: она не постигает смысл, она комбинирует статистически вероятные продолжения.
Во-вторых, иллюзия смысла. Главная механика романа: если достаточно долго комбинировать информацию, можно создать видимость глубокого смысла там, где его нет. LLM делает то же самое — выдаёт грамматически безупречный, связный, убедительный текст без всякого понимания того, что говорит.
В-третьих, сама «Абулафия» как прообраз. Машина, названная в честь каббалиста, автоматически перебирает комбинации слов и концепций. Это буквально предвосхищает идею перебора токенов по вероятностям — за десятилетия до того, как это стало инженерной реальностью.
В-четвёртых, критика чрезмерной интерпретации. Эко-семиотик показывает опасность ситуации, когда любые данные можно связать в «теорию», если очень стараться. Это прямой родственник проблемы галлюцинаций: модель «находит» связь там, где её нет, и подаёт её с тем же убедительным спокойствием, что и факт.
В-пятых, самоисполняющееся пророчество. Чем сильнее редакторы верят в свой «План», тем больше «подтверждений» он начинает находить вокруг. Здесь напрашивается параллель с тем, как модель усиливает зашитые в обучающие данные смещения и как пользователь, задающий тенденциозный вопрос, получает тенденциозный ответ, укрепляется в своей картине, спрашивает ещё — и аккуратно закрывает себя в информационном пузыре.
Если на этом остановиться, вывод напрашивается сам: Эко удивительно точно описал особенности и проблемы ИИ-генерации текста за много лет до появления ChatGPT. Красивая связь. Слишком точная.
А теперь — почему эта связь ложная
И вот тут роман делает то, ради чего, мне кажется, его и стоит читать. Он сам, изнутри, разоружает собственную метафору.
Потому что весь смысл «Маятника Фуко» в том, что найденная связь — не найдена, а изготовлена. В книге есть отрезвляющая сцена: Лия, женщина Казобона — единственный во всей истории человек, твёрдо стоящий на земле, — берёт один из тех загадочных «тамплиерских документов», вокруг которого герои выстроили полтеории, и спокойно показывает, что это банальный хозяйственный список, перечень поставок. Вся мистика испаряется при первом же соприкосновении с бытовой реальностью. Тайны не было. Было желание видеть тайну.
Самая же глубокая параллель с LLM — вовсе не техническая, она про нас. Герои придумали несуществующий «План» как пародию, а реальные оккультисты приняли его всерьёз, поверили, что были его частью всегда, — и начали действовать. И как только люди начинают действовать по выдуманной структуре, она становится реальной в своих последствиях. Это и есть настоящая опасность языковой модели: не в том, что машина «думает», а в том, что мы принимаем её уверенный паттерн за истину и строим на нём решения.
Автор читателя не щадит: героев настигают последствия, а один из них умирает от рака, убеждённый, что болезнь — расплата за игру со смыслами; он сам сводит воедино два слова — «метатеза» (перестановка букв) и «метастаз» (разрастание клеток). Игра в перестановку знаков буквально убивает своих игроков. Это не триллерный твист, это приговор методу.
И тут возникает финальная ирония, от которой трудно отделаться. Сам тезис «Эко предсказал LLM» — это ровно тот ход, против которого написана книга. Мы взяли роман 1988 года и технологию 2022-го, нашли между ними изящную перекличку и едва не приняли резонанс за пророчество. Связь есть. Но создали её мы. Книга про это и предупреждала — а мы всё равно попались, что, пожалуй, лучшее доказательство её правоты.
Кстати, маленькая деталь, которую Эко наверняка ценил: маятник в названии — это маятник Леона Фуко, физика XIX века, доказавшего вращение Земли, а вовсе не философа Мишеля Фуко. Само название — приглашение увидеть связь, которой нет.
Для кого эта книга
Книга для тех, кто готов к интеллектуальному труду и к сражению со смыслами — кто получает удовольствие не от сюжета, а от самой работы ума, от плотности материала и от того, как медленно собирается и разбирается конструкция. Таким читателем роман будет вознаграждён щедро.
А вот кому стоит трижды подумать — это любителям динамичного заговорщицкого триллера. Википедия нам подсказывает: «Маятник Фуко» — это анти-«Код да Винчи»; Эко, к слову, по сути спародировал жанр Дэна Брауна раньше, чем тот появился. Здесь нет погони, здесь есть монологи на много страниц, списки, отступления и эрудиция, которая местами откровенно испытывает терпение. И, по моему опыту, в аудиоформате это даётся тяжелее, чем на бумаге: вернуться и перечитать сложный кусок почти невозможно, а возвращаться хочется часто.
Что в этой книге есть для меня
Главное, что я для себя вынес, я бы сформулировал так. «Абулафия» не понимала ровным счётом ничего — весь смысл в её комбинации вкладывали сами редакторы. ChatGPT тоже не понимает ничего — смысл в его текст вкладываем мы. За 34 года машина стала несравнимо быстрее и убедительнее. А человеческий голод по связности, по большому объясняющему «Плану», не изменился ни на йоту.
Так что Эко предсказал не технологию. Он предсказал нас рядом с ней. И если читать «Маятник Фуко» как предтечу LLM, то главное предупреждение книги не в том, что машина однажды начнёт собирать смыслы из пустоты. А в том, что собирать их из пустоты, выдавая совпадение за замысел, мы прекрасно умели и без всякой машины. Машина просто подала нам зеркало побольше.
Читать — однозначно. Только не за разгадкой. За самим процессом разглядывания того, как устроено наше желание разгадывать.
Комментарии (0)