Мысль соавтора о том, что ИИ обесценил половину написанного нами, привела меня к антиутопии 1953 года — и оказалось, что Брэдбери описал не запрет знания, а добровольный отказ от него. Для тех, кто пользуется ИИ каждый день и иногда ловит себя на облегчении: «а разбираться уже и не надо».
Я являюсь одним из соавторов книги «Продуктовый подход. Как создавать продукты, которые зарабатывают». Так получилось, что сегодня, 1 июля мы с частью соавторов и редакторами книги собирались отпраздновать победу нашей книги в 11 конкурсе «Деловая книга года в России» в номинации «Лучшая книга в помощь бизнесу».
Евгений Борисов, как автор и идеолог написания этой книги задал канву на развитие этой истории в виде различных активностей и материалов. А потом была высказана одна очень интересная мысль, примерно так: из-за искусственного интеллекта многие вещи описанные нами в книге устарели в момент их написания, а другая часть потеряла вообще всякий смысл, потому что человеку вообще не нужно знать это в связи с тем, что ИИ возьмет и сам быстро всё сделает. Например, CJM (карта клиентского пути)... Эта мысль зацепила меня и по дороге в офис у меня провелась параллель с «451 градус по Фаренгейту» Рэя Брэдбери. Своё впечатление о прочтении которой я дальше хочу рассказать.
Дело в том, что «451 градус по Фаренгейту» в массовом сознании — это «книга про то, как злое государство запрещает и жжёт книги». Пожарные, которые не тушат, а поджигают; главный герой Гай Монтэг со шлемом, на котором выведена цифра 451 (это температура по Фаренгейту, при которой воспламеняется бумага, примерно 233 по Цельсию); соседка Кларисса, которая будит в нём человека; жена Милдред, живущая внутри телевизорных стен. Роман 1953 года, антиутопия, всё понятно, борьба с цензурой.
Никто не запрещал книги. Люди сами перестали их хотеть
Ключевой разворот идеи книги — в середине романа, в длинном монологе Битти, начальника главного героя. Битти объясняет, откуда вообще взялось сжигание книг. И объяснение это не про диктатора, который однажды подписал указ и запретил прошлое и думать.
Всё пришло снизу, от людей. Ритм жизни ускорялся, людям становилось некогда. Книги начали ужимать: сначала до пересказов, потом до дайджестов, потом до дайджеста дайджестов — до одной колонки, до одного абзаца, до заголовка. Классику урезали до десяти строк. Всё сложное, длинное, требующее усилия и вызывающее противоречивые мысли — постепенно вымывалось, потому что на него не было спроса. Люди сами предпочли скорость, развлечение и покой. Государство пришло уже потом и просто оформило то, что общество выбрало добровольно: раз книги всё равно делают людей несчастными, заставляют думать и чувствовать себя глупее соседа — так давайте их сожжём и всех осчастливим.
Другой соавтор сегодня еще один пример: когда появилась википедия, то школьники начали приносить на задания учителя о чем-либо все одну и ту же распечатанную статью из этой энциклопедии. Ну а когда учился я, то мы переписывали из советской энциклопедии. А еще уже сейчас существует масса классических книг "в кратком изложении" для школьников. А у моих друзей есть стартап в Гонконге, где они из популярных книг делают ИИ выжимки, озвучивают их цифровым голосом и получают сокращенные аудиокниги для лентяев. Для меня лично всегда возникает вопрос: "Зачем это взрослым людям?"...
В мире Брэдбери книги умерли не от запрета. Они умерли задолго до запрета - от нежелания прилагать усилие. Запрет — это финальная бюрократическая точка, а не причина.
И вот на этом месте сегодня я поёжился. Потому что «человеку вообще не нужно знать это, ИИ сам быстро всё сделает» — это ведь та же самая интонация. Не злая, не цензурная. Наоборот, заботливая и удобная. Зачем тебе разбираться в карте клиентского пути, если помощник соберёт её за тебя за минуту? Зачем держать в голове механику, если под рукой источник готовых ответов? Логика Битти ровно такая: мы не отнимаем у вас знание, мы избавляем вас от лишнего труда.
Что на самом деле сжигали
Второй герой, который переворачивает книгу, — старик Фабер, бывший профессор английского. Когда Монтэг приходит к нему с вопросом «что такого в этих книгах, ради чего стоит рисковать», Фабер отвечает неожиданно. Он говорит, что дело не в книгах как предметах. Бумага, переплёт, сам объект — вторичны. Ценны три вещи, которых люди лишились вместе с чтением:
Первое — они обладают качеством. Не факты как таковые, а фактурность, плотность, «поры на лице жизни», детали, которые не дают соврать и упростить. То, что показывает мир во всём его неудобном разнообразии.
Второе — досуг. Не свободное время вообще, а время подумать, переварить, сопоставить. Право на паузу и медленное осмысление.
Третье — право действовать на основе того, что мы почерпнули из взаимодействия двух первых.
Книги были просто носителем, на котором все три вещи удобно сходились вместе. Сожгли не бумагу — сожгли привычку и способность делать это усилие.
И тут параллель с CJM становится совсем прямой. Ценность карты клиентского пути — не в самом артефакте, не в красивой схеме со стрелочками. Артефакт как раз ИИ соберёт точно лучше меня. Ценность — в том, что, рисуя её руками, ты вынужден пройти путём клиента, спотыкнуться о его боль, увидеть фактуру, подумать над ней и получить право на решение. Если ИИ отдаёт готовую схему, артефакт остаётся, а вот эти три вещи Фабера — качество, досуг на осмысление, выстраданное право действовать — тихо исчезают. Ровно как в романе: продукт (дайджест) на месте, понимания за ним — нет.
Почему это меня зацепило именно сейчас
Недавно я писал про работу Асемоглу и коллег из MIT о коллапсе знаний — там ровно об этом на языке экономической модели. Усилие разобраться в своей задаче — это скрытый двигатель, который попутно, как побочный продукт, производит общее понимание. ИИ блестяще закрывает готовый ответ под твой контекст — и тем самым убирает причину прилагать усилие. Решение в моменте улучшается, а способность понимать это решение потихоньку атрофируется.
Брэдбери, не зная слова «нейросеть», описал ту же ловушку на семьдесят лет раньше и на языке художественного образа. Его общество — это финальная стадия коллапса знаний. Мир, где ответы (развлечение, стены-телевизоры, скорость) идеально подогнаны под каждого, а понимать их уже некому и незачем. Совершенный сервис на руинах смысла.
Разница только в том, что у Брэдбери катализатором были радио, телевизор и скорость шоссе, а у нас — инструмент на порядок мощнее. Он не ужимает классику до десяти строк. Он готов сам прожить за тебя те самые десять строк и отдать вывод.
Важная оговорка: ИИ — это не огнемёт
Тут легко скатиться в луддизм, а я его не разделяю, и книга, кстати, тоже не про это. Фабер — не противник техники. Он сам вручает Монтэгу миниатюрный передатчик-наушник, чтобы быть на связи и помогать думать в реальном времени. То есть в романе есть два разных способа применить технологию.
Можно, как телевизорные стены Милдред, — чтобы окончательно избавить человека от необходимости чувствовать и соображать. А можно, как наушник Фабера, — чтобы усилить человека, который всё-таки решил разбираться сам.
ИИ ровно так же может быть и тем, и другим. Он может быть дайджестом, который заменяет понимание, — и тогда мы добровольно идём в мир Монтэга, где знать ничего не надо. А может быть Фабером в ухе — партнёром, который помогает тебе быстрее пройти путь, но путь ты всё-таки проходишь. Разница не в технологии. Разница в том, оставляем ли мы себе усилие или радостно его сдаём, потому что так удобнее.
И вот честный вопрос к самому себе: когда я слышу «ИИ сам сделает что-то, а знать не надо» — я ближе к наушнику Фабера или к стенам Милдред? Чаще всего, боюсь, ответ зависит от дисциплины, а не от инструмента.
А может, и правда не надо?
Тут я обязан спорить сам с собой, иначе выйдет брюзжание «раньше было лучше». Мой соавтор во многом прав: машина многое делает быстрее и точнее меня, это факт. Но, покрутив его мысль, я понял, что меня в ней смущает угол постановки вопроса. Суть не в том что отдавать ИИ. Дело в том, когда. Дать инструмент человеку, который уже многократно прошёл путь руками и разобрался, — значит усилить его: он возьмёт готовый результат и сразу увидит, где тот врёт. А дать человеку сразу умный инструмент вместо пути обучения — убить саму надежду на формирование понимания сути. Человек в итоге останется без единственно важной способности: понять, хорош ли вообще ответ, который ему выдали.
Я ведь и таблицу умножения помню при всегда включённом телефоне, и карту города держу в голове — не из упрямства, а потому что навигатор далеко не всегда работает. Это не то знание, которое я «не отдал машине». Это знание, которым я машину проверяю.
Люди-книги
Заканчивается роман образом, который я переслушал дважды. Сбежавший из города Монтэг выходит к костру, у которого сидят бродяги — бывшие профессора, учёные, изгнанные из «счастливого» общества. У каждого из них есть странная суперспособность: каждый выучил наизусть какую-то книгу и стал ею. Один — «Государство» Платона, другой — «Путешествия Гулливера» Свифта, третий — главу из «Уолдена» Торо (эту книгу они и вовсе поделили: одна глава живёт в одном городке, другая — в соседнем). Они не хранят бумагу (её всё равно сожгут). Они хранят понимание — в себе, живьём, чтобы после войны, когда мир рухнет и снова захочет знать, было откуда его восстановить.
Мне кажется, это и есть самый актуальный образ для нашего разговора. Не про то, что надо отказаться от ИИ и уйти в лес. А про то, что ценность в новом мире — не у того, кто владеет ответом (ответ теперь у всех), а у того, кто удержал в себе понимание. Кто остался человеком-книгой, а не человеком-дайджестом.
Вместо вывода
Я не знаю, устарел ли наш CJM. Возможно, соавтор прав, и через год ИИ будет рисовать карты клиентского пути лучше любого из нас. Но, вспомнив Брэдбери, я поймал себя на том, что вопрос вообще не в этом.
Вопрос в том, что произойдёт с нами, если мы согласимся, что знать — больше не нужно. Брэдбери дал на это ответ ещё в 1953 году, и ответ невесёлый: сначала исчезает усилие, потом понимание, а огнемёт приезжает уже в самом конце — просто прибраться.
Так что, отмечая сегодня победу книги, которую половина мира считает устаревшей, я, пожалуй, буду держать в голове старика Фабера с его наушником. Инструмент — хороший. Вопрос только, кем я решу быть на другом его конце.
p.s. а книгу прочитать я всем рекомендую. И нашу и Брэдбери.
Комментарии (0)