Кто ответит, когда ИИ уверенно наврал

Немецкий суд впервые сказал: за выдумки своего ИИ отвечает компания, а не пользователь. В Америке почти такой же спор закончился ровно наоборот. Разбираемся, почему один и тот же аргумент в двух странах привёл к противоположным решениям — и почему от ответа зависит, в каком виде ИИ встроят в продукты, которыми мы пользуемся каждый день.

Сценарий вам знаком. Вы что-то спрашиваете — у поисковика, у чат-бота, неважно. Сверху выезжает аккуратный, уверенный, складно написанный ответ. Он выглядит как факт. Иногда он и есть факт. А иногда — нет, и тогда вы либо ловите ошибку (если повезло и тема знакомая), либо несёте её дальше как правду.

До недавнего времени это была целиком наша с вами проблема. «Перепроверяйте всё важное» — стандартная присказка, дисклеймер мелким шрифтом, общественный договор по умолчанию. Машина не отвечает за то, что сказала; отвечает тот, кто поверил.

Так вот, этот договор начал трещать. И первым его надломил суд в Германии.

История простая. Земельный суд Мюнхена вынес временный запрет: Google больше не может распространять про двух мюнхенских издателей утверждения, которые сгенерировал его собственный ИИ. А сгенерировал он вот что — связал эти компании с мошенничеством, «подписочными ловушками» и «сомнительными практиками». Беда в том, что ни на одном из сайтов-источников, на которые ИИ якобы опирался, таких связей не было. Он их сочинил сам: перепутал издателей с другими, реально мутными фирмами, и достроил несуществующую картину.

Издатели отправили Google требование прекратить. Google отреагировал, по мнению суда, неподобающе. И суд встал на сторону истцов почти по всем пунктам — а заодно сделал то, ради чего эту новость стоит читать внимательно: он назвал выдумки ИИ собственными заявлениями Google, а не чужим контентом, который Google просто показал.

Чтобы понять, почему это серьёзно, нужно на минуту отступить назад.

Почему поисковику это сходило с рук

Десятилетиями технологические гиганты жили под защитой одного очень удобного принципа. В США он называется Section 230 — закон 1996 года, который освобождает платформу от ответственности за контент, который через неё проходит. Google показывает ссылки, соцсеть показывает посты — но авторы там третьи лица, а платформа просто витрина. С витрины взятки гладки.

В Германии работает похожая логика — и суд это прямо признал. Местный Федеральный суд (BGH) ещё раньше постановил, что операторы обычных поисковиков отвечают лишь как «посредники»: они делают чужой контент находимым, но не обязаны заранее проверять каждую ссылку. Возложить на поисковик обязанность визировать всю выдачу — значит сломать сам поиск.

Логика честная. Поисковик — это указатель. Он говорит «вон там есть текст», но не пишет этот текст сам. За содержание отвечает тот сайт, на который указали.

И вот тут начинается самое интересное.

Что сломал AI Overview

AI Overview — те самые сгенерированные ответы над поисковой выдачей — устроен принципиально иначе. Он не указывает на чужой текст. Он, как выразился суд, переписывает и оценивает результаты «своими словами и по своей структуре»: открывает уверенным «Да, эта компания известна сомнительными практиками», потом строит собственное резюме, список «красных флагов» и советы пользователю.

То есть это уже не указатель. Это автор.

И ключевой удар суда — в том, что ИИ выдал утверждения, которых не было ни в одном из источников. Связи, которые он провёл, не проводил никто из тех, на кого он ссылался. А раз так — это не пересказ чужого, это собственное высказывание Google. Google построил ИИ, Google предложил его пользователям, Google единственный контролирует и алгоритмы, и то, что они выдают, — значит, Google и отвечает.

Дальше Google защищался ровно тем аргументом, которым ИИ-компании защищаются всегда: пользователи же могут перепроверить, под ответом есть ссылки, все ведь знают, что ИИ нельзя слепо доверять.

Суд это отклонил — и сделал это изящно. Возможность опровергнуть утверждение, покопавшись в источниках, сама по себе не освобождает от ответственности за это утверждение. Ответ был «понятен сам по себе», самодостаточен, без всяких оговорок про ненадёжность. Суд провёл параллель с правом прессы: издатель отвечает за анонс, который читается как законченное сообщение, даже если читатель так и не открыл саму статью.

И добил совсем уж прицельно: если всерьёз считать AI Overview текстом, который в любом случае надо перепроверять по каждой ссылке, то вся фича теряет смысл. Нельзя одновременно продавать удобство готового ответа и снимать с себя ответственность за него, ссылаясь на то, что готовому ответу нельзя верить.

Тот же аргумент — обратный результат

Здесь бы и закончить на пафосной ноте «эпоха безответственности кончилась». Но честнее показать другую сторону. Потому что почти такой же спор в США закончился победой ИИ-компании.

Дело Уолтерс против OpenAI, Джорджия, 2025 год. Журналист попросил ChatGPT пересказать судебный иск. ChatGPT уверенно ответил, что радиоведущий Марк Уолтерс — фигурант дела о растрате средств некоммерческой организации. Уолтерс не имел к этому делу никакого отношения; обвинение бот выдумал от начала до конца. Уолтерс подал в суд за клевету.

И проиграл — причём суд вынес решение в пользу OpenAI сразу по трём независимым основаниям. Но интересно именно первое. Суд решил, что разумный читатель в положении того журналиста не мог воспринять ответ ChatGPT как утверждение о реальных фактах. Почему? Потому что ChatGPT сам предупреждал, что не имеет доступа к ссылке и работает с ограничениями, потому что у OpenAI повсюду дисклеймеры про возможные ошибки, и потому что журналист и сам знал, что бот способен выдавать «откровенную выдумку». Раз читатель не верит в фактологичность текста — текст не клевета.

Вчитайтесь в это ещё раз. Тот самый аргумент — «все же знают, что ИИ может наврать» — который немецкий суд отшвырнул как нелепый, американский суд сделал краеугольным камнем оправдания. В Мюнхене «пользователь должен был перепроверить» означало «значит, фича бессмысленна, и отвечает Google». В Джорджии «пользователь понимал, что это может быть выдумкой» означало «значит, это и не факт, и отвечать не за что».

Одна и та же фраза. Два противоположных вывода. И зависит всё, по сути, от того, как суд решит считать ИИ — автором, который что-то утверждает, или генератором правдоподобного шума, которому верить заведомо глупо.

Почему так вышло

Тут прячется парадокс, в котором ИИ-компании устроились на удивление комфортно. Юрист из Northeastern University Хилари Робинсон описывает его так: компании выигрывают с обеих сторон сразу. С одной стороны они как бы «цифровой посредник» и просят иммунитет платформы — мы лишь показываем, мы не авторы. С другой — апеллируют к свободе слова, как полноценные говорящие субъекты. «Они везде — и их нигде нет».

Немецкий суд по AI Overviews ударил как раз по этой второй опоре. Мнение, сгенерированное ИИ, постановил он, — это «не выражение приобретённого убеждения человека, а результат работы алгоритма». А значит, предлагать ИИ-ответы — это прежде всего бизнес Google, и защита свободы слова тут в лучшем случае вторична. Когда на одной чаше весов — репутация людей, оболганных на основе ложных фактов, а на другой — коммерческий интерес компании, перевешивает первое.

То есть европейский и американский суды разошлись не в фактах. Факты идентичны: ИИ уверенно наврал про живого человека. Разошлись в том, кем считать ИИ — и, соответственно, на кого вешать счёт.

Мюнхен становится местом, где это решают

Любопытная деталь: дело про AI Overviews — не первый удар того же мюнхенского суда по ИИ-гигантам. Осенью 2025-го тот же земельный суд Мюнхена признал OpenAI виновной в нарушении авторских прав: ChatGPT воспроизводил тексты девяти известных немецких песен почти дословно по простейшим запросам. И там OpenAI защищалась знакомым приёмом — мол, это пользователи своими промптами «вытаскивают» тексты, а не мы. Суд ответил: при простых запросах контроль остаётся за оператором модели, а значит, отвечает оператор. (Решение не финальное, OpenAI обжалует.)

Узор повторяется: кто построил модель и контролирует её поведение — тот и автор того, что она выдаёт. Не пользователь, не источники, не «алгоритм сам по себе».

Это не только про клевету

Если отойти от Германии и посмотреть на общую картину, видно, что иски про «ИИ что-то сказал, и стало плохо» множатся по всем фронтам, и юристы пробуют разные тактики.

Самая мощная — зайти не через клевету, а через ответственность за продукт. В деле Гарсии против Character Technologies (мать обвиняет чат-бот в причастности к самоубийству 14-летнего сына) суд согласился рассматривать массовый чат-бот как «продукт» — со всей машинерией дефектов, предупреждений и предсказуемости вреда, которую право давно применяет к сложным технологиям. И — что важно — позволил тянуть к ответу не только сам сервис, но и «вышестоящего» поставщика технологии. Здесь ИИ-компании уже не спрячутся за «это просто речь»: продукт оценивают по конструкции, а не по содержанию реплик.

Другая линия — ответственность после уведомления. Активист Робби Старбак утверждает, что годами сообщал Google о том, что её боты приписывают ему выдуманные преступления и сфабрикованные судебные документы, — а компания, по его версии, «сидела и ничего не делала». Дело пока не решено, это позиция истца, а не установленный факт. Но если суды примут такую логику, защита «мы же не знали» перестанет работать ровно в тот момент, когда компании сообщили о проблеме.

Цифры, из-за которых это не частный случай

Можно отмахнуться: единичные галлюцинации, бывает, лес рубят - щепки летят. Но дело в масштабе.

По оценке, которую приводит The Decoder со ссылкой на анализ для The New York Times, AI Overviews на модели Gemini 3 дают верный ответ в 91% случаев. Звучит прилично — пока не вспомнишь о масштабе Google. 91% при таком потоке запросов — это всё равно миллионы неверных ответов каждый час. А ещё в том же анализе — деталь, от которой логика «зато всегда есть ссылки» окончательно осыпается: 56% даже верных ответов Gemini 3 не подтверждались теми источниками, на которые он ссылался. ИИ выдаёт ответы, чьё происхождение пользователь просто не может проследить.

И вишенка: по данным исследований, по ссылкам под AI Overview кликает около 1% людей. То самое «всегда можно перепроверить», на котором держится вся защита ИИ-компаний, на практике не делает почти никто.

Вместо вывода

Заманчиво свести всё к «Европа кошмарит американский биг-тех», но это была бы ленивая рамка. Настоящий сюжет — не про континенты. Он про один вопрос, на который у человечества пока нет согласованного ответа: кем считать ИИ, когда он уверенно говорит неправду.

Если он автор — отвечает тот, кто его построил и продаёт. Если он генератор правдоподобного шума, которому верить заведомо наивно, — отвечает тот, кто поверил. Мюнхен выбрал первое. Джорджия — второе. И оба решения предварительные: и немецкие, и американские дела ещё пойдут по апелляциям, и где-то там, возможно, до Европейского суда.

Раньше «перепроверяйте важное» было нашей личной гигиеной. Теперь это вопрос на миллиарды — и не только для Google, но для всех, кто пересказывает интернет своими словами: OpenAI, Perplexity, да хоть кого. От того, как на него ответят суды по всему миру, зависит не абстрактная справедливость, а вполне конкретная вещь: в каком виде — осторожном, обвешанном оговорками, или уверенном и берущем ответственность на себя — ИИ встроят в продукты, которыми вы пользуетесь каждый день.

Пока же мы живём в забавном промежутке. Машине разрешено говорить уверенно. А отвечать за уверенность — ещё не решили, кому.