Американское издание опубликовало список книг на лето: 10 из 15 произведений не существует в реальности — их нафантазировал ИИ
Одна из ведущих ежедневных газет Чикаго, Chicago Sun-Times, опубликовала список книг, рекомендованных для летнего чтения, который сгенерировал искусственный интеллект. В список вошли реальные авторы и поддельные книги, сообщает Медуза.
Изображение сгенерировано ИИ
Список для летнего чтения в 2025 году опубликовали 18 мая, он появился во вкладке Chicago Sun-Times под названием «Индекс жары» (Heat Index). Только пять из 15 книг, представленных в перечне, оказались реальными. В списке оказались фальшивые книги таких авторов, как Брит Беннетт, Мин Джин Ли, Румаан Алам, Ребекка Маккай, Мэгги ОʼФаррелл, Персиваль Эверетт. Эти авторы никогда не писали произведений, упомянутых в списке.
Каждая книга содержала короткое описание. Например, «Мечты о морском береге» (Tidewater Dreams) Исабель Альенде описываются как «сага о нескольких поколениях, действие которой происходит в прибрежном городке, где магический реализм встречается с экологическим активизмом». В описании книги «Последний алгоритм» (The Last Algorithm) Энди Вейра говорится, что эта история «повествует о программисте, который обнаруживает, что система искусственного интеллекта обрела сознание и уже много лет тайно влияет на глобальные события».
По теме: Илон Маск заявил, что искусственный интеллект заберет у людей все рабочие места
В список попали и реальные произведения, например «Вино из одуванчиков» Рэя Брэдбери, «Великолепные руины» Джесса Уолтера и «Здравствуй, грусть!» Франсуазы Саган.
В этом же номере газеты в некоторых материалах авторства Марко Бускальи упоминаются люди, которых не существует. Например, «доктор Дженнифер Кампос, профессор исследований досуга в Университете Колорадо и «доктор Кэтрин Ферст, пищевой антрополог из Корнеллского университета». Есть в материалах и ссылки на несуществующие статьи.
Марко Бускалья признался, что «иногда» использует искусственный интеллект, но всегда проверяет материал.
«В этот раз я этого не сделал. Это на 100 процентов моя вина, и мне очень стыдно», — сказал он.
Не единственный скандал
Списки книг, сгенерированные искусственным интеллектом, помимо Chicago Sun-Times появились в газете The Philadelphia Inquirer. Публикации подготовила компания King Features, дочерняя структура медиагиганта Hearst, сообщил вице-президент по маркетингу и коммуникациям Chicago Public Media Виктор Лим. По его словам, «исторически сложилось так», что газета не подвергает редакционной проверке газетные вкладыши, подготовленные King Features.
«Мы обновляем нашу политику, чтобы требовать внутреннего редакционного надзора за подобным контентом», — уточнил Лим.
Chicago Sun-Times открещивается от списка выдуманных книг, поскольку, по его словам, это не редакционный контент. Руководство Chicago Sun-Times пообещало, что с подписчиков издания не будут брать плату за номер, в котором были неточности, раздел удалят из электронной версии газеты, а редакция изменит внутренние правила и станет указывать, что материалы подготовлены третьей стороной. Она будет стремиться к тому, «чтобы такого впредь никогда не повторилось».
Это не единственный случай, когда издания публикуют контент, сгенерированный ИИ. Громкие инциденты произошли с медиахолдингом Gannett и журналом Sports Illustrated, в обоих случаях искусственный интеллект применяла сторонняя маркетинговая компания.
Дешево и сердито
Мне стало интересно, что думает ИИ по поводу этого конфуза. Что ж, Grok, например, перекладывает основную вину на нас, людей, и на нашу халатность. Впрочем, он тут же поясняет и причины такой халатности. Например, конфуз в Chicago Sun-Times связан с тем, что, по данным профсоюза, в издании сейчас нехватка редакторов из-за сокращений: 20% штата уволены в марте 2025 года.
«Медиа, такие как Sun-Times, всё чаще используют ИИ для экономии, — заметил искусственный интеллект. – Это заставляет издания аутсорсить контент или полагаться на фрилансеров с ИИ. Генерация текста стоит дёшево».
Grok полагает, что медиа, несмотря на сокращения, должны инвестировать в фактчекеров и редакторов, а фрилансеры обязаны проверять ИИ-выводы через базы данных (Goodreads, Library of Congress). Да и читателям расслабляться не стоит, как не стоит доверять всему, что написано в газетах. Особенно сейчас.
Галлюцинирующий цифровой мозг
«ИИ, особенно генеративные модели, такие как ChatGPT, Claude или Grok, придумывает несуществующие книги из-за особенностей их работы, отсутствия критической проверки и человеческой халатности. Это явление известно как «галлюцинации ИИ», — пояснил мне цифровой мозг.
Генеративные ИИ-модели, основанные на больших языковых моделях (LLM), не «знают» фактов, а предсказывают текст на основе вероятностей, обученных на огромных массивах данных (книги, статьи, сайты). Они создают правдоподобные комбинации слов, даже если результат вымышленный.
Техническая причина заключается в том, что модели вроде GPT-4 или Claude обучены на текстах до определённой даты (например, до 2024 года), и для 2025 года они могут только прогнозировать, а не подтверждать. Без проверки ИИ выдаёт «галлюцинации», такие как несуществующая Nightshade Market Мин Джин Ли.
«Например, мой срез — октябрь 2024 года», — признался Grok. Для событий же 2025 года, таких как список Sun-Times, языковые модели «прогнозируют» результат. Кроме того, ИИ не отличает правду от вымысла — он оптимизирован для связности текста, а не для точности.
Вина журналиста еще и в том, что он неточно сформулировал запрос: «Если фрилансер в Sun-Times запросил ‘книги для лета-2025’ не уточнив «реальные», ИИ мог сгенерировать фейки, следуя шаблонам».
Можно ли встроить в «цифровой мозг» автоматическую проверку достоверности?
Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке – читайте все это на ForumDaily New York
Да, технически возможно встроить механизмы, которые снижают галлюцинации, но полностью устранить их пока нельзя из-за ограничений технологий и природы языка. Поэтому экономить на «человеческом факторе» изданиям пока не стоит. Для людей эта новость выглядит утешительно: говорить о том, что искусственный интеллект заберет все рабочие места в издательской отрасли, пока очень преждевременно.
Но, с другой стороны, сознаюсь честно, с такими подмастерьями как ChatGPT, Grok или DeepSeek я бы могла за день слепить номер какого-нибудь дамского глянцевого чтива, на создание которого у целой редакции раньше уходил месяц. А что до выдуманных персонажей, сгенерированных ИИ, то банальные сентенции, которые они выдают, практически ничем не отличаются от тех, что произносят настоящие «эксперты».
Читайте также на ForumDaily:
‘Мы все выбросим свои смартфоны’: умные очки от Meta поразили протестировавшего их журналиста
Подписывайтесь на ForumDaily в Google NewsХотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» — и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.
Выбор редакции
