Несколько месяцев назад, на четвертую годовщину свадьбы, мы с женой получили отличный подарок: мои родители заказали нам в интернет-магазине Amazon мультиварку и впридачу к ней кулинарную книгу со множеством рецептов для этого полезного устройства.
Но когда я взглянул на книгу поближе, то понял, что с ней что-то не так.
На обложке крупным шрифтом говорилось: «2000 дней и простые, вкусные рецепты». Трудно представить, что 2000 рецептов поместились бы в не очень толстую книгу. При этом введение было написано на странном, ломаном английском. Складывалось ощущение, что книгу составляли наспех.
У автора Луизы Флоренс (Luisa Florence) в книге не было ни фотографии, ни биографии. Мне удалось найти ее страницу на Amazon: фотографию явно сгенерировал искусственный интеллект (ИИ, AI). Согласно биографии, Луизе 60 лет, она якобы родилась в Италии, выросла в США и живет в городе Филадельфия (штат Пенсильвания). Эта информация выглядит весьма неубедительной.
Странный авторский стиль, ИИ-фотография, сомнительная биография — скорее всего, эта книга была написана и составлена при помощи искусственного интеллекта, подумал я. После этого я написал серию постов в соцсети X (экс-Twitter) о книге и моих претензиях к ней, а потом лег спать. Наутро я проснулся мимолетной звездой интернета.
Твиты стали вирусными. Свыше двух с половиной тысяч перепостов, 14 тысяч лайков, сотни откликов. Друзья говорили, что обсуждают меня в подкастах. Журналисты писали статьи обо мне и этой таинственной кулинарной книге.
На фоне волны внимания к подаренной книге я решил продолжить изучение текста и биографии г-жи Флоренс, чтобы понять кто на самом деле стоит за этим современным произведением массовой литературы. И я пришел к неожиданному для себя выводу: может быть, книга и не была написана ИИ, а просто сделана на скорую руку для того, чтобы получить деньги от невнимательных покупателей.
Но это почти невозможно проверить.
Мой опыт с кулинарной книгой помог прийти к важной для меня мысли о роли технологии в современной жизни и, скорее всего, в нашем будущем: в эпоху искусственного интеллекта нам будет чрезвычайно сложно понять, с кем мы имеем дело — с человеком или с компьютером.
Признаки «неаутентичности»
В терминологии исследователей и журналистов, пишущих о дезинформации в интернете, аккаунт в социальной сети, выдающий себя за того, кем не является, называется «неаутеничным» или демонстрирует «неаутеничное поведение».
По многим признакам, аккаунт г-жи Флоренс не являлся настоящим. У нее была поддельная фотография. Ее биография вызвала большие сомнения (обычно авторы не указывают свой возраст в биографии — иначе её придется обновлять ежегодно). Кроме того, почти невозможно было найти какие-либо подтверждения о существовании автора в интернете за пределами Amazon.
Нашлись и косвенные доказательства, что не все «аутентично» с книгой: cреди в основном положительных рецензий на книги Флоренс в Amazon были и обзоры, повторявшие одно и то же разными словами. Это может означать, что их писали при помощи ChatGPT или подобных технологий.
В книге была реклама о том, что можно получить вторую кулинарную книгу бесплатно, нужно лишь отправить сообщение на электронный адрес, принадлежащий, по всей видимости, женщине по имени «Стелла Адамс» (Stella Adams).
Я быстро выяснил, что Адамс тоже есть на Amazon и продает книги рецептов, подобные рецептам Флоренс. На ее авторской странице тоже висело странное изображение, похоже, сгенерированное ИИ. Да и биография была похожа: жила в США, итальянские корни.
Я решил написать Стелле и попросить ее связать меня с автором моей книги. Спустя час я получил сообщение от Луизы. Два первых предложения были написаны на английском, остальное – на итальянском.
В сообщении говорилось, что его автор — настоящая 55-летняя женщина по имени Луиза из Италии. Но фамилия «Флоренс» – псевдоним, а фото – работа популярного сайта «This Person Does Not Exist» («Этот Человек Не Существует»), который генерирует лица с помощью ИИ-технологий.
Самое главное — Луиза утверждала, что не использовала ИИ ни для создания рецептов, ни для написания книги. С ее слов, первые публикации датируются 2022 годом, еще до широкого распространения генеративного ИИ и появления ChatGPT.
По ее словам, она пользовалась услугами корректора, который утверждал, что является носителем английского языка, но, по ее словам, солгал об этом.
«Мне также было жаль, что Amazon после [вашего] поста решил убрать мою книгу из продажи, ведь я в любом случае посвятила ей силы, время и деньги», — писала г-жа Флоренс.
Стоит ли ей верить? Трудно сказать. Отдельные сомнения вызывает тот факт, что 55-летняя итальянка зачем-то назвала себя 60-летней. В чем логика? Дополнительные пять лет как-то добавляют ей кулинарных навыков?
Не могу сказать, что Луиза полностью убедила меня в том, что не использовала ИИ при написании книги. Но ее сообщение все равно заставило меня сомневаться в моей версии ситуации.
Я показал письмо Луизы трем людям, говорящим на итальянском. Двое были уверены, что письмо написал носитель языка. Третий человек не мог определиться, но посчитал, что текст написан «слишком хорошо».
Книга действительно была снята Amazon с продажи. Я призадумался: может быть, своим постом в X я подорвал литературную карьеру невинной итальянки?
Что происходит с Amazon?
Навряд ли это так. Судя по всему, книги г-жи Флоренс являются частью относительно распространенной проблемы — ненастоящих авторов на Amazon.
Почти любой человек может продавать «самиздатовские» книги на Amazon, и это прекрасно. Если я решу купить, например, мемуары неизвестного итальянца, изданные им же самим, то, по сути, понятно, что это — любительская работа. Я даже готов смириться с соответствующим ее качеством.
Но с кулинарными и другими книгами — а их много — труднее понять, насколько профессиональна эта работа. Газета The New York Times недавно обнаружила на Amazon путеводители, составленные, вероятно, при помощи ИИ. Они маскировались под работы авторов бестселлеров. Однако, информация там сильно напоминала статьи Википедии, и книги почти не рассказывали о туристических маршрутах, как сказала газете одна из покупательниц путеводителя.
Иногда создатели сгенерированных ИИ книг делают вид, что книги написаны реально существующими писателями, что вызывает у самих писателей возмущение.
Какие правила регулируют продажу ИИ-книг на онлайн рынке? Я обратился в Amazon.
«У нас есть правила для контента, определяющие, какие книги могут быть выставлены на продажу, и у нас есть надежный набор методов, которые помогают нам активно выявлять контент, нарушающий наши правила, независимо от того, создан он искусственным интеллектом или нет», — ответила мне представительница компании Линдси Хэмилтон (Lindsay Hamilton).
По ее словам, Amazon удаляет книги, нарушающие правила или создающие «негативный опыт» для клиентов. Компания также может удалить учетные записи нарушителей и даже подать на них в суд.
При этом ни псевдонимы, ни использование ИИ не запрещены.
Хамилтон уверяет, что Amazon уточняет и меняет свои правила с учетом изменений в сфере «издательства книг на базе ИИ».
Правда, намерение компании реагировать на новые вызовы ИИ не помогает американской писательнице Линде Ларсен. Она — автор 53 книг. За одним исключением, все они — кулинарные.
По ее мнению, не каждый может взять и написать книгу рецептов. Нужны знания, образование и опыт. Сама она получила две степени бакалавра, одну по биологии, вторую — по питанию. Ларсен также работает редактором новостного сайта «Food Poisoning Bulletin» («Бюллетень о пищевых отравлениях»).
Она опасается, что кулинарные книги, сгенерированные ИИ, могут оказаться опасными для читателей.
«Меня беспокоят такие вещи, как безопасность еды», – говорит Ларсен.
Она отмечает, что в числе ее работ есть книги, посвященные безглютеновой выпечке, рецептам с низким содержанием холестерина или натрия. Если бы неспециалист написал кулинарные книги на эти же темы при помощи ИИ, а затем издал их под псевдонимом, результат мог бы ввести читателей в заблуждение и даже навредить их здоровью.
«Я думаю, что тенденция писать книги подобным образом очень тревожная, потому что в ней повар отделяется от еды, — говорит Ларсен. — Нужно понимать еду, чтобы создать рецепт».
Навредила ли книга г-жи Флоренс нашему с женой здоровью? К счастью, нет.
Как-то раз, уже когда ажиотаж вокруг моих твитов стих, мы с женой решили приготовить ужин по рецепту из книги Флоренс: «рагу из курицы и овощей». Выбрали ингредиенты, нарезали их, положили их в мультиварку, и по инструкции из книги оставили вариться восемь часов.
Получилось вкусно, никто не отравился. Но доверять роботам все будущие кулинарные блюда я пока не готов.
Форум