TikTok обвиняют в создании несанкционированных расистских рекламных материалов с ИИ для издателя Tunic и Night in the Woods
Finji, издатель таких инди-хитов, как Night in the Woods и Tunic, сообщил, что TikTok использует генеративный искусственный интеллект для изменения рекламных материалов компании на платформе без разрешения. По словам представителей Finji, эти несанкционированные изменения включают рекламу, которая была отредактирована так, чтобы демонстрировать расистский и сексуализированный стереотип персонажа из игры Finji Usual June.
Проблема впервые стала известна, когда генеральный директор Finji Ребекка Салтсман опубликовала об этом пост в Bluesky, поделившись скриншотом от другого бренда, столкнувшегося с похожими проблемами. Она призвала подписчиков присылать скриншоты, если они заметят рекламу, не похожую на типичный контент Finji.
В разговоре с IGN Салтсман пояснила, что хотя официальный аккаунт Finji в TikTok действительно размещает рекламу своих игр, компания отключила все функции ИИ. Команда узнала о рекламе, созданной ИИ, только благодаря обеспокоенным комментариям пользователей под их легальными объявлениями, которые видели изменённые версии.
Салтсман собрала скриншоты проблемной рекламы от аудитории, что побудило её обратиться в службу поддержки TikTok. Исходные рекламные материалы представляли собой видеопромо для игр Finji, но версии, изменённые ИИ, появлялись в виде слайд-шоу, которые, казалось, исходили напрямую от официального аккаунта Finji.
Один особенно оскорбительный образ показывал отредактированную версию обложки Usual June. Главная героиня Джун была изображена с преувеличенными физическими чертами и неподобающей одеждой, вызывающими вредные стереотипы, что полностью отличалось от её фактического представления в игре.
Finji предоставила IGN скриншоты переписки со службой поддержки TikTok, где представитель подтвердил, что у Finji была отключена опция «Smart Creative» в TikTok. Эта функция использует генеративный ИИ для создания множества версий рекламы путём смешивания и сопоставления различных элементов. Также существует функция «Automate Creative», которая использует ИИ для оптимизации рекламных материалов, и обе, по словам Finji, были отключены.
Компания также сообщила, что не может просматривать или редактировать версии своей рекламы, созданные ИИ, и узнаёт о них только через комментарии пользователей и сообщения в своём официальном Discord. Салтсман подозревает, что может существовать ещё одна неуместная реклама с ИИ, включающая другого персонажа Usual June по имени Фрэнки, основываясь на комментариях пользователей.
В переписке со службой поддержки представитель TikTok не смог найти немедленного решения. В какой-то момент представитель предположил, что Finji могла случайно включить функцию Automate Creative, но Finji подтвердила, что она никогда не была активирована. Позже представитель заявил, что проверяет все возможные причины, но не обнаружил включённых настроек ИИ для рекламы Finji.
Представитель предложил создать заявку для дальнейшего расследования, но проигнорировал неоднократные просьбы Finji указать сроки, когда они могут получить ответ.
С момента первоначального сообщения 3 февраля Finji предприняла несколько попыток связаться со службой поддержки TikTok. 6 февраля, после запроса об обновлении, TikTok Ads Support ответил, по-видимому, стандартным сообщением. Finji затем снова отправила оскорбительный скриншот рекламы и попросила эскалации, получив ещё один неконкретный ответ.
К 10 февраля, без дальнейшего общения или связи со старшим представителем, Finji снова обратилась. Ответ TikTok описывал преимущества каталоговой рекламы и предлагал добавить Finji в «список блокировки от отказа» без гарантии одобрения.
Finji ответила с возмущением, требуя объяснить, почему их не связали со старшим персоналом, почему TikTok не решает проблему расистского и сексуализированного контента, почему они не могут отслеживать рекламу, созданную ИИ, почему их включили в эту систему без согласия и почему TikTok не может гарантировать отказ.
TikTok ответил, что их предыдущий ответ фактически поступил от команды эскалации, которая уже рассмотрела ситуацию и предоставила свои окончательные выводы. Они заявили, что текущий представитель является высшей командой, доступной для решения такого рода проблем.
После ещё одного ответа от Finji представитель TikTok пообещал повторно эскалировать проблему внутри компании, но это было последнее полученное сообщение на момент публикации, даже после ещё одного запроса от Finji 17 февраля. TikTok отказался комментировать ситуацию для IGN.
«Должна признать, я немного шокирована полным отсутствием адекватной реакции TikTok на беспорядок, который они устроили», — сказала Салтсман IGN. — «Одно дело — иметь алгоритм, который является расистским и сексистским, и совсем другое — использовать ИИ для создания контента ваших платных деловых партнёров без их согласия, а затем также НЕ реагировать на эти ошибки внятным образом?»
Она продолжила: «Что действительно совершенно ошеломляет, так это то, что, кажется, существует глубокая пустота там, где обычно находятся здравый смысл и деловая хватка. Я ожидала должных извинений, системных изменений в том, как они используют эту технологию для платных клиентов, и тщательного изучения причин, по которым их технология настолько явно расистская и сексистская. Очевидно, я не задерживаю дыхание в ожидании чего-либо из вышеперечисленного».
