Подпишите, что ваш любимый фитнес-инфлюенсер может быть фейком

Но реальность за экраном может быть гораздо более зловещей.

Тот человек, который дает вам советы по поводу здоровья, может быть полной цифровой фальшивкой — и миллионы из нас неосознанно попадаются в эту ловушку.

Один аккаунт, в частности, может похвастаться колоссальными 4,2 миллионами лайков, а одно видео набрало даже более 25 миллионов просмотров.

Под именем Андерсон Роу Тик Ток изображает 67-летнего мужчину, претерпевающего резкую физическую трансформацию.

Сотни тысяч людей заполнили раздел комментариев, восхваляя невероятные результаты, однако эксперты полагают, что все это полностью сгенерировано искусственным интеллектом.

«Обычному человеку становится все труднее сказать, что реально в Интернете», — сказал news.com.au эксперт по искусственному интеллекту Университета Западного Сиднея Армин Алимардани.

«В этом случае мне пришлось просмотреть видео аккаунта несколько раз, чтобы обнаружить какие-либо признаки искусственного интеллекта, что показывает, насколько убедительным стал этот контент».

В аккаунте утверждается, что привлекательная трансформация является результатом использования фитнес-программы под названием 75Me App.

Однако представитель приложения опроверг информацию о фейковой учетной записи.

«Это не наш аккаунт», — сообщил 75Me news.com.au. «Мы просто платим влиятельным лицам за продвижение нашего приложения».

News.com.au также использовал методы компьютерного зрения, включая анализ текстур и контекстную логику, для проверки аккаунта и определил, что он фейковый.

Наши собственные инструменты анализа проверяют ряд различных признаков поддельных изображений и обнаруживают водяной знак SynthID в визуальных компонентах этого видео, что указывает на участие ИИ Google в его создании или существенной модификации.

Он также определил несколько положительных маркеров создания ИИ, в том числе «заметное и внезапное изменение структуры лица и выраженности мышц» на лице Андерсона на протяжении всего видео.

Г-н Алимарди предупреждает, что истинная угроза выходит далеко за рамки одной вирусной страницы TikTok.

«Опасность заключается не только в том, что люди могут быть обмануты фейковыми аккаунтами», — пояснил г-н Алимардани.

«Гиперреалистичный ИИ может индустриализировать обман в сфере здоровья и фитнеса, продвигая недостижимые стандарты и манипулируя уязвимыми потребителями.
«Что делает это особенно тревожным, так это то, что эти отрасли уже в значительной степени зависят от амбиций и отсутствия безопасности».

В поддельных фотографиях или сильно отредактированном контенте нет ничего нового, но сам масштаб и скорость появления ИИ-контента вызывают беспокойство.

Г-н Алимардани считает, что новая эра рекламы, генерируемой искусственным интеллектом, столь тревожной, так это то, насколько дешево и легко ее производить.

«С помощью генеративного искусственного интеллекта можно создавать очень реалистичные видеоролики за часы или дни при очень низких затратах», — сказал он.

И технологии становятся все более продвинутыми.

Г-н Алимардани предупреждает, что следующее поколение рекламы с использованием искусственного интеллекта может создавать специальные видеоролики, специально адаптированные для человека, держащего телефон.

«Людям больше нельзя показывать просто идеализированных незнакомцев, им можно показать персонализированную, сгенерированную искусственным интеллектом версию того, кем они могли бы себя вообразить», — сказал он.

Рост количества аккаунтов, созданных ИИ

Учетная запись под именем «Андерсон Роу» — это лишь один пример массового распространения в сети учетных записей, созданных искусственным интеллектом.

В конце прошлого года мы стали свидетелями появления весьма противоречивой «актрисы с искусственным интеллектом» по имени Тилли Норвуд.

Впервые появившись в конце 2025 года, гиперреалистичная «фальшивая» звезда собрала огромное количество поклонников в Интернете, а ее создатели даже выпустили музыкальный клип, созданный с помощью искусственного интеллекта.

Это вызвало резкую реакцию со стороны развлекательного сообщества: профсоюз актеров SAG-AFTRA публично осудил экзистенциальную угрозу, которую ИИ представляет для актерской профессии человека.

Точно так же в 2023 году агентство из Барселоны вызвало глобальную полемику, создав «фальшивую» фитнес-модель с розовыми волосами по имени Айтана Лопес.

Созданный полностью искусственным интеллектом, этот аккаунт быстро стал коммерческим центром агентства.

«Идеальный» цифровой аватар может похвастаться сотнями тысяч подписчиков, но после негативной реакции общественности по поводу прозрачности его создатели теперь раскрывают, что этот аккаунт является «цифровой душой» в биографии.

Сможете ли вы расшифровать, что настоящее, а что фальшивое?

Итак, как среднестатистическому скроллеру понять, что реально, а что — бот?

На данный момент есть еще несколько визуальных подсказок, которые вы можете заметить, если присмотритесь достаточно внимательно.

Анализируя вирусный аккаунт Андерсона Ро, г-н Алимардани указал на чрезмерно отполированную обложку, которая в сочетании с другими «причудливыми» сбоями может помочь среднестатистическому скроллеру заметить красные флажки.

«Аккаунт демонстрирует качественный контент, созданный искусственным интеллектом, и, добавив некоторые «несовершенные» функции, такие как освещение и ракурсы камеры, они еще больше усложнили понимание этого», — сказал эксперт.

Тем не менее, некоторые другие явные ошибки включают искажения на руках и пальцах, странный или устрашающе тихий фон, текст, который не имеет смысла, или отсутствие разговора с камерой, и если они это сделают, это, вероятно, будет иметь эхо.

«Просто помните: если это выглядит слишком идеально, возможно, это сгенерировано искусственным интеллектом, и к нему следует относиться как к мошенничеству», — сказал эксперт.

Он предупреждает, что эти подсказки не будут длиться вечно, поскольку технологии совершенствуются настолько быстро, что обычные пользователи вскоре больше не смогут сказать, что реально.

Серая зона

При использовании фейкового аккаунта для продажи реального продукта все становится невероятно сложно.

Под Закон Австралии о защите прав потребителейучастие бизнеса в вводящем в заблуждение или обманном поведении является противозаконным.

Использование искусственного интеллекта для имитации 75-дневной трансформации тела с целью продажи фитнес-приложения считается нарушением этих правил.

Но поскольку счет Андерсона Роу выглядит международным, он действует в серой юридической зоне за пределами нашей юрисдикции.

Поскольку технологии быстро опережают закон, г-н Алимардани считает, что Австралии срочно необходима более сильная законодательная база для защиты потребителей.

«К концу 2026 года общество поймет, что ничто из того, что они видят в Интернете, не заслуживает доверия, если оно не получено непосредственно из надежного источника», — предупредил он.

Он говорит, что нам нужны строгие новые законы, требующие четкого раскрытия информации о рекламе с использованием ИИ и обеспечивающие ответственность создателей, хост-платформ и технологических гигантов.

«Платформы социальных сетей должны быть более бдительны в отношении того, что можно публиковать и какие механизмы отчетности доступны для пометки контента, созданного ИИ», — сказал он.

В конечном счете, г-н Алимардани говорит, что правительство должно активизировать усилия и рассказать общественности о том, что Интернет сейчас «совершенно отличается от того, каким они его помнили в 2024 и 2025 годах».

News.com.au обратился к TikTok за комментариями.