TikTok будет маркировать изображения, видео из OpenAI и других источников, созданные с помощью искусственного интеллекта

В четверг TikTok сообщил, что начнет использовать технологию, которая поможет маркировать изображения и видео, созданные искусственным интеллектом и загруженные в службу обмена видео. TikTok сообщил, что будет использовать “Учетные данные контента” — цифровой водяной знак, который обозначает, как были созданы и отредактированы изображения. Технология создания учетных данных для контента была разработана компанией Adobe, но она открыта для использования другими компаниями и уже была внедрена такими компаниями, как ChatGPT creator OpenAI. Исследователи выразили обеспокоенность тем, что контент, созданный с помощью искусственного интеллекта, может быть использован в качестве дезинформации в попытке вмешаться в выборы в США этой осенью.

TikTok уже входил в группу из 20 технологических компаний, которые ранее в этом году подписали соглашение, обязавшись бороться с этим. YouTube, принадлежащий Google от Alphabet, а также Meta Platforms, которой принадлежат Instagram и Facebook, также заявили, что планируют использовать учетные данные для контента.

Чтобы система заработала, и разработчик генеративного инструмента искусственного интеллекта, используемого для создания контента, и платформа, используемая для распространения контента, должны согласиться использовать отраслевой стандарт. Например, если пользователь использует инструмент OpenAI Dall-E для создания изображения, OpenAI прикрепляет водяной знак к полученному изображению.

Если это помеченное изображение будет загружено в TikTok, оно будет автоматически помечено как созданное с помощью искусственного интеллекта. У TikTok, принадлежащего китайской ByteDance, 170 миллионов пользователей в Соединенных Штатах, которые недавно приняли закон, требующий от ByteDance отказаться от TikTok или столкнуться с запретом.

TikTok и ByteDance подали в суд, чтобы заблокировать действие закона, утверждая, что он нарушает Первую поправку. TikTok уже маркирует контент, созданный с помощью искусственного интеллекта, с помощью инструментов внутри приложения, но в соответствии с последним шагом, этот ярлык будет применяться к контенту, созданному вне сервиса. “У нас также есть политика, запрещающая использование реалистичного ИИ без маркировки, поэтому, если на платформе появится реалистичный ИИ (сгенерированный контент), мы удалим его как нарушающий правила нашего сообщества”, — сказал в интервью Адам Прессер, глава отдела операций, доверия и безопасности в TikTok.

Автор: Стивен Неллис, редактор: Диана Крафт.