Pinterest наконец-то что-то делает с нашествием ИИ

Pinterest упрощает для пользователей выявление и исключение контента, сгенерированного искусственным интеллектом (ИИ), на своей платформе. Компания запускает новые функции, которые автоматически маркируют изображения, созданные или отредактированные с использованием генеративного ИИ, и позволяют пользователям видеть меньше таких изображений при поиске по схожим темам. “Мы расширяем возможности наших пользователей, чтобы они могли принимать более обоснованные решения о просматриваемом контенте, по мере того, как они сталкиваются с контентом, сгенерированным ИИ на Pinterest”, – заявил Мэтт Мадригал (Matt Madrigal), технический директор. “Контент, сгенерированный ИИ на Pinterest, должен расширять возможности пользователей в плане поиска вдохновения и воплощения идей в жизнь, и мы намерены подходить к этой новой ситуации обдуманно, чтобы принести пользу всем пользователям Pinterest.”

Новая функция маркировки контента, сгенерированного ИИ, от Pinterest разворачивается по всему миру и поможет предотв ратить обман пользователей. Маркировка будет отображаться в виде штампа “AI modified” (изменено ИИ) в нижнем левом углу при нажатии на pin для просмотра вблизи. Pinterest определяет, было ли изображение создано или отредактировано с помощью ИИ, анализируя его метаданные – предположительно, для обнаружения невидимых маркеров, таких как SynthID от Google или Content Credentials от Adobe. Pinterest также заявляет, что разработал “классификаторы, которые автоматически обнаруживают контент, сгенерированный ИИ”, даже если изображение не содержит маркеров метаданных.

Системы обнаружения, основанные на ИИ, могут работать с ошибками, но Pinterest предоставляет пользователям возможность обжаловать маркировку, если они считают, что их pin был помечен ошибочно.

Новая экспериментальная функция, которая будет запущена “вскоре”, позволит пользователям Pinterest фильтровать некоторые изображения, сгенерированные ИИ, для определенных категорий, “склонных к модификации или генерации с помощью ИИ”, таких как красота и искусство. Опция “see fewer” (показывать меньше) будет доступна в меню с тремя точками в нижнем правом углу pin. Pinterest заявляет, что это просигнализирует их системам о необходимости рекомендовать меньше такого контента и в конечном итоге расширится на большее количество категорий pin, но пока неясно, насколько сильно эта функция будет фильтровать контент, сгенерированный ИИ.