M**a раскрыла принципы работы рекомендательных алгоритмов, которые строят ленты в F******k и I*******m

Meta* представила детальный разбор алгоритмов своих социальных сетей, чтобы объяснить процесс формирования рекомендаций контента для пользователей Instagram* и Facebook*. Президент компании по глобальным вопросам Ник Клегг (Nick Clegg) заявил, что обнародованная информация о системах ИИ, лежащих в основе алгоритмов, является частью «широкого этического принципа открытости, прозрачности и ответственности» компании. Он также рассказал, что могут сделать пользователи Facebook* и Instagram*, чтобы более эффективно контролировать, какой контент они видят на платформах.

Источник изображения: Pixabay

«Учитывая быстрое развитие мощных технологий, таких как генеративный ИИ, понятно, что люди воспринимают их с восторгом и беспокойством. Мы считаем, что лучший способ ответить на эти опасения — это открытость», — написал Клегг в блоге.

Большая часть опубликованной информации содержится в 22 «системных картах», которые охватывают Ленту (Feed), Истории (Stories), Ролики (Reels) и другие способы, с помощью которых люди находят и потребляют контент на социальных платформах Facebook* и Instagram*. Каждая из этих карт предоставляет подробную информацию о том, как системы ИИ, стоящие за этими функциями, ранжируют и рекомендуют контент.

Например, обзор функции Instagram* «Исследовать» (Explore), которая показывает пользователям фото и ролики от аккаунтов, на которые они не подписаны — объясняет трехэтапный процесс работы автоматизированного движка рекомендаций ИИ.

Сбор инвентаря: система собирает публичный контент Instagram*, такой как фотографии и ролики, соответствующие правилам компании.

Использование сигналов: затем система ИИ учитывает, как пользователи взаимодействовали с аналогичным контентом или интересами, также известными как «входные сигналы».

Ранжирование контента: наконец, ИИ ранжирует контент из предыдущего шага, выдвигая на первый план контент, который, как предполагается, будет наиболее интересен пользователю, во вкладке «Исследовать».

Наличие системных карт предполагает, что пользователи Instagram* могут влиять на этот процесс, сохраняя контент (то есть напрямую указывая системе, что следует показывать что-то подобное), или отмечая его как «не интересует», чтобы стимулировать систему фильтровать подобный контент в будущем. Пользователи также могут видеть ролики и фотографии, которые не были специально выбраны для них алгоритмом, выбрав «Не персонализировано» в фильтре «Исследовать». Более подробная информация о предсказательных моделях ИИ, входных сигналах, используемых для их управления, и о том, как часто они используются для ранжирования контента, доступна через Центр Открытости (Transparency Center).

Вместе с системными картами, упоминается несколько других функций Instagram* и Facebook*, которые могут информировать пользователей, почему они видят определённый контент, и как они могут настроить свои рекомендации. В ближайшие недели Meta* расширит функцию «Почему я это вижу?» для Facebook* Reels, Instagram* Reels и вкладки «Исследовать» в Instagram*. Это позволит пользователям нажать на отдельный ролик, чтобы узнать, как их предыдущая активность могла повлиять на показ этого ролика. Instagram* также тестирует новую функцию Reels, которая позволит пользователям добавить на рекомендуемые ролики метку «Интересует», чтобы видеть подобный контент в будущем. Возможность отмечать контент как «Не интересует» доступна с 2021 года.

Meta* также объявила, что в ближайшие недели начнёт внедрение своей Библиотеки контента и API, нового набора инструментов для исследователей, который будет содержать множество публичных данных из Instagram* и Facebook*. Данные из этой библиотеки можно искать, изучать и фильтровать, а исследователи смогут подать заявку на доступ к этим инструментам через утверждённых партнёров, начиная с Межуниверситетского консорциума по политическим и социальным исследованиям Университета Мичигана (ICPSR). Meta* утверждает, что эти инструменты предоставят «самый полный доступ к публично доступному контенту на Facebook* и Instagram* из любого исследовательского инструмента, который мы создали», помогая компании выполнять свои обязательства по обмену данными и открытости.

Обязательства по открытости компании Meta*, возможно, являются важным фактором для объяснения того, как она использует ИИ для формирования контента. Взрывное развитие технологии ИИ и её популярность привлекли внимание регуляторов по всему миру, которые выразили опасения о том, как эти системы собирают, управляют и используют личные данные пользователей. Алгоритмы Meta* не новы, но способ, которым компания использовала данные пользователей во время скандала с Cambridge Analytica, а также её реакция на усилия TikTok по открытости, мотивируют Meta* больше общаться с пользователями.

В заключение, стоит отметить, что важность прозрачности и открытости в работе с ИИ и алгоритмами социальных сетей становится все более очевидной. Компания Meta* делает шаг в этом направлении, давая пользователям и исследователям больше информации о том, как работают её системы. Это не только улучшает понимание, как формируется контент, но и способствует ответственному использованию пользовательских данных.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Источник: 3dnews.ru