26 февраля некоторые пользователи сообщили о странном поведении рекомендательной системы Instagram*.

Okay, seriously, what is going on with Instagram lately? For the past 24 hours, it feels like Instagram’s algorithm has gone rogue. My feed is absolutely packed with violent Reels – like, one after the other. It's like Instagram is now trying to make me question if I accidentally followed a "bloodshed and chaos" account.

Ладно, серьезно, что происходит с Instagram в последнее время? За последние 24 часа такое ощущение, что алгоритм Instagram вышел из-под контроля. Моя лента буквально забита роликами с жестокостью, один за другим. Похоже, что Instagram теперь пытается заставить меня усомниться, случайно ли я подписался на аккаунт "кровопролитие и хаос".

Некоторые пользователи утверждали, что видели подобный контент, даже несмотря на то, что в Instagram* было выключено отображение чувствительного контента. Помимо пользователей, телеканал CNBC подтверждает, что смог просмотреть несколько постов в Instagram, на которых были изображены мертвые тела, явные повреждения и насильственные нападения.

Согласно политике Meta**, компания работает над защитой пользователей от нежелательных изображений и удаляет контент, который отличается особой жестокостью. Запрещенный контент может включать "видеоролики, изображающие расчленение, видимые внутренности или обугленные тела", а также "садистские высказывания в адрес изображений, изображающих страдания людей и животных". Тем не менее, Meta** заявляет, что допускает использование чувствительного контента, если он помогает пользователям осуждать такие важные проблемы, как нарушения прав человека, вооруженные конфликты или террористические акты, и повышать осведомленность о них. Такой контент может сопровождаться ограничениями, например, предупреждающими надписями.

Интересно, что ошибка с роликами Instagram* произошла после того, как Meta** объявила о планах обновить свою политику модерации, чтобы лучше продвигать свободу самовыражения. В заявлении, опубликованном 7 января, компания заявила, что изменит порядок применения некоторых правил в отношении контента, чтобы уменьшить количество ошибок, которые привели к необоснованной цензуре пользователей. Meta** заявляла, что сместит фокус со "всех нарушений" на "незаконные и особо тяжкие нарушения, такие как терроризм, сексуальная эксплуатация детей, наркотики, мошенничество и аферистское поведение". В случае менее серьезных нарушений политики компания добавила, что будет полагаться на то, что пользователи сообщат о проблемах, прежде чем принимать меры.

На следующий день после инцидента Meta** извинилась и сообщила, что исправила ошибку.

* Запрещённая в РФ соцсеть компании Meta

** Соцсеть принадлежит компании Meta, признанной экстремистской в РФ