Instagram и его алгоритм подвергаются большому риску: контент для взрослых слишком жесток даже по отношению к несовершеннолетним
Алгоритм ролики из инстаграма, часть Метагиганта, он поднял опасения за безопасность несовершеннолетних. Расследование Wall Street Journal показывает, что, отслеживая определенные аккаунты молодых влиятельных лиц, алгоритм начал предлагать содержание неприличный e сексуальный, наряду с рекламой крупных брендов. Короче говоря, Instagram показывает контент для взрослых даже тем, кому не следует этого делать.
Спорный алгоритм Instagram, который показывает контент для взрослых (запрещен) даже несовершеннолетним
Тест, проведенный Wall Street Journal, в котором участвовали создание учетных записей, предназначенных для подписки на молодых влиятельных лиц, таких как гимнасты и группы поддержки, показало, что алгоритм Instagram начал предлагать контент для взрослых, включая сексуальные видео с участием взрослых и несовершеннолетних, а также рекламу известных американских брендов.
Расследование выявило тревожную тенденцию: аккаунты этих молодых людей подвергались тревожная смесь порнографии и материалов, сексуализирующих детей. Эксперты по алгоритмическим рекомендательным системам подчеркнули, что такой «нишевый» контент может давать более сильные сигналы, чем тот, который представляет общий интерес, заставляя алгоритм направлять неподходящий контент пользователям.
См. также: Тайна Пульчинеллы раскрыта: в Инстаграме миллионы несовершеннолетних пользователей
Проблема агрегации контента для взрослых в Instagram это было известно внутри страны и предотвращение такого распространения требует значительных изменений в алгоритмах рекомендаций. Однако документы компании показывают, что сотрудникам службы безопасности в большинстве случаев запрещено вносить изменения в платформу это может уменьшить количество ежедневных активных пользователей.
В ответ Meta заявила, что инвестирует миллиарды в решения по обеспечению безопасности, защиты и соответствия бренду, признавая при этом необходимость дальнейших улучшений. Различные компании, в том числе Совпадение группы e Заикаться, они приостановлены или сократили свою рекламу на Reels и другие мета-платформы после этих открытий. Другие, как Disney e Хомс, требуют от Meta избегать такого размещения рекламы и выражают обеспокоенность по поводу ассоциация их брендов с таким контентом.
