Против угнетающих алгоритмов и вызывающего зависимость дизайна родители не всегда успевают

На недавнем мероприятии TikTok Philippines, посвященном безопасности подростков, я спросил главы отдела государственной политики Ивеза Гонсалеса вместе с группой организаций гражданского общества и создателей контента, выступающих за безопасность детей в социальных сетях, о недавних выводах Европейского Союза (ЕС), определяющих, что ключевые функции дизайна платформы вызывают привыкание и должны быть изменены. 

Гонсалес сказал, что материнская компания будет обжаловать эти выводы, и упомянул, что у них есть несколько функций, защищающих пользователей младше 18 лет, таких как 60-минутное ограничение использования приложения, родительский контроль контента, видимость подписчиков и отделение ленты и контента несовершеннолетних от населения старше 18 лет. "Мы считаем, что в индустрии у нас одни из самых надежных мер защиты", - сказал он.

Создательница исторического контента Мона Магно-Велуз предложила свой взгляд на вопрос и подчеркнула, что прежде всего родительское руководство является ключом к загадке использования социальных сетей подростками. 

"Я согласна, что у всех платформ есть свои меры, но мы также не можем исключить нашу ответственность из этого уравнения. Я искренне считаю, что родители, взрослые в комнате также несут ответственность, когда речь идет об ограничении использования социальных сетей. Поэтому я думаю, что это не только технология, но это также должно решаться в нашей культуре и общественных нормах", - сказала Магно-Велуз.

Риян Португез, психолог и защитник цифрового благополучия, отметила, что внешние факторы могут способствовать тому, что ребенок становится зависимым, поскольку социальные сети стали одним из наиболее доступных способов справиться с проблемами.

Она сказала: "Обычно самый простой способ для нас справиться - это использовать платформы социальных сетей, потому что они наиболее доступны. Вот почему возникают зависимости, потому что каждый раз, когда есть проблема, стресс, используют телефон".

При постоянной доступности социальных сетей жизненно важно, чтобы родители и семья присутствовали рядом с ребенком. "Но если общение в семье нормальное, есть с кем поговорить вне социальных сетей, вы можете это регулировать. Так что это не только проблема социальных сетей", - сказала она.

Заявление Португез фактически отражает самые последние показания от знакового судебного процесса о зависимости от социальных сетей в США от бывшего терапевта истца Кейли Виктории Берк, в прошлый понедельник, 24 февраля.

Берк выявила проблемы психического здоровья ребенка и сказала, что социальные сети были "способствующим фактором" в ее психических проблемах, но она не возлагала вину полностью на них. Кейли также описывалась как имеющая напряженные отношения со своими разведенными родителями.

Между тем, на местном слушании в Сенате по регулированию социальных сетей Анналин Капулонг, доцент кафедры психологии Университета Филиппин в Дилимане, сказала законодателям: "Sentro 'yung ambag ng magulang". (Вклад родителей является центральным.)

Но сама Капулонг признала реальность, что иногда родители полагаются на устройства и экраны, чтобы занять ребенка, пока они выполняют другую задачу. 

В идеале родитель присутствует большую часть времени. Мы знаем, что это не всегда возможно, и не все семьи имеют идеальную ситуацию, как видно в случае Кейли в США.

Что это означает? Это означает, что определенная часть несовершеннолетнего населения будет, буквально, предоставлена самим себе, во власти функций дизайна приложения. Это наиболее уязвимые члены населения, и платформы должны быть настроены на безопасность этих людей.

"Делаем ли мы платформу безопасной для наших наиболее уязвимых пользователей?" - в идеале должен быть вопрос, который они задают себе. И учитывая, что психическое здоровье, экологические и семейные факторы влияют на людей за пределами их несовершеннолетних лет, платформам необходимо решить эту проблему - не только для несовершеннолетних, даже если сейчас юридические и законодательные обсуждения сосредоточены на них.

Meta обнаружила, что родительское посредничество неэффективно

Внутреннее, ранее неопубликованное исследование от Meta, только недавно раскрытое на суде, также обнаружило, что как родительский надзор, так и ограничения по времени не так эффективны, как считалось.

Проект MYST (Meta и тенденции социально-эмоционального развития молодежи) был опросом 1 000 подростков и родителей об использовании социальных сетей, который пришел к выводу, что "нет связи между отчетами родителей или отчетами подростков о родительском надзоре и показателями внимательности или способностей подростков в опросе" и что "родительские и семейные факторы имеют мало связи с сообщаемыми подростками уровнями внимательности к использованию социальных сетей".

Еще более уязвимы молодые люди, находящиеся в стрессовой среде. Согласно результатам опроса, они демонстрируют гораздо меньший контроль над использованием социальных сетей. 

Оглядываясь на отчет ЕС о TikTok, Комиссия заявила: "текущие меры на TikTok, особенно инструменты управления временем экрана и инструменты родительского контроля, похоже, не снижают эффективно риски, связанные с вызывающим привыкание дизайном TikTok... их легко отклонить, и они создают ограниченное трение".

Это возвращается к функциям дизайна платформы социальных сетей - не только TikTok - (бесконечная прокрутка, автовоспроизведение, push-уведомления, алгоритмические рекомендации), которые все чаще описываются как "вызывающие привыкание" в США и ЕС. 

Даже на Филиппинах слова "вызывающий привыкание" и "компульсивное использование" уже присутствуют как минимум в двух проектах законов. Законопроект Сената (SB) 185 определяет платформу социальных сетей как платформу, использующую алгоритмическую доставку контента и имеющую "вызывающие привыкание функции". 

SB 601 предписывает платформам "ограничить функции, которые увеличивают, поддерживают или продлевают использование SMP (платформы социальных сетей) ребенком, такие как автоматическое воспроизведение медиа, система вознаграждений за время, проведенное на платформе, уведомления и другие функции, которые приводят к компульсивному использованию". 

'Возможность замедлить алгоритм'

Лауреат TIME "100 самых влиятельных людей в здравоохранении" Лаура Маркес-Гаррет, адвокат из сиэтлского Юридического центра жертв социальных сетей, недавно выступила в Democracy Now. Она сказала, что эти функции дизайна на самом деле являются "дефектами", и именно это нужно решать, не доходя до полного запрета. 

"И поэтому в конечном итоге исправление этого - и они (компании социальных сетей) знают это; это есть в их документах, которые становятся публичными - они могли бы удалить механизмы привыкания. Это так же просто, как - подумайте о вашем телевизоре дома. У нас есть пульт дистанционного управления. Мы можем уменьшить громкость, увеличить, переключать каналы. Они сохранили эти элементы управления на бэкенде. Они могли бы дать вам возможность замедлить алгоритм", - сказала Маркес-Гаррет. 

"Итак, они программируют для вовлечения прежде всего... И в случае уязвимых детей это смертельно опасно", - добавила она. 

Нынешний судебный процесс и тенденция запретов социальных сетей по всему миру показывают, что есть импульс против технологических компаний. 

Big Tech агрессивно лоббирует против вмешательства правительства

И это импульс, против которого платформы агрессивно лоббируют.

То, что они хотят, - это "наименее плохой вариант", - сказал Брам Вранкен из Европейской корпоративной обсерватории, группы, отслеживающей корпоративное лоббирование, в интервью New York Times. 

Что такое "наименее плохой" вариант? 

Times сообщает: "То, что эти компании предпочитают, - это законы, которые требуют, чтобы родители, а не правительства, имели окончательное слово в онлайн-привычках детей... Титаны Кремниевой долины агрессивно лоббируют альтернативу запретам". 

Вместо запрета компании продвигают "Цифровой возраст совершеннолетия" в ЕС, который снова возлагает бремя на родителей одобрить, могут ли их дети 15 или 16 лет использовать социальные сети или нет. 

Победа там снова отвлекает внимание от алгоритма и функций их платформ, которые создают условия для компульсивного использования - и от предложенного Закона о цифровой справедливости, который запретил бы бесконечную прокрутку, автовоспроизведение и рекомендации на основе вовлечения. 

"Это, вероятно, потребует сложной перестройки платформ и подорвет их маркетинговые механизмы", - написала New York Times. 

В настоящее время на Филиппинах компании поддерживают аналогичную "соответствующую возрасту структуру" - различные правила доступа для разных возрастных групп.

Но это, похоже, не сильно отличается от "Цифрового возраста совершеннолетия" в том, что ответственность лежит на родителях по обеспечению соблюдения, и это потребует использования процессов проверки возраста, которые не всегда легко обеспечить, а не решения указанных основных функций дизайна.

Так что, возможно, и здесь внимание может быть сосредоточено на самих вызывающих привыкание функциях.

Разоблачитель Facebook Фрэнсис Хауген сказала Democracy Now: "Когда у вас есть дети, чьи мозги просто купаются в дофамине от прокрутки весь день в таком юном возрасте, это меняет их способность сидеть спокойно в классе, взаимодействовать осмысленно лицом к лицу с семьей или друзьями... однако они продолжают оптимизировать для траты все больше и больше времени на этих платформах".

Платформы знают, что для них здесь поставлено на карту. То, что происходит на судебном процессе в США и в расследованиях ЕС, может иметь волновой эффект на платформы по всему миру.

Есть доказательства наличия населения, уязвимого к зависимости от социальных сетей, будь то из-за трудной семейной жизни или личных проблем с психическим здоровьем. Есть также доказательства того, что меры безопасности были не так эффективны, потому что "вызывающие привыкание" функции, за неимением лучших слов, все еще более мощны. 

И среди всего этого платформы, похоже, все еще лоббируют сохранение ответственности на плечах родителей, а не предоставление нам возможности "замедлить алгоритм". Родителям, семьям нужна дополнительная помощь.  – Rappler.com