Roblox должен внести изменения после того, как не смог заблокировать взрослых, подкрадывающихся к детям
Roblox стала первой платформой, прошедшей независимый аудит в соответствии с австралийским Законом о безопасности в интернете. Несмотря на изменения прошлой осенью, призванные запретить взрослым отправлять сообщения незнакомым детям, Roblox по-прежнему не может помешать взрослым иными способами подкрадываться к детям, заявила в четверг комиссар по электронной безопасности Австралии Джули Инман Грант.
Заподозрив, что Roblox делает недостаточно для остановки эксплуатации детей, eSafety в начале года провела тестирование, выявившее тревожные пробелы в мерах безопасности. Агентство обнаружило, что взрослые незнакомцы по-прежнему могут отправлять детям запросы на подключение: профили и биографии (имена аккаунтов, количество и имена связей, изображения аватаров, интересы) видны любому на платформе без возможности ограничить видимость. Такие запросы не вызывали оповещения родителей, а злоумышленники могли искать в видимых всем списках контактов детей новые цели. Ещё тревожнее: взрослые могут искать детей и комментировать их сообщения «без согласия родителей или опекунов» на «форумах вне игровой среды».
Закон Австралии требует от платформ предотвращать нежелательные контакты взрослых с несовершеннолетними и по умолчанию закрывать конфиденциальность детских аккаунтов. Roblox «считает, что выполняет свои обязательства», однако платформа, которой пользуются 1,7 млн австралийских детей, заключила судебное соглашение о внесении изменений в ближайшие три месяца: предстоящие меры не позволят взрослым связываться с детьми без согласия родителей. По данным eSafety, защита начинается с «усиления настроек детских аккаунтов, чтобы они были конфиденциальными по умолчанию», и заканчивается упрощением жалоб на нежелательные контакты с уведомлением пользователей о результатах.
«Мы хотим, чтобы любая платформа, на которой преобладают дети, была безопасным местом для онлайн-игр, творчества и общения, включая создание собственных миров, — сказала Инман Грант. — Но эти преимущества достижимы только при эффективной защите детей от серьёзного вреда: ухаживания, сексуальной эксплуатации, сексуального вымогательства или вербовки в насильственный экстремизм».
Независимый мониторинг и оценка возраста. Инман Грант заявила, что тестирование показало: Roblox больше нельзя доверять самостоятельную проверку соответствия её инструментов защиты детей австралийским законам — платформа не может «отмечать свою домашнюю работу» и согласилась на сторонний аудит. Roblox, вероятно, надеется, что проверки продемонстрируют: она идёт дальше других компаний. В январе компания объявила, что станет первой крупной игровой платформой, требующей проверки возраста по лицу. Такие биометрические проверки спорны, непопулярны и тревожны для защитников приватности; хотя Roblox заявляет, что обычно автоматически удаляет селфи для проверки, данные могут храниться до 30 дней.
По словам представителя Roblox, это начинание «следует за конструктивным диалогом с eSafety и появилось после внедрения ведущих в отрасли функций безопасности, включая новые аккаунты Roblox Kids и Select для детей до 16 лет. Мы выполнили обязательства по электронной безопасности за последние 12 месяцев и продолжим работать над общей целью — безопасностью австралийских детей в интернете».
Оценка возраста Roblox также попадёт под проверку. Инман Грант подчеркнула: это первый случай, когда Австралия потребовала независимого аудита после вступления закона об онлайн-безопасности в силу. Соглашению предшествовало предупреждение eSafety в октябре прошлого года о «серьёзной обеспокоенности продолжающимися сообщениями об эксплуатации детей и воздействии вредных материалов». Если выяснится, что Roblox ошибочно маркирует детей как взрослых, даёт им доступ к взрослому контенту или подвергает воздействию хищников, компании грозят крупные штрафы — eSafety ранее предупреждала, что готова «использовать весь спектр правоприменительных полномочий», вплоть до штрафов до 49,5 млн долларов.
Roblox уверена в своей системе оценки возраста: созданная «полностью собственными силами», она использует ИИ для «актуальных проверок» и уже «обработала 338 млн записей проверки возраста». Компания опирается на «высокопроизводительный» уровень машинного обучения, «оценивающий, соответствует ли текущее поведение аккаунта предполагаемому возрасту». Признавая, что оценка возраста «сложна», поскольку «возрастные границы не являются поведенческими скалами», Roblox уклоняется от деталей сортировки по возрастным группам: «единый показатель точности не имеет большого значения». Впрочем, статистикой компания делится: «более 99 процентов остаются в одной возрастной группе несколько дней подряд», а при сравнении «с независимыми данными, полученными обученными рецензентами-людьми», оценка модели «согласуется с мнением людей для взрослых более чем в 80 процентах случаев». eSafety придерживается осторожного подхода, планируя постоянно проверять эффективность инструмента, чтобы не быть застигнутой врасплох, если самооценка Roblox окажется выше оценки регулятора.
Позже в этом году eSafety опубликует отчёт о прозрачности с подробностями о том, насколько успешно онлайн-игровые сервисы снижают вред для детей: все платформы должны были объяснить шаги по защите детей от вреда, включая сексуальную эксплуатацию и насилие, жестокие материалы и киберзапугивание. «В конечном счёте наша цель — побудить компании сделать сервисы безопаснее для детей и молодёжи. Там, где безопасность по замыслу не внедрена всесторонне с самого начала, мы без колебаний добьёмся ответственного устранения рисков. Обязательные улучшения безопасности для Roblox — отличный пример того, как системные полномочия приносят реальные результаты», — заявила Инман Грант.
