Reddit использует LLM для решения проблемы, которую во многом создали LLM
Злоумышленникам стало как никогда легко распространять спам в интернете с помощью больших языковых моделей (LLM), ставших общедоступными. Спам и боты превратились в ещё более серьёзную проблему, чем раньше.
Reddit объявил, что разработал инструменты на основе LLM для борьбы со спамом — тем самым спамом, который в значительной степени создаётся с помощью тех же LLM. Это иронично, но в эпоху ИИ платформы вынуждены бороться с ИИ-контентом при помощи ИИ.
В 2023 году Reddit ввёл плату за доступ к своему API, что вызвало масштабные протесты. Одним из последствий стало то, что модераторы, полагавшиеся на сторонние инструменты для борьбы со спамом, потеряли доступ к ним. Сообщество начало замечать резкий рост количества спама — посты с рекламой криптовалют, порнографические ссылки и рекламные боты появлялись повсеместно.
«Мы видим, что спама стало гораздо больше, — признал технический директор Reddit. — Иронично, что технология, усугубившая эту проблему, теперь помогает её решать».
Новые инструменты Reddit анализируют паттерны поведения спам-ботов, выявляют подозрительные публикации и автоматически блокируют их до того, как они попадут в ленту. Система уже обработала миллионы потенциально опасных сообщений и значительно сократила время реакции на новые виды спама.
По материалам TechCrunch
