В воскресенье пользователи криптобиржи Coinbase получили неприятный сюрприз: AI-сгенерированная новость сообщила о победе Норвегии над Бразилией в матче плей-офф чемпионата мира со счётом 3:2. AI заявил, что норвежский игрок Эрлинг Холанн забил два года, обеспечив победу.
Проблема в том, что матч ещё даже не начался. Игра была отложена из-за непогоды на стадионе MetLife в Нью-Джерси, и официальная страница прогнозов Coinbase показывала статус задержки.
Через несколько часов, когда матч действительно состоялся, результат оказался иным. Норвегия выиграла, и Холанн забил два года — но итоговый счёт был 2:1. Для некоторых игроков, сделавших ставки, разница оказалась критической, особенно на фоне роста уровня игровой зависимости среди молодёжи из-за распространения онлайн-платформ для ставок.
Coinbase — крупнейшая публичная криптобиржа США, недавно расширившая деятельность на торговлю акциями и деривативами. Компания также запустила рынки прогнозов в партнёрстве с Kalshi.
Скриншоты ложной новости Coinbase заполонили соцсети. Критики назвали распространение ложных результатов «опасным и безответственным». В ответ на критику CEO Coinbase Брайан Армстронг пообещал разобраться с командой.
Глава потребительских продуктов Coinbase Макс Бранзбург сообщил, что компания исправила некорректную новость и «внесла изменения, чтобы избежать подобных неточностей в будущем». В своём посте он отметил: «Эй, оказалось, что Норвегия действительно выиграла, и Холанн забил два года — так что, возможно, AI знал что-то, чего не знали мы».
Но AI ничего не знал. Крупные языковые модели — технология, которую чаще всего называют искусственным интеллектом — не могут на самом деле знать или предсказывать исход событий. У них нет способностей к предвидению.
LLM обучаются на больших объёмах данных и пытаются генерировать релевантную информацию на основе запросов. Эта технология часто приводит к «галлюцинациям» — вымышленным фактам, не имеющим основы в реальности. Столкнувшись с вопросом без реального ответа (результат игры, которая ещё не состоялась), LLM часто выдумывает вероятный сценарий.
В данном случае сценарий «3:2 в пользу Норвегии с двумя голами Холанна» выглядел правдоподобно: это разумный футбольный счёт, а Холанн — лучший бомбардир Норвегии и один из сильнейших игроков турнира.
Пока неясно, заставит ли этот инцидент Coinbase пересмотреть стратегию интеграции AI. В июне компания запустила функцию Coinbase for Agents, позволяющую AI-агентам выполнять финансовые транзакции в заданных лимитах. Когда AI ошибается в прогнозе матча — это неудобно; когда AI начнёт ошибаться в финансовых операциях — последствия будут куда серьёзнее.
По материалам CNET