Сооснователь Moderna Нубар Афеян призывает к срочному регулированию ИИ-агентов
Сооснователь Moderna Нубар Афеян выступил с призывом ускорить регулирование ИИ-агентов, подняв вопросы об ответственности по мере того, как автономное программное обеспечение входит в бизнес-процессы.
Афеян, известный прежде всего как сооснователь Moderna — компании, одной из первых применившей машинное обучение в разработке вакцин, — обратил внимание на новую волну автономных систем. В отличие от привычных ассистентов, ИИ-агенты способны самостоятельно принимать решения и выполнять цепочки действий в корпоративных рабочих процессах без постоянного контроля человека.
Ключевой вопрос, по его словам, — ответственность. Когда автономный агент совершает ошибку, влияющую на клиента, партнёра или целую операцию, неясно, кто отвечает: разработчик модели, компания-оператор или система. Существующие регуляторные рамки создавались под инструменты, у которых нет степени автономии.
Афеян настаивает, что регулирование не должно следовать за реальностью с большим отставанием, как это часто происходит в технологиях: чем раньше появятся ясные правила для тестирования, прозрачности и подотчётности ИИ-агентов, тем меньше будет рисков злоупотреблений и системных сбоев по мере масштабирования таких систем в бизнесе.
