CEO Anthropic: негатив к ИИ — это фундаментальный кризис доверия, а не вина лидеров отрасли

CEO Anthropic Дарио Амодеи недавно возразил против мнения, что он изображает искусственный интеллект исключительно в мрачных тонах и необоснованно пессимистичен в оценках его будущего.

Комментарии Амодеи стали ответом инвестору Гавину Бейкеру, который утверждал — как в подкасте All-In, так и в X — что предупреждения Амодеи об опасностях ИИ разогнали обратную волну в США, особенно против дата-центров. Бейкер заявил, что Амодеи «проиграл аргументацию» в вопросе регулирования ИИ (Anthropic выступала за определённые нормы, включая калифорнийский закон, накладывающий требования прозрачности на крупные ИИ-компании). Поскольку Амодеи «стоит стать CEO одной из самых важных компаний мира», Бейкер считает, что он «должен стараться быть более позитивным адвокатом собственной отрасли».

Бейкер — не единственный, кто связывает скептицизм по отношению к ИИ и даже государственные репрессии с катастрофическими предупреждениями некоторых топ-менеджеров. Однако в серии постов Амодеи не согласился с тем, что его «послание было несправедливо негативным». Он заявил, что его статьи «примерно сбалансированы между рисками и преимуществами», а эссе «Машины любящей благодати» он написал потому, что «не чувствовал, что ИИ-индустрия рисует достаточно вдохновляющую картину того, как технология может радикально изменить мир к лучшему».

Кризис доверия, а не кризис коммуникации

Тем не менее, Амодеи признал, что «общественность имеет негативное отношение к ИИ» и согласился, что «это большая проблема». Разногласие возникло в вопросе причин: по его мнению, этот негатив «не вызван в первую очередь» ни его предупреждениями, ни заявлениями других лидеров ИИ.

«Я думаю, это фундаментально кризис доверия», — сказал Амодеи. «Обычные люди не доверяют компаниям, правительствам или технологической отрасли и всегда подозревают, что мы замышляем новый способ их обмануть».

Действительно, слово «доверие» часто всплывает в заголовках о CEO OpenAI Сэме Алтмане, который также сталкивается с обвинениями в том, что его публичные заявления служат скорее личным интересам, чем общественному благу. Но Амодеи настаивает: проблема глубже, чем отдельные личности. Это системное недоверие к институтам, которые разрабатывают и внедряют ИИ.

Баланс рисков и возможностей

Anthropic позиционировала себя как компания, делающая ставку на безопасность. Их подход — «Constitutional AI» — предполагает обучение моделей набору принципов, направленных на предотвращение вреда. Амодеи аргументирует: предупреждать о рисках — не значит тормозить прогресс. Наоборот, именно честность о проблемах позволяет строить устойчивые, надежные системы.

Критики же отвечают: когда глава ведущей ИИ-компании регулярно говорит о катастрофических сценариях, это пугает инвесторов, регуляторов и обычных пользователей. В результате — заторможенное строительство инфраструктуры (дата-центров, энергообъектов), что замедляет развитие всей отрасли.

Что дальше?

Спор между «безопасниками» (Амодеи, هنтон, Бенджио) и «ускорениями» (Андрессен, Карпати, многие венчурные инвесторы) не утихает. Но Амодеи ставит диагноз точно: лечить нужно не риторику лидеров, а доверие общества к технологиям и тем, кто их создаёт. Без этого любую регуляцию будут воспринимать как заговор, а любую инновацию — как угрозу.