Словарь терминов ИИ: от AGI и «галлюцинаций» до «непрозрачной рекурсии»

ИИ переписывает мир и одновременно изобретает целый новый язык, чтобы описывать, как он это делает. Посидите на любом продуктовом совещании, питче или панельной дискуссии — и вы услышите, как люди бросаются словами LLM, RAG, RLHF, а с прошлой недели — и такими терминами, как «непрозрачная рекурсия» (opaque recurrence): техникой рассуждения в новой модели Astra от OpenAI, которая встревожила исследователей безопасности ИИ. Словарь растёт так быстро, что даже очень умные люди в технологическом мире чувствуют себя немного неуверенно.

Этот глоссарий — наша попытка исправить ситуацию: простые определения терминов ИИ, с которыми вы, скорее всего, столкнётесь, — строите ли вы на их основе, инвестируете или просто пытаетесь не отставать, читая TechCrunch и слушая профильные подкасты. Мы регулярно обновляем его по мере развития отрасли, так что считайте его живым документом — как и сами ИИ-системы.

AGI

Общий искусственный интеллект (AGI) — расплывчатый термин. Как правило, он означает ИИ, который превосходит среднего человека во многих, если не в большинстве задач. Генеральный директор OpenAI Сэм Альтман однажды описал AGI как «эквивалент среднего человека, которого можно нанять коллегой». Устав OpenAI определяет AGI как «высокоавтономные системы, превосходящие людей в большинстве экономически ценной работы». В Google DeepMind понимание отличается: лаборатория считает AGI «ИИ, как минимум не уступающим людям в большинстве когнитивных задач». Запутались? Не переживайте — эксперты на переднем крае исследований ИИ тоже.

ИИ-агент (AI agent)

ИИ-агент — это инструмент, который с помощью технологий ИИ выполняет серию задач от вашего имени — больше, чем это сделал бы простой чат-бот: например, оформляет расходы, бронирует билеты или столик в ресторане, пишет и сопровождает код. Впрочем, как мы объясняли ранее, в этой новой области много подвижных элементов, поэтому «ИИ-агент» может значить разное для разных людей. Инфраструктура для реализации задуманных возможностей всё ещё строится. Но базовое понятие подразумевает автономную систему, которая может задействовать несколько ИИ-систем для выполнения многошаговых задач.

API-эндпоинты

Думайте об API-эндпоинтах как о «кнопках» на обратной стороне программного обеспечения, которые другие программы могут нажимать, чтобы заставить его что-то делать. Разработчики используют эти интерфейсы для создания интеграций — например, чтобы одно приложение могло получать данные из другого или чтобы ИИ-агент напрямую управлял сторонними сервисами без ручного управления каждым интерфейсом человеком. У большинства устройств умного дома и подключённых платформ есть такие скрытые кнопки, даже если обычные пользователи их никогда не видят. По мере роста возможностей ИИ-агентов они всё чаще сами находят и используют эти эндпоинты, открывая мощные — и иногда неожиданные — возможности автоматизации.

Цепочка рассуждений (chain of thought)

На простой вопрос человеческий мозг может ответить, не особо задумываясь, — например: «Какое животное выше, жираф или кошка?» Но во многих случаях для правильного ответа нужны бумага и ручка, потому что есть промежуточные шаги. Скажем, у фермера есть куры и коровы, всего 40 голов и 120 ног — возможно, придётся записать простое уравнение, чтобы получить ответ (20 кур и 20 коров).

В контексте ИИ цепочка рассуждений для больших языковых моделей означает разбиение проблемы на меньшие промежуточные шаги для повышения качества конечного результата. Обычно ответ получается дольше, но с большей вероятностью будет правильным, особенно в задачах на логику или код. Модели рассуждений создаются на основе традиционных больших языковых моделей и оптимизируются под цепочки рассуждений благодаря обучению с подкреплением.

(См. также: Большая языковая модель)

Кодинг-агенты

Это более конкретное понятие, чем «ИИ-агент», означающее программу, которая может самостоятельно, шаг за шагом, предпринимать действия для достижения цели. Кодинг-агент — специализированная версия для разработки ПО. Вместо того чтобы просто предлагать код для проверки и вставки человеком, кодинг-агент может самостоятельно писать, тестировать и отлаживать код, беря на себя итеративную работу проб и ошибок, которая обычно съедает день разработчика. Такие агенты могут работать по всей кодовой базе: находить баги, запускать тесты и вносить исправления при минимальном контроле человека. Представьте, что вы наняли очень быстрого стажёра, который никогда не спит и не отвлекается, — хотя, как и любого стажёра, его работу всё равно должен проверять человек.

Вычислительные мощности (compute)

Хотя термин многозначен, compute обычно относится к жизненно важной вычислительной мощности, которая позволяет работать моделям ИИ. Такие вычисления питают всю ИИ-индустрию, давая ей возможность обучать и развёртывать мощные модели. Часто термин используется как сокращение для аппаратного обеспечения, обеспечивающего эту мощность, — GPU, CPU, TPU и другой инфраструктуры, составляющей фундамент современной ИИ-индустрии.

Глубокое обучение (deep learning)

Подмножество самообучающегося машинного обучения, в котором алгоритмы ИИ строятся на многослойной структуре искусственных нейронных сетей (ИНС). Это позволяет им находить более сложные корреляции, чем простые системы машинного обучения вроде линейных моделей или деревьев решений. Структура алгоритмов глубокого обучения вдохновлена взаимосвязанными путями нейронов в человеческом мозге.

Модели глубокого обучения способны сами выявлять важные характеристики в данных, а не требовать, чтобы инженеры определяли эти признаки вручную. Структура также поддерживает алгоритмы, которые учатся на ошибках и через повторение и корректировку улучшают собственные результаты. Однако системам глубокого обучения нужно много данных (миллионы точек и больше), и обучаются они, как правило, дольше более простых алгоритмов машинного обучения — поэтому затраты на разработку обычно выше.

(См. также: Нейронная сеть)

Диффузия (diffusion)

Диффузия — технология в основе многих моделей ИИ, генерирующих изображения, музыку и текст. Вдохновлённые физикой, диффузионные системы медленно «разрушают» структуру данных — например, фотографий, песен и т.п., — добавляя шум до тех пор, пока от данных ничего не останется. В физике диффузия спонтанна и необратима: растворившийся в кофе сахар нельзя вернуть в форму кубика. Но диффузионные системы в ИИ стремятся выучить своего рода «обратную диффузию», чтобы восстановить разрушенные данные и научиться извлекать их из шума.

Дистилляция (distillation)

Дистилляция — техника извлечения знаний из большой модели ИИ по схеме «учитель-ученик». Разработчики отправляют запросы модели-учителю и записывают её ответы. Ответы иногда сравнивают с датасетом, чтобы оценить их точность. Затем эти ответы используют для обучения модели-ученика, которая учится приближаться к поведению учителя.

Дистилляция позволяет создать меньшую, более эффективную модель на основе большей с минимальными потерями. Вероятно, именно так OpenAI разработала GPT-4 Turbo — более быструю версию GPT-4. Хотя все ИИ-компании используют дистилляцию внутри себя, некоторые, возможно, применяли её и для того, чтобы догнать передовые модели. Дистилляция у конкурента обычно нарушает условия использования ИИ-API и чат-ассистентов.

Тонкая настройка (fine-tuning)

Это дообучение модели ИИ для оптимизации производительности под более конкретную задачу или область, чем было в фокусе её исходного обучения, — обычно путём подачи новых специализированных (то есть ориентированных на задачу) данных.

Многие ИИ-стартапы берут большие языковые модели за отправную точку для создания коммерческого продукта, но стремятся повысить полезность для целевого сектора или задачи, дополняя ранние циклы обучения тонкой настройкой на собственных доменных знаниях и экспертизе.

(См. также: Большая языковая модель)

GAN (генеративно-состязательная сеть)

GAN — тип фреймворка машинного обучения, лежащий в основе некоторых важных разработок генеративного ИИ, когда речь идёт о создании реалистичных данных, включая (но не только) инструменты дипфейков. GAN используют пару нейронных сетей: одна на основе своих обучающих данных генерирует результат, который передаётся другой модели для оценки.

По сути, две модели запрограммированы так, чтобы превзойти друг друга. Генератор пытается «протащить» свой результат мимо дискриминатора, а дискриминатор старается выявить искусственно сгенерированные данные. Это состязание оптимизирует выходы ИИ, делая их реалистичнее без дополнительного вмешательства человека. Правда, GAN лучше всего работают в узких приложениях (например, генерация реалистичных фото или видео), а не как универсальный ИИ.

Галлюцинации (hallucination)

Галлюцинация — предпочитаемый в ИИ-индустрии термин для случаев, когда модель ИИ буквально выдумывает информацию — генерирует неверные данные. Очевидно, это огромная проблема для качества ИИ.

Галлюцинации делают результаты генеративного ИИ вводящими в заблуждение и могут привести к реальным рискам — с потенциально опасными последствиями (представьте медицинский запрос, который возвращает вредный совет).

Считается, что проблема выдумывания информации возникает из-за пробелов в обучающих данных. Галлюцинации подталкивают отрасль к созданию всё более специализированных и/или вертикальных моделей ИИ — то есть доменных ИИ, требующих более узкой экспертизы, — как способу снизить вероятность пробелов в знаниях и уменьшить риски дезинформации.

Инференс (inference)

Инференс — это процесс запуска модели ИИ: модель отпускают делать предсказания или выводы на основе ранее виденных данных. Важно понимать: инференс невозможен без обучения; модель должна сначала выучить закономерности в наборе данных, чтобы затем эффективно экстраполировать на их основе.

Инференс могут выполнять многие типы аппаратного обеспечения — от процессоров смартфонов до мощных GPU и специализированных ИИ-ускорителей. Но не все они одинаково хорошо запускают модели. Очень большие модели делали бы предсказания вечность на ноутбуке по сравнению с облачным сервером с топовыми ИИ-чипами.

(См. также: Обучение)

Большая языковая модель (LLM)

Большие языковые модели (LLM) — это ИИ-модели, которые используют популярные ассистенты вроде ChatGPT, Claude, Google Gemini, Meta AI Llama, Microsoft Copilot или Mistral Le Chat. Когда вы общаетесь с ИИ-ассистентом, вы взаимодействуете с большой языковой моделью, которая обрабатывает ваш запрос напрямую или с помощью доступных инструментов, таких как веб-поиск или интерпретаторы кода.

LLM — это глубокие нейронные сети из миллиардов числовых параметров (или весов, см. ниже), которые изучают связи между словами и фразами и создают представление языка — своего рода многомерную карту слов.

Эти модели создаются путём кодирования закономерностей, найденных в миллиардах книг, статей и транскриптов. Когда вы отправляете запрос, LLM генерирует наиболее вероятный паттерн, подходящий под запрос.

(См. также: Нейронная сеть)

Кэш памяти (memory cache)

Кэш памяти — важный процесс, ускоряющий инференс (процесс, в котором ИИ генерирует ответ на запрос пользователя). По сути, кэширование — это техника оптимизации для повышения эффективности инференса. ИИ, очевидно, строится на высокоинтенсивных математических вычислениях, и каждое вычисление потребляет больше энергии. Кэширование призвано сократить число вычислений, которые модели приходится выполнять, сохраняя определённые расчёты для будущих запросов и операций пользователя. Существуют разные виды кэширования памяти; одно из самых известных — KV-кэширование (key-value). KV-кэширование работает в моделях на основе трансформеров и повышает эффективность, ускоряя результаты за счёт сокращения времени (и алгоритмической работы), необходимого для генерации ответов.

(См. также: Инференс)

Протокол контекста модели (MCP)

Model Context Protocol (MCP) — открытый стандарт, позволяющий моделям ИИ подключаться к внешним инструментам и данным — вашим файлам, базам данных или приложениям вроде Slack и Google Drive, — без необходимости для разработчика создавать отдельный коннектор под каждую пару. Думайте о нём как о порте USB-C для ИИ. Anthropic представила MCP в 2024 году, а затем передала его Linux Foundation; с тех пор его приняли OpenAI, Google и Microsoft, что делает его одним из самых быстро распространяющихся стандартов в новейшей истории ИИ.

Смесь экспертов (MoE)

Mixture of Experts — архитектура модели, которая разделяет нейронную сеть на множество меньших специализированных подсетей, или «экспертов», и активирует лишь несколько из них для каждой конкретной задачи. Вместо того чтобы прогонять каждый запрос через всю модель — как если бы на каждый вопрос созывать весь офис, — MoE-модель имеет встроенный «маршрутизатор», который выбирает для задачи только нужных специалистов. Это позволяет создавать огромные модели, которые остаются сравнительно быстрыми и дешёвыми в работе, ведь в каждый момент работает лишь часть сети. Хорошо известный пример — модель Mixtral от Mistral AI; также широко считается, что новые GPT-модели OpenAI используют нечто подобное, хотя компания официально этого никогда не подтверждала.

(См. также: Нейронная сеть, глубокое обучение)

Нейронная сеть (neural network)

Нейронная сеть — это многослойная алгоритмическая структура, лежащая в основе глубокого обучения и, шире, всего бума генеративных ИИ-инструментов после появления больших языковых моделей.

Хотя идея черпать вдохновение в густо взаимосвязанных путях человеческого мозга как дизайне алгоритмов обработки данных восходит ещё к 1940-м годам, именно гораздо более поздний взлёт графических процессоров (GPU) — через игровую индустрию — по-настоящему раскрыл мощь этой теории. Эти чипы оказались идеальными для обучения алгоритмов с гораздо большим числом слоёв, чем было возможно в прежние эпохи, что позволило системам ИИ на основе нейросетей добиться гораздо лучшей производительности во многих областях — от распознавания речи и автономной навигации до открытия лекарств.

(См. также: Большая языковая модель)

Нейрализ (neuralese)

Гипотетический худший сценарий, при котором модель рассуждает целиком в своих внутренних числовых представлениях, а не на читаемом человеческом языке, что делает её мышление абсолютным чёрным ящиком. Ни одна выпущенная модель сегодня так не работает: OpenAI заявляет, что её модель Astra (выпущенная в сентябре 2026 года и известная ранним использованием техники «непрозрачной рекурсии») сохраняет цепочку рассуждений читаемой, и отвергает сравнения с нейрализом. Но исследователи безопасности указывают на использование Astra непрозрачной рекурсии (определение ниже) как на реальный первый шаг в этом направлении — именно поэтому термин резко набрал популярность после публикаций о запуске Astra.

Непрозрачная рекурсия (opaque recurrence)

Непрозрачная рекурсия — ситуация, когда модель ИИ многократно прогоняет один и тот же запрос через свои внутренние слои вместо пошагового рассуждения на обычном языке. Это эффективнее: меньшие модели могут выступать выше своего веса, используя меньше вычислений, — но оставляет гораздо меньше читаемых следов, чем обычная цепочка рассуждений (тот комментарий, который вы видите после вопроса чат-боту). Это беспокоит исследователей безопасности, поскольку такие журналы — ключевой инструмент выявления нежелательного поведения, а данная техника может сделать такой контроль гораздо труднее.

(См. также: Цепочка рассуждений)

Открытый исходный код (open source)

Открытый исходный код относится к программному обеспечению — и всё чаще к моделям ИИ, — чей базовый код публично доступен для использования, изучения или изменения любым желающим. В мире ИИ яркий пример — семейство моделей Llama от Meta; знаменитая историческая параллель в операционных системах — Linux. Открытый подход позволяет исследователям, разработчикам и компаниям по всему миру строить на основе работ друг друга, ускоряя прогресс и обеспечивая независимые аудиты безопасности, которые закрытые системы обеспечить не могут. Закрытый исходный код означает, что код приватный: вы можете пользоваться продуктом, но не видеть, как он работает, — как в случае с GPT-моделями OpenAI. Это различие стало одним из определяющих споров ИИ-индустрии.

Параллелизация (parallelization)

Параллелизация означает выполнение множества действий одновременно, а не друг за другом — как если бы 10 сотрудников одновременно работали над разными частями проекта вместо того, чтобы один сотрудник делал всё последовательно. В ИИ параллелизация фундаментальна и для обучения, и для инференса: современные GPU специально спроектированы для выполнения тысяч вычислений параллельно, что во многом объясняет, почему они стали аппаратным хребтом индустрии. По мере усложнения ИИ-систем и роста моделей способность параллелить работу по многим чипам и машинам стала одним из важнейших факторов, определяющих, насколько быстро и экономично модели можно строить и развёртывать. Исследования лучших стратегий параллелизации теперь — самостоятельная область науки.

RAMageddon

RAMageddon — забавный новый термин для не очень забавного тренда, охватившего технологическую индустрию: всё нарастающего дефицита микросхем оперативной памяти (RAM), которая питает почти все техпродукты в нашей повседневной жизни. По мере расцвета ИИ-индустрии крупнейшие технологические компании и ИИ-лаборатории — все в погоне за самым мощным и эффективным ИИ — скупают так много оперативной памяти для своих дата-центров, что остальным её почти не остаётся. А из-за этого узкого места в поставках то, что осталось, дорожает и дорожает.

Это затрагивает и игровую индустрию (крупные компании вынуждены поднимать цены на консоли, потому что чипы памяти для устройств найти сложнее), и потребительскую электронику (дефицит памяти может вызвать крупнейший спад поставок смартфонов более чем за десятилетие), и обычные корпоративные вычисления (компании не могут получить достаточно RAM для собственных дата-центров). Рост цен, как ожидается, прекратится только после того, как закончится этот злополучный дефицит, но, к сожалению, признаков того, что это случится скоро, немного.

Рекуррентная глубина (recurrent depth)

Это более «техническое» название того же метода, что и непрозрачная рекурсия (многократный прогон запроса через слои модели вместо последовательного рассуждения на языке). Медиа используют эти два термина почти взаимозаменяемо, поэтому мы включили его сюда, хотя «рекуррентная глубина» — инженерный термин, а «непрозрачная рекурсия» — формулировка, подчёркивающая проблему безопасности.

(См.: Непрозрачная рекурсия, цепочка рассуждений)

Рекурсивное самоулучшение (RSI)

Как и AGI, рекурсивное самоулучшение — порог того, насколько умным может стать ИИ и насколько мало он может зависеть от людей. В сценарии RSI модели ИИ начинают улучшать себя без вмешательства человека, что ведёт к огромному ускорению возможностей и автономии. В некоторых трактовках это был бы катаклизмический момент вроде сингулярности — когда модели ИИ становятся неуязвимы для внешнего вмешательства. Но RSI описывает и базовую способность — может ли модель ИИ спроектировать собственного преемника? — что делает её гораздо более достижимой для инженеров.

Ряд недавних ИИ-стартапов поставили целью построить рекурсивно самоулучшающиеся модели, но большинство из них отвергают апокалиптические последствия, представляя RSI просто как следующий рубеж исследований.

Обучение с подкреплением (reinforcement learning)

Обучение с подкреплением — способ обучения ИИ, при котором система учится, пробуя действия и получая награды за правильные ответы, — как дрессировка любимого питомца с угощением, только «питомец» здесь нейронная сеть, а «угощение» — математический сигнал успеха. В отличие от обучения с учителем, где модель тренируется на фиксированном датасете размеченных примеров, обучение с подкреплением позволяет модели исследовать среду, совершать действия и постоянно корректировать поведение на основе получаемой обратной связи. Этот подход доказал свою силу при обучении ИИ играм, управлении роботами, а в последнее время — при оттачивании способности к рассуждению у больших языковых моделей. Такие техники, как обучение с подкреплением на основе обратной связи от людей (RLHF), теперь центральны для того, как ведущие ИИ-лаборатории донастраивают модели, чтобы сделать их полезнее, точнее и безопаснее.

Токен (token)

В человеко-машинном общении есть очевидные сложности: люди общаются на человеческом языке, а программы ИИ выполняют задачи через сложные алгоритмические процессы на основе данных. Токены соединяют эти миры: это базовые строительные блоки общения человека и ИИ, дискретные сегменты данных, обработанные или созданные LLM. Они появляются в процессе токенизации, который разбивает сырой текст на небольшие единицы, понятные языковой модели, — примерно как компилятор переводит человеческий язык в бинарный код. В корпоративной среде токены определяют и стоимость: большинство ИИ-компаний берут плату за использование LLM из расчёта за токен, то есть чем больше использует бизнес, тем больше платит.

Пропускная способность токенов (token throughput)

Итак, токены — это небольшие фрагменты текста (часто части слов, а не целые слова), на которые языковые модели разбивают язык перед обработкой; для понимания ИИ-нагрузок они примерно аналогичны «словам». Throughput — это объём обработки за период времени, так что пропускная способность токенов — по сути мера того, какой объём ИИ-работы система может обработать одновременно. Высокая пропускная способность токенов — ключевая цель команд ИИ-инфраструктуры, ведь она определяет, скольким пользователям модель может служить одновременно и как быстро каждый получит ответ. Исследователь ИИ Андрей Карпати рассказывал, что чувствует тревогу, когда его ИИ-подписки простаивают, — повторяя ощущение из времен аспирантуры, когда дорогое компьютерное железо не использовалось полностью; это чувство объясняет, почему максимизация пропускной способности токенов стала почти навязчивой идеей в отрасли.

Обучение (training)

Разработка ИИ на основе машинного обучения включает процесс, известный как обучение. Проще говоря, это подача данных, чтобы модель могла учиться на закономерностях и генерировать полезные результаты. По сути, это процесс, в котором система реагирует на характеристики данных и адаптирует свои выходы к желаемой цели — будь то распознавание изображений котов или сочинение хайку по запросу.

Обучение может быть дорогим, потому что требует огромного количества входных данных, и требуемые объёмы постоянно растут — поэтому гибридные подходы, например тонкая настройка ИИ на основе правил на целевых данных, помогают управлять затратами без старта с нуля.

(См. также: Инференс)

Перенос обучения (transfer learning)

Техника, при которой ранее обученная модель ИИ используется как отправная точка для разработки новой модели под другую, но обычно связанную задачу, — позволяя повторно применять знания, полученные в предыдущих циклах обучения.

Перенос обучения даёт экономию эффективности, сокращая путь разработки модели. Он также полезен, когда данных для задачи, под которую создаётся модель, сравнительно мало. Но важно понимать ограничения подхода. Модели, которые полагаются на перенос обучения для получения обобщённых способностей, скорее всего, потребуют обучения на дополнительных данных, чтобы хорошо работать в своей целевой области.

(См. также: Тонкая настройка)

Потери валидации (validation loss)

Потери валидации — число, показывающее, насколько хорошо модель ИИ обучается, — и чем ниже, тем лучше. Исследователи внимательно следят за ним как за своего рода табелем успеваемости в реальном времени: по нему решают, когда остановить обучение, когда скорректировать гиперпараметры и стоит ли расследовать потенциальную проблему. Одна из ключевых проблем, которую он помогает выявить, — переобучение (overfitting): состояние, когда модель заучивает свои обучающие данные, а не по-настоящему учит закономерности, которые можно обобщить на новые ситуации. Представьте разницу между студентом, который действительно понимает материал, и тем, кто просто зазубрил прошлогодний экзамен: потери валидации помогают понять, кем становится ваша модель.

Веса (weights)

Веса — сердце обучения ИИ: они определяют, какая важность (или вес) придаётся разным признакам (или входным переменным) в данных обучения, формируя выход модели.

Иначе говоря, веса — это числовые параметры, определяющие, что наиболее значимо в датасете для данной обучающей задачи. Свою функцию они выполняют умножением входов. Обучение модели обычно начинается со случайно назначенных весов, но по ходу процесса веса корректируются, поскольку модель стремится получить выход, точнее соответствующий цели.

Например, модель ИИ для прогнозирования цен на жильё, обученная на исторических данных о недвижимости конкретной локации, может включать веса для таких признаков, как число спален и ванных комнат, отдельный это дом или полуотделенный, есть ли парковка, гараж и т.д. В конечном счёте веса, которые модель присваивает каждому из этих входов, отражают, насколько они влияют на стоимость объекта, исходя из данного датасета.