ChatGPT, Claude, Gemini, DeepSeek, GigaChat и YandexGPT выглядят как разные сервисы, но в их основе лежит один класс технологии — большие языковые модели, или LLM. Модель получает текст, разбивает его на небольшие элементы и много раз предсказывает, какой элемент должен появиться следующим. Из этой простой цели обучения вырастают ответы на вопросы, перевод, программирование и работа с документами.
LLM (Large Language Model) — большая языковая модель: нейросеть, обученная на огромном количестве текста и кода предсказывать продолжение последовательности. Она не хранит готовый ответ на каждый вопрос и не является поисковой системой.
Что означает аббревиатура LLM
| Слово | Что означает |
|---|---|
| Large — большая | У модели много параметров и большой объём обучающих данных |
| Language — языковая | Она работает с последовательностями текста, кода и других токенов |
| Model — модель | Это математическая система, а не база готовых фраз и не личность |
«Большая» не означает только размер файла. Важны число параметров, объём и качество данных, вычисления при обучении и архитектура. Две модели с похожим числом параметров могут заметно отличаться по качеству.
Как работает LLM простыми словами
- Текст превращается в токены. Токеном может быть слово, часть слова, знак или фрагмент кода.
- Токены превращаются в числа. Модель располагает их в многомерном пространстве, где похожие значения оказываются ближе.
- Механизм внимания оценивает контекст. Он определяет, какие части предыдущего текста важны для следующего шага.
- Модель рассчитывает вероятности. Для следующего токена существует не один вариант, а распределение возможных продолжений.
- Выбранный токен добавляется к ответу. Цикл повторяется, пока модель не завершит текст или не достигнет лимита.
Отсюда важное следствие: LLM создаёт правдоподобное продолжение, а не извлекает гарантированно верный факт. Если в запросе мало контекста или в обучении встречались противоречия, модель способна уверенно ошибиться.
Токены, параметры и контекстное окно
Что такое токен
Модель не читает текст словами в человеческом смысле. Она работает с токенами. Одно русское слово может разделиться на несколько частей, поэтому одинаковый по количеству символов русский и английский текст иногда расходует разное число токенов.
Что такое параметры
Параметры — числовые настройки внутри нейросети, которые изменяются во время обучения. Они кодируют найденные закономерности, но не являются отдельными ячейками с фактами. Больше параметров не всегда означает лучший ответ: важны данные, настройка и способ использования модели.
Что такое контекстное окно
Контекстное окно — объём текста, который модель может учитывать в одном запросе вместе с историей диалога и собственным ответом. Большое окно позволяет загрузить длинный документ, но не гарантирует, что модель одинаково внимательно обработает каждую строку.
Как LLM обучают
Сначала модель проходит предобучение: пытается предсказывать пропущенные или следующие токены на больших массивах текста и кода. Затем её учат следовать инструкциям на подготовленных примерах, а ответы дополнительно оценивают люди или другие модели. Подробный процесс — в статье как обучают нейросети.
Обучение и обычный разговор с чат-ботом — разные процессы. Ваш вопрос обычно не переписывает параметры модели мгновенно. Сервис может сохранять историю или использовать данные для улучшения системы согласно своим настройкам и правилам, но это не значит, что модель «выучила» новую профессию после одного диалога.
LLM, ChatGPT и нейросеть — в чём разница
| Термин | Что это |
|---|---|
| Искусственный интеллект | Широкая область технологий, имитирующих интеллектуальные функции |
| Нейросеть | Один из классов математических моделей внутри машинного обучения |
| LLM | Нейросеть, специализирующаяся на языке и последовательностях |
| ChatGPT, Claude, Gemini | Пользовательские сервисы, которые соединяют модели с интерфейсом, поиском, файлами и инструментами |
| AI-агент | Система, где модель может планировать и выполнять действия через инструменты |
Подробнее об агентном цикле — в материале что такое AI-агент. Такое разделение важно: новая функция чата не обязательно означает выпуск новой LLM.
Что умеют большие языковые модели
- создавать, сокращать и редактировать тексты;
- переводить и менять стиль;
- объяснять материал на выбранном уровне сложности;
- писать и разбирать программный код;
- извлекать структуру из документов;
- классифицировать обращения и искать закономерности;
- управлять инструментами в составе AI-агента.
Почему LLM галлюцинируют
Галлюцинацией называют убедительный, но неверный ответ. Она возникает не из-за «плохого характера» модели: система оптимизирована продолжать текст, а не останавливаться каждый раз, когда ей не хватает подтверждения.
- просите отделять факты от предположений;
- требуйте ссылки на первоисточники и открывайте их;
- проверяйте числа, даты, цитаты и юридические выводы;
- давайте модели исходный документ вместо просьбы вспомнить его;
- для важных решений используйте специалиста, а не один ответ чата.
Облачные и локальные LLM
Облачные модели обычно сильнее и проще в использовании: вычисления выполняются на сервере. Локальная модель работает на вашем компьютере, может обходиться без интернета и даёт больше контроля над файлами, но ограничена памятью и производительностью устройства.
Для знакомства не нужен мощный сервер. В инструкции по локальному запуску нейросети разобраны Ollama и LM Studio, подбор размера модели и проверка работы без сети.
Частые вопросы
Да, LLM относится к технологиям искусственного интеллекта, но ИИ значительно шире и включает компьютерное зрение, рекомендательные системы, робототехнику и другие направления.
Нет. В параметрах сохраняются статистические закономерности, а не точная копия всех документов. Для актуальных данных сервис подключает поиск или внешнюю базу.
Генерация вероятностная. На результат влияют настройки, история диалога, системная инструкция, выбранные инструменты и случайность выбора следующего токена.
Да, если скачать совместимую открытую модель и программу для локального запуска. Возможности будут зависеть от памяти и производительности компьютера.
Модель очень хорошо воспроизводит языковые закономерности и связи, но у неё нет человеческого опыта и гарантированного понимания. Поэтому убедительный ответ может оказаться неверным.
