🍀 LLM - Large Language Model - это один из ...

Дата публикации: 22-07-2026 21:46:48

🍀 LLM - Large Language Model - это один из видов генеративного AI, способный генерировать осмысленные тексты, предложения, словосочитания.
Часть первая. Автоподбор.
Каждый из нас точно когда-либо сталкивался с искуственным интеллектом. Даже если это не были какие-нибудь флагманские модели, как Gemini или ChatGPT, вы запросто встречались с продвинутым автоответчиками в чатах поддержки или нейро-ответом в браузерах. Но не каждый знает, что за этим стоит.
Стоит начать с того, что такое автоподбор слов (Т9 в народе). Телефоный автоподбор пытается предсказать ваше следующее нажатие или действие с экранной клавиатурой. И стоит за этим словом очень много, так как даже человеческому мозгу порой сложно предугадать конец предложения, но и тут, и там автоподбор просто выбирает ближайшее по значению в координатром пространстве слово, самый распространенный пример: если "король" – это 0, то "мужчина" – это 1 и стоять он будет рядом. Только в полноценной системе ось координат не одна, обычно это многомерная декартова система с множеством пересекающихся линий, где в каждой точке стоит своё значение.
Абсолютно все LLM - это очень продвинутый автоподбор, который теперь способен определять ключевые слова, моменты предложения или текста, оптимизировать ответ, путём написания себе инструкции, как это ещё называют "Думай прежде, чем скажешь", а также принимать и выводить токены.
Токены - это представление слов, символов, частей слов в виде набора чисел, представляющих набор координатом в многомерной системе, упоминавшийся ранее. Языковая модель прежде всего шифрует весь запрос, не пытаясь понять смысла изложенного. Слово "шкаф" шифруется целиком, а "подъезд" будет разделено на "под – ъ – езд", зашифрованно и только после сложенно.
Часть вторая. Обучение.
Даже один язык (естественный разговорный или искуственный язык программирования) может обладать огромным количеством определений, правил, исключений и сленга. Вписать на каждую координату многомерного пространства по слову вручную физически невозможно. Здесь применяется машинное-обучение. Языковой модели предоставляются огромные массивы данных: самые разные книги, интернет-статьи, словосочитания. Нейросеть читает каждое слово и добавляет на свою координатную точку. Похожие слова могут находиться на совершенных разных осях никак не пересекаясь, но чем чаще языковая модель встречает их вместе, тем большее эти слова перемещаются друг к другу. На этом этапе (pretraining; предобучение) нейросеть учится предсказывать следующее слово основываясь на ближайших координатных точках, усваивает грамматику, лексикон и логику языка.
Но здесь это всё ещё просто хороший автоподбор. Отправив запрос "Понедельник, вторник, среда..." В ответе будет продолженно: "четверг, пятница, суббота, воскресенье". На вопрос "Где здесь кнопка?" Нейросеть продолжит: " – Где здесь кнопка, Урри, Урри, где у него кнопка?!" Ещё один пример: "Как приготовить борщ?", в ответе: " – Спросила Маша у бабушки".
Формат диалога. Этап Supervised Fine Tuning; финальное обучение. На этом этапе языковой моделе скармливают тысячи пар высокогокачественных размеченных данных: текстовые диалоги, формат вопрос – ответ. Нейросеть уже не меняет значение слов в своей базе данных, а сравнивает свой ответ на определенный вопрос с конкретнным эталонным ответом человека из изученного материала (вышеупомянутых данных). Там, где выявляется ошибка, LLM корректирует самовнимание (self-attention).
После второго этапа уже можно свободно вести диалог с ассистентом, ответы станут предсказуемее, не обязательно красочнее, сложнее или проще, это по прежнему зависит от загружаемой базы данных.
Reinforcement Learning from Human Feedback. Усиленное обучение на основе обратной связи людей. Здесь LLM вручную обучают выбирать наиболее подходящий/удачный ответ. Обучение не обязательно проходит у команды специалистов, это могут быть обычные пользователи с вариантами А и B. Нейросеть запоминает, за какой ответ Reward-судья даст наибольшую награду и пытается максимально приблизится к нему.
Заключительная часть. Нейросетевые помощники.
Reward-судья - вспомогающая языковая модель поменьше, что присваивает каждому выходному набору токенов своё числовое значение - награду, выбирает между ответом A и В перед выдачей пользователю.
Температура LLM - числовой параметр, регулирующий случайность, креативность и предсказуемость модели при выборе следующего токена (слова). В диапозоне от 0 до 0.3 ответ ассистента окажется сухим, но наиболее понятным и лишённым логических ошибок, фактически текст из Wikipedia. При этом в диапозоне от 1.5 до 1.7 ответ покажется более красочным и ярким, в нём появится больше аналогий.
Итог.
Как аатор статьи, очень надеюсь на ваше повышение эффективности при работе с генеративным AI и желаю успехов в этой сфере!

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	LLM (ИИ) - О СЕРЬЕЗНОМ И НЕМНОГО ЮМОРА, КАК ОБЫЧНО ...	2	6	01-07-2026
2	В чём реальная проблема ЛЛМ	-5	7	03-07-2026
3	Насколько LLM похожи на человеческий мозг	0	5	15-03-2026
4	[Перевод] Как на самом деле работают LLM	0	7	07-07-2026
5	Я устал писать одноразовые скрипты для бенчмарков LLM и собрал харнесс, который сам считает Pareto-front	0	7	27-06-2026
6	Книга: «Анализ данных с LLM. Текст, таблицы, изображения и аудио»	0	7.03	23-06-2026
7	Как использовать современные языковые модели	5	7	03-07-2026
8	Воровство данных ллм-ками	-8	6	03-07-2026
9	Как желание быстрее читать чужой код превратилось в войну с недетерминизмом LLM	0	5	28-06-2026

Классификация: . Схожих патентов: 0. Схожих новостей: 9. Тональность: 0. Информативность: 7.26. Источник: vk.com.