011. Обучение: миллионы примеров вместо правил
Нейросеть — это огромная таблица чисел (их называют весами), соединённых в слои. Сначала числа случайные, и сеть отвечает чепухой. Потом ей показывают пример и правильный ответ, сравнивают, насколько она ошиблась, и чуть-чуть подкручивают числа, чтобы в следующий раз ошибиться меньше. Так — миллиарды раз.
После обучения в весах оказываются «сжатые» закономерности: как устроен язык, какие слова встречаются рядом, как обычно выглядит деловое письмо, чем договор поставки отличается от договора подряда.
Важно: сеть не хранит тексты, на которых училась, как библиотека. Она хранит закономерности. Поэтому дословную цитату или точную цифру она может «вспомнить» неправильно.
022. Знания заморожены на дату обучения
У каждой модели есть дата, после которой она ничего не видела. Курс валют, новый закон, вчерашние изменения в вашем продукте — для неё не существуют, если только сервис не подключает поиск в интернете или вы не вставили текст сами.
Практическое правило: всё, что меняется (цены, нормы, сроки, контакты), давайте ИИ сами или проверяйте по первоисточнику.
033. Контекст: что модель видит прямо сейчас
Всё, что вы написали в диалоге, плюс вложенные файлы — это контекст. Модель видит его целиком, когда пишет ответ. Отсюда три следствия:
- Чем точнее контекст, тем точнее ответ. Пример письма, которое вам нравится, работает лучше, чем «напиши хорошо».
- У контекста есть предел. Очень длинный диалог или огромный файл модель может «прочитать» не полностью — важное лучше повторить или вынести в начало.
- Новый диалог — чистый лист. Модель не помнит прошлые разговоры, если сервис специально не включает память.
044. Ответ — это вероятность
Языковая модель пишет ответ по кусочкам (токенам — это части слов). На каждом шаге она оценивает, какой кусочек вероятнее всего идёт дальше, и выбирает один из вероятных. Поэтому:
- на один и тот же вопрос вы получите немного разные ответы;
- модель всегда что-то ответит — даже если правильного ответа она не знает;
- уверенный тон ничего не говорит о точности.
05Что из этого следует на практике
- Давайте материал, а не только вопрос. Вставьте текст договора, таблицу, письмо клиента — и попросите работать с ним.
- Спрашивайте источник и проверяйте его. Подробно — в статье Как проверять ответ ИИ.
- Перегенерируйте и сравнивайте. Если два ответа сильно расходятся — это сигнал, что модель «плавает» в теме.
- Не отправляйте лишнего. Всё, что вы вставили, уходит на сервер сервиса. Что нельзя отправлять — в статье Безопасность данных.