# Урок 11. Качество и риски: чек-лист перед внедрением

> Когда ИИ работает не на одного человека, а в процессе, ошибки масштабируются. За 20 минут научимся оценивать качество на выборке и проходить по рискам до запуска, а не после.

Адрес: https://xn----8sbgvadnv2k.xn--p1ai/uroki/kachestvo-i-riski/ · Обновлено: 2026-10-15 · Тип: урок · 20 мин · Уровень: Профессиональный
Навыки: Оценивать качество и риски
Лицензия текста: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/)

## Оценка качества на выборке

Одного удачного ответа мало. Перед тем как встроить ИИ в процесс, проверьте его на выборке.

1. Соберите 20 реальных примеров задачи (обезличенных).
2. Прогоните их через ваш запрос или автоматизацию.
3. Оцените каждый ответ по трём меткам: **верно**, **нужна правка**, **неверно**.
4. Посчитайте доли и посмотрите на ошибки: есть ли в них закономерность.

| Результат | Что делать |
|---|---|
| Почти всё верно | Внедрять с выборочной проверкой |
| Много правок | Улучшать запрос, давать больше контекста, примеры |
| Есть грубые ошибки | Оставить обязательную проверку человеком или не внедрять |

## Карта рисков

| Риск | Вопрос | Как снизить |
|---|---|---|
| Точность | Что будет, если ответ неверный? | Проверка человеком на критичных шагах |
| Данные | Какие данные уходят в сервис? | Обезличивание, корпоративные решения |
| Право | Нет ли персональных данных, авторских прав, рекламы? | Согласовать с юристом |
| Правила компании | Разрешён ли сервис? | Согласовать с ИТ и безопасностью |
| Зависимость | Что будет, если сервис недоступен? | Ручной запасной сценарий |
| Ответственность | Кто подписывает результат? | Назначить ответственного |

## Признаки, что внедрять рано

- Нельзя описать, как выглядит правильный результат.
- Нет человека, который отвечает за итог.
- Ошибка стоит дороже, чем вся экономия времени.

> Эта карта не заменяет юриста и службу безопасности, но помогает прийти к ним с правильными вопросами.

## Задание

**Задание**

1. Выберите одну задачу, которую хотите поручить ИИ в процессе.
2. Проведите оценку на 20 примерах и посчитайте доли.
3. Заполните карту рисков из шести строк.