Проверить уровень
урок10 минБазовый уровень

Урок 2. Поймай нейросеть на ошибке

Лучший способ перестать слепо доверять ИИ — самому поймать его на ошибке. За 10 минут вы найдёте неточность в ответе по теме, которую знаете лучше модели.

Опубликовано

Схема к материалу «Урок 2. Поймай нейросеть на ошибке»

01Почему это работает

Пока вы не видели, как модель уверенно ошибается в знакомой вам теме, сложно всерьёз проверять её ответы в незнакомой. Этот урок — прививка.

02Шаг 1. Выберите тему, которую знаете лучше всех

Ваш продукт, ваша отрасль, ваш город, ваш внутренний процесс. Подойдёт всё, где вы эксперт.

03Шаг 2. Задайте три типа вопросов

  1. Точный факт: «Какие нормы/сроки/требования действуют для …?»
  2. Расчёт: «Посчитай, сколько будет … при условиях …»
  3. Источник: «Дай три ссылки на документы, где об этом написано».

04Шаг 3. Проверьте по чек-листу

  • Совпадают ли факты с тем, что знаете вы?
  • Верен ли расчёт, если пересчитать?
  • Открываются ли ссылки и говорят ли они то, что утверждает модель?
  • Есть ли оговорки там, где специалист бы их сделал?

05Шаг 4. Попросите модель найти ошибку самой

Пример запроса
Перепроверь свой ответ. Какие утверждения в нём могут быть неточными? Где тебе не хватает данных?

Сравните: нашла ли она то же, что и вы?

06Задание

Задание
  1. Задайте три вопроса из шага 2 по своей теме.
  2. Найдите хотя бы одну неточность. Запишите: в чём она и как бы вы её заметили, если бы не знали тему.
  3. Сформулируйте для себя одно правило проверки, которое будете применять всегда.

Подробный чек-лист — в статье Как проверять ответ ИИ. Почему ошибки возникают — в статье Почему ИИ ошибается.

Навыки карты в этом материале
3 минуты

Узнайте свой уровень и три навыка, которые стоит подтянуть

Пройти тест