Спроектируйте книгу результатов A/B-теста

Автор: AILesson9 мин на настройкуПроверено на:ChatGPTПроверено: 2026-08-28

Быстрый ответ

Структурируйте распределение, воздействие, результаты, исключения, неопределённость и правила решения, не преувеличивая выводы теста. Укажите: Дизайн эксперимента, Схема данных и количества, Метрики и правила анализа. Ожидаемый результат: Доступная для аудита книга эксперимента с определениями метрик, формулами, проверками баланса и заметками о решении.

1

Добавьте контекст

ваш текст остаётся в этом браузере. AILesson Prompts не отправляет его ни в модель, ни на сервер.

2

Ваш промпт

Незаполненные поля остаются видимыми как заполнители, поэтому вы всё равно можете скопировать и отредактировать промпт

Спроектируйте книгу Excel для предоставленного A/B-теста, не превращая связь в более сильное причинное утверждение, чем позволяет дизайн.

Гипотеза, варианты, рандомизация, допустимость, даты, остановка, исключения и владелец:
[design]

Поля, детализация, ID, распределение, воздействие, результаты, временные метки, пропуски, дубликаты, количества и примеры:
[data]

Метрики, знаменатели, совокупность, метод доверия, практический порог, сегменты, множественность и ограничения проверки:
[analysis]

Отделите план эксперимента от наблюдаемых результатов. Определите одну строку на единицу рандомизации или воспроизводимую агрегацию событий. Сохраняйте назначенную группу даже при отсутствии воздействия в основном анализе intention-to-treat; любой анализ per-protocol помечайте как вторичный. Укажите формулы для знаменателя, доли или непрерывного результата, абсолютной и относительной разницы, неопределённости и защитных метрик. Добавьте проверки соотношения выборок, допустимости, дубликатов ID, отсутствующих результатов, времени, загрязнения и баланса до эксперимента. Не выбирайте победителя только по p-значению, не подсматривайте без запланированного правила остановки, не выводите эффекты уровня пользователя из строк событий и не заявляйте причинность при неслучайном распределении. Верните архитектуру листов, словарь данных, реестр метрик, формулы с предоставленными ячейками или таблицами, проверки качества, таблицу результатов, политику сегментов, шаблон решения, ограничения и тесты, пересчитывающие небольшой известный пример.
Попробовать в Playground
Конфиденциально по умолчаниюПромпт собирается локально в вашем браузере. Не вводите конфиденциальную информацию в сервисы ИИ, если ваша организация этого не разрешает.

От исходных данных к результату

Разобранный пример

Посмотрите, как конкретный контекст превращает этот рецепт в полезный результат

Реальный ввод

Дизайн эксперимента
Рандомизированный тест темы письма для допустимых подписчиков рассылки. Контроль A — текущая тема, B — более короткая. Единица рандомизации — Subscriber ID, распределение 1:1 до отправки 3 августа 2026 года. Одно письмо на допустимого подписчика. Основная гипотеза: B увеличивает уникальную долю переходов за 72 часа. Один запуск на полном допустимом списке, без ранней остановки. Исключать только заранее перечисленные внутренние и тестовые ID и жёсткие отказы по утверждённому правилу метрики. Решение принадлежит руководителю маркетинга.
Схема данных и количества
Необработанный экспорт событий может содержать много строк на подписчика. Поля SubscriberID, AssignedVariant, Eligible, Sent, HardBounce, UniqueClick72h, Unsubscribe72h, Revenue72h, AssignmentTime, SendTime. Агрегировать до одной строки на SubscriberID. Ожидаемые распределения A=5 012, B=4 988. Жёсткие отказы A=102, B=98. Уникальные переходы A=421, B=455. Отписки A=23, B=31. Выручка имеет скошенное распределение и отсутствует в 14 строках из-за сбоя отслеживания. Дубликат SubscriberID в распределении недопустим. Перекрёстное воздействие выявляется, если отправленная тема не совпадает с распределением.
Метрики и правила анализа
Знаменатель основной метрики уникального CTR — отправленные минус жёсткие отказы по назначенному варианту; зафиксировать отличие от чистого ITT по всем распределённым и привести анализ чувствительности для всех. Основной тест — двусторонний 95-процентный доверительный интервал разницы долей. Практический порог — абсолютные +0,5 процентного пункта. Защитная доля отписок со знаменателем отправленных, граница не худшего результата +0,2 процентного пункта. Выручка — только вторичная описательная метрика. Сегменты исследовательские, с n и без заявлений о победителе; поправка на множественность не запланирована.

Пример вывода

Книга: Plan с заблокированными гипотезой, совокупностью, остановкой и порогами; UnitData с одной строкой на SubscriberID; MetricRegistry; QualityChecks; Results; DecisionLog. UnitData агрегируется из событий с явными правилами MAX для бинарных результатов и остановкой при дублирующемся распределении; никогда не считайте переходы независимыми строками.

Основные знаменатели: A 5 012−102=4 910 и B 4 988−98=4 890. CTR: A 421/4 910=8,574%, B 455/4 890=9,305%; абсолютная разница B−A=0,731 процентного пункта, относительный прирост около 8,53%. Формулы доли Excel могут использовать =SUMIFS(UnitData[UniqueClick72h],UnitData[AssignedVariant],A2)/SUMIFS(UnitData[PrimaryDenominatorFlag],UnitData[AssignedVariant],A2). Используйте заранее утверждённый расчёт доверия для двух долей или проверенный аналитический инструмент; не импровизируйте статистический метод после просмотра результатов. Точечная оценка превышает практический порог +0,5 п. п., но решение также требует интервала и защитной метрики.

Защитная метрика: отписки A 23/5 012=0,459%; B 31/4 988=0,622%; разница +0,163 п. п., ниже, но близко к границе +0,2 п. п. Сообщите интервал до признания условия выполненным. QualityChecks: распределение 50,12%/49,88%; сравнить с планом утверждённой проверкой соотношения выборок; ноль дубликатов распределения; все распределения предшествуют отправке; перечислить по группам перекрёстное воздействие, недопустимость, неотправленные, пропуски отслеживания и исключения. CTR чувствительности по всем распределённым: 8,400% против 9,122%. Выручка остаётся описательной с n, пропусками и медианой или квантилями, а не причинным доказательством успеха. Шаблон решения: продолжить, отложить или отклонить со ссылкой на основной интервал, практический порог, интервал защитной метрики, проблемы качества и различия определений знаменателя.

Почему это работает

  1. 1

    Явные единица рандомизации и знаменатель не позволяют объёму событий маскироваться под размер независимой выборки.

  2. 2

    Пороги решения и защитные метрики связывают статистическую неопределённость с практическими последствиями.

Проверьте результат

  • Представляет ли каждая строка анализа единицу рандомизации с сохранением распределения независимо от воздействия?

  • Определены ли основная метрика, знаменатель, метод неопределённости, правило остановки и практический порог до просмотра результатов?

  • Видны ли рядом с результатом дисбаланс, пропуски, загрязнение, множественность и защитные метрики?

Используйте уверенно

Часто задаваемые вопросы

Практические ответы о том, когда использовать этот рецепт, что нужно предоставить и где по-прежнему важна проверка человеком

Что нужно подготовить перед использованием «Спроектируйте книгу результатов A/B-теста»?

Для использования «Спроектируйте книгу результатов A/B-теста» подготовьте дизайн эксперимента, схему данных и количества, а также метрики и правила анализа. Заменяйте заполнители только проверяемыми сведениями. Если деталь неизвестна, явно сохраните неопределённость, а не просите модель сделать вывод.

Когда результат «Спроектируйте книгу результатов A/B-теста» ещё не готов к использованию?

Результат не готов, если на основе предоставленных данных он ещё не обеспечивает заявленный итог — доступную для аудита книгу эксперимента с определениями метрик, формулами, проверками баланса и заметками о решении — либо опирается на нерешённые допущения, отсутствующие согласования или выдуманные сведения. Используйте проверки как критерии допуска: исправьте исходные данные или назначьте конкретного уполномоченного проверяющего вместо шлифовки неподтверждённого результата.

Для каких инструментов ИИ зафиксированы тесты «Спроектируйте книгу результатов A/B-теста»?

По состоянию на 2026-08-28 в опубликованном журнале тестирования «Спроектируйте книгу результатов A/B-теста» указан ChatGPT. Это подтверждает только зафиксированные запуски, но не гарантирует совместимость или одинаковые результаты в последующих версиях. Для другого инструмента или версии оставьте все ограничения явными и повторите проверки перед использованием.

Другие способы изучения

Где этот рецепт применим

Продолжайте работу

AILesson · Рекомендуемые курсы

ваш следующий шаг: примените ИИ на практике

Перейдите от понимания ИИ к выполнению задач. Практикуйтесь в составлении запросов, проверке и улучшении результатов с помощью интерактивных уроков для работы и повседневной жизни.

Просмотреть все курсы