実際の入力
- 実験設計
- 適格なニュースレター購読者を対象とする、ランダム化メール件名テスト。対照 A は現在の件名、B は短い件名です。ランダム化単位は subscriber ID。2026年8月3日の送信前に1:1で割り付けます。適格な購読者1人につきメール1通です。主要仮説:B は72時間以内のユニーククリック率を高める。適格者リスト全体に対して1回実施し、早期停止はしません。除外するのは、事前に列挙した内部/テスト ID と、承認済み指標ルールに基づくハードバウンスだけです。意思決定者はマーケティング責任者です。
- データスキーマと件数
- 生のイベントエクスポートには、購読者1人につき複数行が含まれる場合があります。フィールドは SubscriberID、AssignedVariant、Eligible、Sent、HardBounce、UniqueClick72h、Unsubscribe72h、Revenue72h、AssignmentTime、SendTime。SubscriberID ごとに1行へ集約します。割り付け予定数は A=5,012、B=4,988。ハードバウンスは A=102、B=98。ユニーククリックは A=421、B=455。購読解除は A=23、B=31。売上は分布が偏っており、トラッキング失敗により14行が欠測しています。割り付けデータ内で SubscriberID が重複している場合は無効です。送信した件名が割り付けと異なる場合、曝露のクロスオーバーを検出できます。
- 指標と分析ルール
- 主要指標であるユニーク CTR の分母は、割り付け群ごとの送信数からハードバウンス数を引いた値です。これが純粋な全割り付け ITT と異なることを記録し、全割り付けでの感度分析も示します。主要検定には、比率差の両側95%信頼区間を使用します。実務上の閾値は絶対差 +0.5パーセントポイント。ガードレールである購読解除率の分母は送信数で、非劣性マージンは +0.2パーセントポイントです。売上は副次指標として記述するだけにします。セグメント分析は探索的なものとして n を示し、勝者を主張しません。多重性の調整は計画されていません。







