№27 Многопараметрическая проверка

Странно, что до сих пор многие специалисты по маркетингу не проводят проверок, а полагаются на то, что им «кажется». Если вы уже провели проверку, у вас есть огромное преимущество перед ними. Вы признали тот факт, что только информация, полученная в результате проверки, скажет вам, что на самом деле правильно. Разница между вами и теми консервативными маркетологами очень заметна.
Крис Бэгготт. “E-mail маркетинг работает”

В прошлый раз обсуждали оценку экономической эффективности рассылок — какой доход приносят email кампании и окупает ли это вложения в них?

Сегодня снова поговорим о тестировании. Причём не о каком-нибудь простеньком а/б тесте, а о полномасштабной многопараметрической проверке.

Вообще, называть её можно по-разному: многовариантное/мультивариантное / многопараметрическое тестирование.

Но суть при этом остаётся прежней: если в а/б тесте вы делаете 2 варианта одного итого же письма, меняете в каждом один параметр, а потом сравниваете результаты, то в многопараметрическом тесте вы делаете сразу много вариантов одного и того же письма (4, 10, 16 и т.д.), но в каждом, опять же, меняете только один параметр и сравниваете результаты.

Ограничения

Многопараметрическая проверка подойдёт не всем.

Первое ограничение — это размер базы. Напомню, что в тестовом сегменте должно быть не менее 250 случайным образом отобранных подписчиков.

Т.е., если тестировать хотя бы 4 варианта, то это уже 1000 человек. При этом тест проводить лучше на меньшей части базы, в идеале — на 10%. Таким образом, для полноценного тестирования 4-х вариантов уже нужна база в 10 000 подписчиков.

Второе ограничение — ресурсы. Даже если у вас большущая база, которая позволяет сделать хоть 20 разных вариантов, все эти варианты нужно подготовить, отправить и замерить результат.

Всё это — траты времени и усилий. Иногда рассылка просто того не стоит.

Но вот если вы собираетесь провести анонс очень важной акции, хотите подчистить базу и переподписать клиентов, пригласить на какую-то мероприятие, в котором вы кровно заинтересованы — тогда продумывайте гипотезы и смело в бой.

Посмотрим на примере

Есть база примерно в 30 000 подписчиков.

По ней планируется провести стартовую рассылку в новом дизайне и проверить сразу несколько вещей:

имя отправителя: русскоязычное (Наша компания) и англоязычное (Our company) — в каком случае письмо больше откроют?

тема письма: нейтрально-информационная и вопросительная — опять же, какую больше откроют?

ссылки или кнопки? — где больше кликнут?

формулировка ссылок/кнопок: нейтральная (Подробнее) и активная (Узнать больше) — где больше кликнут?

Путём комбинации этих параметров создано 16 вариантов одного и того же письма:

База разделена на 16 равных частей (решено взять тестовые сегменты побольше и поэтому использовать в тесте сразу всех подписчиков).

По ним разосланы 16 вариантов письма — каждой части своё.

Через 3 дня результаты (доставка, открываемость, клики, отписка и жалобы на спам) сведены в общую таблицу:

На её основе составлены сводные таблички:

Данные в этих таблицах говорят, что:

— сочетание русскоязычного имени отправителя (Наша компания) и информационной темы в среднем открывали чаще: 7% против 5-6% других вариантов,

— по ссылкам кликали в среднем чаще, чем по кнопкам (1,55% против 1,45%)

— при этом по ссылкам с нейтральной формулировкой (Подробнее) кликали чаще, чем по ссылкам с активной (Узнать больше)  — 1,6% против 1,5%,

— а письма, в которых были размещены кнопки (Подробнее ) в итоге привели к максимуму отписки (0,118%) — хотя почему, не очень понятно:)

В результате победитель:

Выводы из теста:

Для дальнейших рассылок использовать русскоязычное имя отправителя (Наша компания), отдавать предпочтение ссылкам, но ещё экспериментировать с ними, как и с темой письма.

Кнопки «Подробнее» больше не использовать.

Дополнительно

На проведение такого теста (не считая времени, затраченного на создание самой кампании) ушло примерно 5 часов.

За это время:

— было создано 16 вариантов одного и того же письма,
— варианты “заряжены” в рассылочный сервис и отправлены,
— результаты сведены в таблицу, обсчитаны (показатели эффективности и средние значения) и проанализированы.

Конечно, делать такие тесты каждый раз не стоит. Вполне достаточно испытывать 2 варианта темы для письма и, возможно, подправить ещё 1-2 параметра в самом письме. Тем не менее, в этом случае, многопараметрический тест закрыл сразу несколько вопросов. Если решать их последовательно, это заняло бы 8 кампаний. При периодичности рассылки 1 раз в неделю — почти 2 месяца. Но иногда всё-таки хочется двигаться побыстрее:)

P.S. Хороший кейс многовариантного тестирования приведён в книжке Криса Бэгготта “Email маркетинг работает” (глава 10). Там маркетологи «чистили» базу и переподписывали клиентов — и отнеслись к этому весьма серьёзно.

Как раз оттуда позаимствовал идею тестировать более десятка вариантов сразу и уже обкатал на практике. Так что цифры в этой статье приведены реальные:)

P.P.S. В следующий раз вернёмся к разговору про авторассылки — посмотрим, как можно добавить маркетинг в ваши нотификации.

 

P.P.P.S. Если вы ещё не подписались на мою рассылку — самое время это сделать. Я не только анонсирую свежие статьи блога, но и делюсь с подписчиками бонусной информацией, а также показываю отдельные приёмы email маркетинга на практике. До встречи в вашем почтовом ящике! :-)

 

 


  • Аноним

    «Но суть при этом остаётся остаётся прежней» 2р остаётся

    • Alexey Efimov

      Да, спасибо. Поправил.

  • Олег

    Как вы делили базу? Понятно, что на части, но каким образом эти части отбирались?

    • Alexey Efimov

      Добрый день.
      Части базы отбирались случайным образом.
      Рассылку проводили через Юнисендер, там есть функционал сплит-тестов, который как раз позволяет так делать.

      • Олег

        Понял, спасибо