Многие компании практикуют регулярные опросы целевой аудитории. Информация, полученная с помощью полевого исследования, позволяет компании осуществлять улучшения, востребованные текущими и потенциальными клиентами. Как правило, клиенты заинтересованы участвовать в таких опросах в надежде повлиять своими ответами на обслуживание или продукты компании, а значит, и какую-то часть собственной жизни. Важно, что к таким опросам проявляют интерес не только лояльные клиенты, но и те, кто остался недоволен. Они в первую очередь могут рассказать о выявленных недостатках или негативе, полученном лично. Эта информация имеет огромную практическую пользу для отдела маркетинга или службы контроля качества компании.
При неквалифицированном исполнении опрос может вызывать негативную реакцию клиентов. При этом респонденты могут быть недовольны как содержанием анкеты, так и качеством проведения опроса.
Какие ошибки при проведении опросов в первую очередь не нравятся клиентам?
– Опрос проводит робот (чатбот).
Использование в общении роботов клиент может посчитать пренебрежительным, неуважительным отношением к себе. Респондент не всегда сразу понимает, что его опрашивает не-человек. Такое открытие может вызывать неприятные эмоции, например, раздражение, разочарование, обиду, злость. Клиент понимает, что этот разговор не так важен для организации, чтобы эту работу поручить «живым» людям. Даже при выяснении обратной связи «на нем экономят». Клиент чувствует, что его используют – роботы получают информацию для оптимизации процессов компании, т.е. компания в большей степени решает свои проблемы, чем его. Клиент может подумать, что в таком случае не стоит делиться своим мнением с «железякой» и развернутых ответов будет существенно меньше, чем в общении с интервьюером-человеком.
– Высокая частота опросов, формализм в опросах
Клиенту надоедает регулярно отвечать на одни и те же вопросы, тем более, если он не чувствует каких-либо изменений. В некоторых опросах интервьюер невнимателен к респонденту или слишком торопится – клиент чувствует формальность процедуры и теряет интерес к участию в опросе. Через некоторое время после опросов идеальным решением было бы информирование потребителей о действиях компании по устранению замечаний. Возможно, современные технологии могли бы помочь в индивидуальных информационных сообщениях, учитывающих информацию, предоставленную респондентом. Однако даже общее информирование клиентов об изменениях по итогам опросов встречается крайне редко. Такой режим общения похож на настоящие человеческие отношения: feedback (обратную связь) получал бы не только поставщик услуг от клиента, но и клиент от поставщика.
При регулярных опросах желательно интересоваться у клиента, через какое время для него приемлем следующий звонок, либо какая альтернативная форма связи для него удобна (электронная почта, форма на сайте, мессенджеры и пр.). Полученную информацию следует внести в базу данных и в дальнейшем учитывать при планировании исследований клиентов. Возможно, для более лояльного отношения к опросам, необходимо предусмотреть поощрение за помощь. При проведении опросов поощрение обычно имеет символический характер, и размер подарка редко бывает супер значимым для респондентов. Это скорее тот случай, когда «важен не подарок, а внимание».
– Непродуманная анкета
Обычно самые критические ошибки встречаются при составлении анкеты для опроса, особенно когда она составляется сотрудником, не имеющим соответствующего опыта и квалификации. И тогда вопросы, на первый взгляд очевидные и безобидные, могут довести клиента до белого каления.
Анкета в маркетинговом исследовании – это инструмент, позволяющий получить объективную информацию об изучаемой части реальности, произвести замеры важных параметров (например, оценки удовлетворенности, спрос на новые услуги, отношение к цене восприятие марки и т.д.). Использование плохого инструмента приведет к искажению или потере важной информации.
Обычно анкета имеет четкую структуру, каждая часть анкеты решает свою задачу и требует от респондента различных усилий (рис.1).
Рис.1. Структура исследовательской анкеты
Любой опрос (анкета) начинается с приветствия и вводной части. При необходимости в самом начале разговора предусматриваются вопросы-фильтры, которые обеспечивают соответствие респондента требованиям выборки.
Вводная часть анкеты – это небольшой текст, который объясняет респонденту следующие вещи:
- какая организация его опрашивает;
- каковы тема и цели опроса;
- как будет обрабатываться и использоваться полученная информация (например, «результаты опроса будут представлены в обобщенном виде, без указания имен и других персональных данных»);
- иногда приводится мотивирующая к участию фраза, например, «Ваше мнение поможет нам сделать услуги более комфортными».
Если вводная часть отсутствует или составлена плохо, высока вероятность того, что респондент откажется от участия в опросе в самом начале разговора. Почему люди не участвуют в опросе, не видно из результатов опроса. При тестировании различных вариантов вводной части можно определить оптимальный вариант начала интервью. Удачное начало обеспечивает более высокую конверсию обращений в заполненные анкеты. Такая процедура выполняется опытными интервьюерами при пилотаже анкеты. Безусловно, не каждый сотрудник отдела маркетинга или колл-центра может квалифицированно провести такую работу.
Правила составления маркетинговых или социологических анкет могут оказаться полезными как при составлении анкет собственными силами, так и при согласовании/обсуждении анкет привлеченного исполнителя. Необходимо с вниманием отнестись к этапу согласования и обсуждения анкеты с исследовательской или консалтинговой компанией.
Исследование своими силами эффективно в случае, если такие проекты проводятся компанией регулярно и сотрудники имеют соответствующие знания и опыт. Квалификация «обычных» сотрудников отдела маркетинга обычно не позволяет компетентно составить анкету для маркетингового исследования. В таких случаях своими силами целесообразно проводить только простые опросы или исследования, не имеющие высокой важности для организации.
В целом подход точно такой же, как и в других профессиях: у многих дома есть швейная машина и кто-то умеет шить, но вряд ли многие дома шьют костюмы или верхнюю одежду. Многие умеют готовить, но сложные блюда предпочитают покупать готовые или заказывать в ресторане.
Ниже будут рассмотрены некоторые ошибки при составлении анкеты на примере реального онлайн-опроса (анкетирования), проведенного одним из российских банков среди своих B2B клиентов в 2020 г. на тему удовлетворенности.
— Оценочная шкала, непонятная респондентам
Рис. 2. Пример вопроса из опросной анкеты b2b клиентов (выбор шкалы)
В данном случае используется 11-балльная шкала, которая часто применяется в стандартных зарубежных методиках (как, например, NPS – индекс лояльности). Но для жителей России эта шкала непривычна. Практика опросов в РФ показывает, что наиболее адекватные оценки измеряемых показателей можно получить, используя 5-балльную шкалу, привычную для россиян со школы.
Каждый уровень 5-балльной шкалы имеет устоявшееся словесное определение (например, «5» – «отлично», «3» – «удовлетворительно»), так что эта шкала интуитивно понятна каждому россиянину.
В случае с более длинными шкалами нашему человеку может быть не вполне понятно, какую степень интенсивности отражают, например, 4 балла в 7-балльной шкале. А значит, ответы респондента будут недостаточно надежными. При повторном опросе респондент вполне может назвать и другое число, поскольку «не чувствует» шкалу.
— Вопрос об абстрактной услуге / ситуации
Рис.3. Пример из анкеты маркетингового исследования (обращение к абстрактной услуге)
Когда компания предоставляет достаточно однотипные услуги/продукты, процесс приобретения/ потребления которых в целом схож, подобная формулировка может применяться.
Но в случае с банковскими услугами, которые существенно отличаются (например, РКО, кредитование, лизинг и пр.), лучше выделить типичные ситуации / группы продуктов и получать оценки по каждой отдельно. Тем более, потребители могут не знать или не иметь опыта пользования некоторыми банковскими услугами.
В данном случае респонденты могут отвечать на вопрос, имея в виду совершенно различные услуги, а вывод маркетолог банка сделает по всем услугам. Кроме того, следует учесть и ситуацию, когда клиенту нужна услуга, которую этот банк не оказывает.
В любом случае, если нужна оценка абстрактной услуги/ситуации, желательно получить от респондента хотя бы текстовый комментарий с объяснением причин именно такой оценки или ее отсутствия.
— Удовлетворенность в целом
Рис.4. Пример вопроса исследовательской анкеты (удовлетворенность списком продуктов)
Люди склонны лучше запоминать плохое («ложка дегтя в бочке меда»). Поэтому, помимо общей оценки (не всех услуг вместе, а удовлетворенностью работой банка в целом), нужно также замерять оценки отдельных услуг, чтобы можно было выявить «проседающие» услуги, и степень их влияния на итоговую оценку банка. Желательно итоговую оценку банка размещать в анкете после оценок отдельных услуг/параметров работы банка. Это позволяет клиенту более вдумчиво рассматривать вопрос и ставить более взвешенную итоговую оценку.
По каждой «не-отличной» оценке необходимо получить текстовый комментарий респондента. Ведь недостаточно просто узнать, что клиенты недовольны какой-то услугой. Для «работы над ошибками» необходимо выяснить, что именно вызывает недовольство клиентов.
— Недостаточность вариантов ответа. Логический тупик
Рис.5. Пример из анкеты маркетингового исследования (сравнение с нечто)
Если у организации клиента нет опыта обслуживания в других банках – ему не с чем сравнивать свой банк. Но, поскольку данный вопрос в анкете нельзя пропустить, респондент будет вынужден либо поставить непонятную оценку (наугад или самую высокую оценку), чтобы перейти к следующему вопросу, либо прекратить отвечать на вопросы анкеты (логический тупик). Для таких респондентов необходимо предусмотреть какой-либо приемлемый вариант ответа, например, стандартный «затрудняюсь ответить» («не могу сравнить», «Не обслуживались в других банках» («давно не обслуживались в других банках», «С другим банком работает другой сотрудник» и т.д.).
Другой недочет формулировки этого вопроса – сравнение банка с другими банками в целом. В итоге каждый респондент сравнивает банк с другими банками, в которых обслуживался. То есть, в каждой анкете банк сравнивается с всегда разным подмножеством «других» банков (иногда плохих, иногда хороших). Здесь было бы более уместным выяснить, в каких именно банках респондент имеет опыт обслуживания, попросить его выбрать банк, с которым он взаимодействует чаще всего (который он может оценить наиболее обоснованно) и поставить оценки этому банку-конкуренту и банку, проводящему опрос.
Такой подход позволит банку выяснить, каким банкам он уступает, а каких превосходит.
— Вопросы о гипотетическом будущем
Рис.6. Пример из маркетинговой анкеты (2 вопроса в одном и только позитивный вариант)
Очевидно, цель этого вопроса – оценка тенденций динамики объема потребления услуг банка. Тогда в анкете должен присутствовать аналогичный вопрос и о вероятности сокращения объема пользования услугами банка (но его нет).
Поведение клиента в будущем зависит от множества обстоятельств, выяснить которые будет совсем нелишним. Скорее всего, дать однозначный ответ на этот вопрос большинство клиентов затруднится. Как часто бывает в B2B-исследованиях, респондент и лицо в компании, которое может реалистично ответить на такой вопрос – не совпадают.
Возможно, есть условия увеличения объема потребления, которые респонденты могли бы указать в текстовом поле вопроса. Так что здесь не хватает и варианта «затрудняюсь ответить», и открытого вопроса для комментария от респондента, объясняющего его оценку.
— Отсутствие логических переходов в анкете
Рис.7. Пример нелогичной навигации при анкетировании
Несмотря на ответ респондента «Не пользовались» напротив услуги «Кредитование», его все равно просят указать проблемы, повлиявшие на его оценку услуги кредитования. Поскольку респондент не пользовался данной услугой, и оценки как таковой нет, респондент в замешательстве: какие именно проблемы в его случае он может указать? Очевидно, что в данном случае вопрос о проблемах должен быть пропущен, чтобы респондент мог перейти к следующему вопросу. Этот переход должен быть отражен в структуре анкеты.
Отсутствие в анкете переходов в зависимости от смысла предыдущих ответов делает часть вопросов бессмысленными для респондентов, а полученные ответы – кривыми для аналитиков банка. «Добросовестный» респондент в такой ситуации может ответить наугад/выбрать нейтральный вариант, прекратить интервью, изменить свое мнение о банке в худшую сторону, отказываться от участия в дальнейших опросах банка.
— Не учитывается период времени, который оценивается
Рис.8. Пример из анкетирования клиентов (отсутствие периода оценки)
Если последний раз клиент обращался в банк давно, а с тех пор многое в банке изменилось, оценки банка, полученные от такого клиента, будут неактуальными. Для того чтобы не получать неактуальные ответы от респондентов, необходимо либо уточнять оцениваемый период в вопросе/анкете, либо опрашивать только респондентов, которые пользовались услугами банка недавно: например, в течение последних 3 месяцев.
— Применение методики NPS (Net Promoter Score) без учета ее ограничений
Рис. 9. Пример измерения лояльности при анкетировании (стандартный вопрос NPS)
Существуют некоторые категории продуктов и услуг, которые большинство потребителей не будут рекомендовать своим знакомым ввиду их чрезвычайной деликатности и/или серьезности влияния на жизнь потребителя. К таким категориям могут относиться медицинские и финансовые услуги. Поэтому ответы на данный вопрос следует сопоставлять с оценками удовлетворенности банком: если клиентов, готовых рекомендовать банк, мало, но удовлетворенность в целом высокая, для тревоги нет оснований. Не каждый продукт может рекламироваться через «сарафанное радио», но существуют и другие эффективные каналы коммуникации.
Вообще, не стоит делать выводы глобального системного характера на основании только одного вопроса анкеты. Выводы и рекомендации должны строиться на базе комплексного анализа полученных данных. При исследовании удовлетворенности клиентов важно не ограничиваться какой-то одной, пусть и популярной, методикой, а параллельно применять и альтернативные методики, дополняющие, детализирующие итоговую картину. В результате будет получено полное, объемное «изображение» ситуации, позволяющее разглядеть проблемы с разных сторон и принять обоснованные решения.
Итак, при составлении анкеты для опроса клиентов (потребителей) следует придерживаться следующих основных правил:
- наличие вводного текста/приветствия, интересного респонденту и располагающего к участию в опросе;
- небольшая продолжительность интервью/заполнения анкеты (не более 10 минут);
- наличие вопросов-фильтров, отсекающих респондентов, не принадлежащих целевой аудитории исследования;
- вопросы задаются только тем респондентам, которые могут на них ответить – имеют соответствующий опыт/квалификацию;
- четко определен временной промежуток, который рассматривается/оценивается в анкете;
- вопросы соответствуют задачам исследования (а не берутся с потолка или из образцов анкет, скачанных в Интернете);
- соблюдаются логические переходы в анкете;
- отсутствуют логические тупики;
- вопросы сгруппированы в тематические/смысловые блоки;
- вопросы и блоки вопросов расположены в логической последовательности;
- в закрытых вопросах – оптимальное количество вариантов ответа (достаточное, чтобы охватить наиболее вероятные ситуации, но не слишком большое, чтобы не утомить и не запутать респондента);
- наличие в вопросах варианта ответа «Другое» с текстовым полем (там, где возможны непредусмотренные варианты ответа);
- наличие в вопросах варианта ответа «Затрудняюсь ответить»;
- использование шкал, понятных и привычных для респондентов;
- отсутствие чрезмерно обобщенных или абстрактных вопросов.
Здесь приведена лишь базовая справочная информация, позволяющая избежать фундаментальных ошибок при составлении анкеты. Материалов о правильном составлении анкет достаточно, чтобы составить из них полноценный учебник.
И все же полноценная учебная литература не всегда позволяет адаптировать общие правила составления анкет к конкретным задачам и реальным респондентам.
Добиться такой эффективности позволяет пилотаж анкеты – пробный опрос по анкете небольшого количества респондентов. Как правило, после пилотажа корректируются даже анкеты, составленные профессионалами с большим опытом. Здесь важно понимать, что пилотаж и последующая коррекция анкеты – это неотъемлемая часть профессионального подхода к составлению анкеты исследования.
Пилотаж позволяет оценить длительность заполнения анкеты, количество отказов, формулировки вопросов и вариантов ответа. Даже если опрос планируется в форме самозаполнения (например, онлайн), вполне рабочим вариантом является проведение пилотного опроса посредством телефонного или очного интервью и в живом общении с клиентами «откатать» анкету.
Вы можете подписаться на уведомления о новых материалах СканМаркет
Опрос — распространенный инструмент маркетингового исследования, однако только грамотное использование делает его эффективным. Рассказываем, в результате каких ошибок создатели анкет чаще всего получают некачественные данные, и каких правил стоит придерживаться, чтобы не оказаться на их месте.
Попытка в одной анкете изучить несколько тем, часто не коррелирующих друг с другом
Нередко создатели анкет стараются с помощью одного опроса достичь сразу несколько целей. Например: найти целевую аудиторию своей компании, оценить ее лояльность, а заодно и проверить, какие характеристики продукта важны для потребителя. Однако для полного изучения проблемы необходимо каждое последующее исследование основывать на результатах предыдущего:
- определить свою целевую аудиторию;
- оценить ее отношение к компании;
- выявить значимые характеристики своего продукта для аудитории;
- оценить новый продукт.
Сжатие этого пути до одного единственного исследования приводит к искажению получаемых данных. Причем аномалия в результатах может быть даже принята за естественную тенденцию и привести компанию к убыткам.
Чтобы избежать подобной ситуации, постройте стратегию для программы исследований, пропишите задачи, гипотезы и порядок проведения опросов. Придерживайтесь правила «одно исследование — одна тема» и не приступайте к запуску следующего опроса без внимательного анализа результатов предыдущего.
Создатель анкеты забывает про различные сценарии прохождения опроса
Как правило, сценарии прохождения опроса формируются логическими развилками: это может быть дихотомический вопрос «да/нет», выбор сразу нескольких вариантов ответа, при этом включая и вариант «ничего из вышеперечисленного». Вам нужно заранее продумать, куда будет перенаправлен человек, выбравший любой из вариантов ответа: это может быть один из последующих вопросов (какой именно?) или завершающая страница анкеты.
Например, если вы хотите изучить, какие платформы для онлайн-образования выбирают респонденты, вам нужно проработать вариант сценария, который развивается как после положительного ответа на вопрос «Проходили ли вы какие-либо курсы онлайн?», так и после отрицательного. Если же респондент отвечает «нет», а алгоритм все равно выводит его на вопросы о сервисах онлайн-образования, это негативно скажется на качестве результатов исследования. Данные будут искажены, так как респонденты отвечают на те вопросы, на которые, по логике исследования, отвечать не должны. Также отсутствие проработки пользовательских сценариев ведет к тому, что анкету «технически» нельзя пройти: респондент попадает на вопросы, на которые не может ответить, а система не позволяет ему пропустить их.
Чтобы этого избежать, анкету нужно тестировать. Отправьте опрос нескольким разным людям и попросите их рассказать о любых сложностях, которые возникли при заполнении анкеты. Предварительное тестирование поможет выявить неясные вопросы, неподходящие варианты ответа и другие проблемы, прежде чем вы отправите анкету респондентам. Внесите в опрос поправки и протестируйте его еще раз. Только после этого стоит проводить полноценное исследование.
Неверное использование типов вопросов
Иногда создатели анкет путают, какой тип вопроса в каком случае нужно использовать. Например, на вопрос «Какую еду вы любите?» могут быть предложены варианты ответа: «пюре», «рис», «салаты», «котлеты» и «супы». При этом вопрос закрытый, без возможности выбрать несколько вариантов ответа или вписать свой. В результате любители котлет с пюре или шашлыков оказывается в растерянности и не знают, что выбрать. Такое несоответствие типов вопросов и задачи исследования повлечет за собой искажение данных, излишек информации в открытых вопросах и ее недостаток в закрытых.
Прежде чем составлять анкету, внимательно изучите существующие типы вопросов. Обычно они делятся на закрытые (с возможностью выбора из вариантов, указанных создателем опроса), полуоткрытые (можно выбрать вариант ответа или указать свой в дополнительном окошке «Другое») и открытые (нужно вписать свой ответ в специальную строку). Эти виды вопросов имеют подвиды, например, единичный выбор, шкала, матрица, множественный выбор и т. д. Определите, какие данные вы ожидаете получить в результате исследования, и выберите подходящий тип вопроса.
Формулировки вопросов непонятны или имеют двойственное значение
Порой в погоне за образностью речи теряется ее цель — донести основную мысль. «Когда вы в последний раз приобретали атлас?» — возникает двусмысленность из-за отсутствия ударения. «Позволяете ли вы себе выходить за границы?» — речь о личных границах, границах дозволенного или границах государства? Сбить с толку также могут неоднозначные термины.
Неясность формулировок увеличивает количество ответов «не знаю» и искажает общую картину исследования. Кроме того, респонденты могут отказаться от опроса, который заставляет впадать их в ступор. Чтобы этого избежать, помните правило «один вопрос — одно действие». Если вопрос вынуждает совершать два действия — разбейте его на два. Также избегайте наводящих вопросов, которые подталкивают к выбору определенного ответа. Исключите вопросы с неполными вариантами, когда выбор ответов недостаточен (добавьте в такие вопросы вариант «Другое» с полем для свободного ответа). Попросите своих тестировщиков проверить текст на предмет двусмысленных терминов. Главное — четко представьте, какой ответ вы ожидаете получить.
Слишком много вопросов в одной анкете
Большое количество вопросов вызывает у респондента «предсказанную усталость»: опрос еще не начался, а он уже утомился. Это влечет за собой бездумное прощелкивание вариантов ответа и равнодушие. Если ваш опрос разрастается, проанализируйте, не пытаетесь ли вы изучить сразу несколько разных проблем. Кроме того, вы можете попробовать разбить вопросы на несколько страниц, в таком случае вам будет нужно найти баланс между длиной страниц и количеством вопросов, которые на них расположены.
Также обращайте внимание на количество вариантов ответа в закрытых вопросах. Обычно принято использовать «правило семи»: когда нужно сравнивать варианты ответа между собой, их не должно быть более семи, так как среднестатистический человек может манипулировать в голове одновременно не более чем семью понятиями. Если необходимо добавить, например, десять вариантов, то их можно разбить уже на два вопроса. Попробуйте пройти анкету сами и помните, что опрос не должен отнимать у респондента более 15-20 минут.
Внешний вид, орфография и логика анкеты не проверяются перед началом опроса
В лучшем случае дело ограничивается грамматическими ошибками и опечатками. В худшем — в анкете будут битые ссылки или незагружающиеся изображения и видеофайлы.
Не ленитесь проверять анкету на грамотность перед публикацией. Не уверены в правильности написания слова? Сверьтесь со словарем или вовсе замените его синонимом. Сомневаетесь относительно знаков препинания в сложном предложении? Упростите его или разбейте на несколько простых, чтобы избежать использования неправильных знаков. Ну и обязательно проверьте корректность работы всех ссылок.
Поддерживать же логику в вопросах поможет правило воронки: сначала задаются простые вопросы, потом — сложные. Вопросы, классифицирующие опрашиваемых на группы, задают в последнюю очередь, так как они носят более личный характер и не так интересны отвечающим.
Мы перечислили далеко не все ошибки, которые совершают составители опросов, но надеемся, что и представленные в этом материале помогут вам посмотреть на свои анкеты новым взглядом, сделать их качественнее и в результате получить репрезентативные данные. Если же у вас нет возможности или желания разбираться в нюансах составления анкет, то вы можете обратиться к специалистам «Анкетолога», которые сделают все за вас.
Логические ошибки вопроса
Логические
ошибки при разработке вопросов допускаются
довольно часто. Из всего множества и
многообразия ошибок, встречающихся в
анкетах, выделим наиболее типичные.
Прежде
всего отметим большую группу ошибок,
когда в анкете под видом одного вопроса
задается несколько (два-три и более)
вопросов. «Знаете ли Вы, какие спортивные
секции работают в спортивном комплексе
и их расписание?» По существу здесь
задано два вопроса: «Какие спортивные
секции работают?» и «Знаете ли Вы
расписание работы спортивных секций?»
Задавая
респонденту такой сдвоенный вопрос,
исследователь тем самым ставит его в
довольно трудное положение, поскольку
тот или иной ответ, может соответствовать
одному вопросу и не соответствовать
другому. Он может знать, какие секции
работают в спортивном комплексе, но не
знает их расписание.
Здесь могут быть
три варианта не правильно построенного
вопроса.
1.
Наличие
противоречия.
Любой ответ на дихотомический вопрос
противоречит одному из подвопросов.
«Скажите, пожалуйста, любите ли Вы
кататься на коньках и на лыжах?»
(варианты ответа: «да», «нет»).
Если он любит кататься на коньках и не
любит кататься на лыжах, то любой ответ
будет обязательно противоречить другому.
2.
Отсутствие
пояснительных
альтернатив.
Нельзя ответить ни «да», ни «нет»,
а требуется развернутый ответ. «Скажите,
пожалуйста, предпочитаете ли Вы ходить
летом пешком на работу или пользоваться
каким-либо транспортом?» Этот вопрос
требует полного ответа: «Летом я
предпочитаю ходить на работу пешком».
Таким софистическим
приемом пользовались еще в древнем
мире. Задавался вопрос: «Прекратил
ли ты бить своего отца?» («да»,
«нет»). Если ответить «да», то
получается, что ты бил своего отца, если
«нет», выходит, что и сейчас бьешь.
Здесь необходим развернутый ответ: «Я
никогда не бил и не бью своего отца».
-
Неполнота
набора альтернатив.
Ответы на вопрос с подвопросами фиксируют
только какой-нибудь один из подвопросов.
Например:
«ЛЮБИТЕЛЕ
ВЫ ПУТЕШЕСТВОВАТЬ ИЛИ ОТДЫХАТЬ В
САНАТОРИИ ВО ВРЕМЯ ОТПУСКА?»
Я
люблю туристические
походы……………………….
( )
Я
люблю экскурсии по
городам………………………..
… ( )
Я
люблю путешествовать
поездом…………………….
( )
В
данном примере ответы фактически
относятся к первому подвопросу «Любите
ли Вы путешествовать…», а второй
подвопрос остается без вариантов ответа.
Ошибка
множественности вопросов довольно
распространенна и вызвана стремлением
исследователя снять как можно больше
информации в одном вопросе, что приводит
к логическому нарушению, а следовательно
и к неверно поставленному вопросу.
Большую группу
типичных ошибок в анкетах составляют
подмены понятий.
Подмена
понятий нередко осуществляется в
вопросах, когда социолог пытается
соединить в единое понятие два других,
близких по содержанию, и образовать
новое понятие. В вопросе: «Скажите,
пожалуйста, что, по Вашему мнению, следует
изменить в работе медицинских и
оздоровительных учреждений в городе?»
социолог пытался объединить два понятия,
близких по смыслу, «медицинские»
и «оздоровительные» учреждения —
в одно общее понятие «учреждения,
следящие за здоровьем человека». В
вопросе «Занимаетесь ли Вы физкультурой
и спортом?» также предпринята попытка
соединить два близких понятия «физкультура»
и «спорт» в единое понятие большей
общности «занятия оздоровительными
физическими упражнениями». Особенностью
ответов на такие вопросы является то,
что положительный ответ (как и
отрицательный) хотя бы на один подвопрос
(я занимаюсь физкультурой, но не занимаюсь
спортом) может быть распространен на
весь вопрос.
Преимущество
таких вопросов заключается в том, что
они позволяют снимать более емкую
информацию, например, не отдельно по
занятиям физкультурой и спортом, а в
целом, сразу по всему комплексу физических
упражнений. Но использование метода
объединения понятий оправдано только
в том случае, если новое понятие уже
знакомо опрашиваемым, а не только одному
социологу.
Использовать
этот тип вопроса можно так же и в случае,
если общее понятие будет специально
указано и дана его расшифровка. Например,
«Имеете ли Вы какие-либо (моральные,
материальные) поощрения в этом году?».
Здесь введено общее понятие «поощрение»
и указано, что оно в себе содержит в
данном случае только моральные и
материальные поощрения. Этот вопрос не
вызовет трудности у респондента,
поскольку он будет ориентироваться в
обязательном порядке на включенное в
вопрос общее понятие.
Но
нельзя сформулировать вопрос таким
образом: «Имели ли Вы в этом году
моральные и материальные поощрения?»
(«да», «нет). При такой формулировке
получился вопрос с двумя подвопросами
без определения общего понятия.
Респонденту придется или самостоятельно
выбирать какой-либо подвопрос, чтобы
найти ответ, или самостоятельно выработать
общее понятие и тем самым ответить сразу
на два подвопроса и на вопрос в целом.
В
вопросе «Любите ли Вы проводить
выходные дни за городом (в лесу или на
речке)?» дается сначала общее понятие
«проводить выходные дни за городом»,
весьма знакомое большинству респондентов,
и только потом вводится уточнение «в
лесу» и «на речке», это уточнение
помогает отсечь другие возможные места
отдыха в выходные дни за городом.
И
все-таки лучше такие вопросы не применять.
Они довольно сложны для восприятия даже
подготовленному человеку и велика
вероятность получить неверные данные.
В силу сложности определения нового
понятия респонденты воспринимают
предложенный вопрос как множественный,
содержащий другие вопросы, со всеми
вытекающими отсюда отрицательными
последствиями, о которых говорилось
выше.
Подмена
понятий происходит и вследствие
неправильного или неточного их
употребления. За каждым классом, группой
явлений общественной практикой
закрепляется несколько понятий,
описывающих данные явления. Одни из них
бывают точными, другие менее точными,
описывающими явление приблизительно,
отражающими не всего его существенные
характеристики. Грамотно построить
свою речь, в немалой степени означает
правильно подбирать понятия, а для этого
требуется большая работа, хороший
профессионализм и нередко настоящее
искусство. Помните, как у В. Маяковского:
«… единого слова ради изводишь тонны
словесной руды». Если исследователь
хочет, чтобы респондент понял его
однозначно, он должен точно подбирать
понятия. Так к примеру, нельзя говорить
и писать «Правила пользования»
автобусом или метро, точнее «Правила
проезда». Пользоваться можно только
мелкими вещами, игрушками, авторучкой
и пр.
В
вопросе «Как часто Вы обращаетесь за
помощью в медицинские и оздоровительные
учреждения?» (с альтернативами
поликлиника, здравпункт, больница,
санаторий-профилакторий, учреждения
отдыха) не точно используется понятие
«обращаться за помощью» применительно
к некоторым альтернативам. «Обра-щаться
за помощью» можно в поликлиники,
здравпункты. Оно предполагает
кратковременное, разовое посещение
этих учреждений. Слова «больница»,
«санаторий», «учреждения отдыха»
требуют других понятий: «Вы когда-нибудь
лечились в больнице?», «Вы когда-нибудь
лечились в санатории?», «Вы
когда-нибудь отдыхали в доме отдыха?».
Использовать понятия надо очень осторожно
и внимательно.
Неправильное
применение понятий может исказить смысл
вопроса. Так, в исследовании по изучению
условий труда и быта рабочих шахт в
анкете был записан вопрос «Влияет ли
режим труда и отдыха на качество Вашей
работы?». Социолог предполагал изучить,
каким образом существующий режим рабочих
смен (дневные, вечерние, ночные) влияет
на качество их труда. Та чехарда, которая
была на шахте со сменами (когда шахтеры
не знали в какую смену они будут работать
на следующей неделе), по предположению
социолога должна была отрицательно
сказываться на эффективности и качестве
труда. Однако, по результатам исследования,
оказалось, что сменность не влияет на
качество труда. Тщательный анализ
противоречивого факта показал, что
рабочие поняли под «режимом труда»
в вопросе чередование работы и отдыха
в течение рабочей смены. Интерпретация
понятийного образования «режим труда
и отдыха» у социолога и шахтеров
оказалась различная.
К типичным ошибкам
подмены и определения понятий относятся
ошибки рассогласований понятий.
Дело
в том, что любое понятие приобретает
смысловое содержание только через
другое, вернее, через другие понятия,
содержание которых определенно,
однозначно. В противном случае, если ни
одно или хотя бы одно из понятий не
определено, или, как говорят логики, не
аксиоматично, невозможно вывести
содержание и третьего, искомого понятия.
Так, набор альтернатив есть по существу
понятийное описание вопроса, или искомого
понятия, ибо без описания вопрос теряет
смысл, повисает в воздухе. Если социолог
не дает альтернатив, как в открытых
вопросах, то респондент сам выбирает
понятийное описание предлагаемого
вопроса в рамках своего концептуального
понимания.
В
практике разработки вопросов нередки
случаи, когда набор альтернатив не
отвечает основному понятию, заложенному
в вопросе, а описывает по существу другое
понятие, не заключенное или частично
заключенное в вопросе.
Фрагмент анкеты.
ВНОСИЛИ ЛИ ВЫ
КАКИЕ-ЛИБО ПРЕДЛОЖЕНИЯ ПО
УРЕГУЛИРОВАНИЮ
РЕЖИМА ТРУД?»
Постоянно
выступаю на собраниях…………………….
( )
Писал(а)
об этом в газету…………………………………..
( )
Считаю
такие предложения бесполезными………….
( )
Ясно,
что в данном примере основное искомое
понятие вопроса «Вносили ли Вы…
предложения…?» в полной мере не
раскрывается предлагаемым набором
альтернатив. Предложенные альтернативы
по сути дела определены двумя понятиями:
«в какой форме вносили предложения»
и «действенность предложений». При
таком построении вопроса респонденту
предлагается довольно трудная задача.
Поскольку альтернативы в полной мере
не описывают вопрос, респондент вынужден
либо отвечать по содержанию вопроса
или альтернатив, либо отсечь не
существенные, по его мнению, альтернативы
и сосредоточить внимание только на
некоторых из них. У него может быть и
еще один вариант: найти третье, более
общее понятий, которое включало бы в
себя понятие как вопроса, так и альтернатив.
Но в любом случае как бы респондент не
ответил, какое бы понятие в качестве
основного для ответа не выбрал, его
ответы не будут нести той информации,
которую ожидал, хотел получить социолог.
По смысловому понятию вопроса («Вносили
ли Вы… предложения?») информация
будет неполной и неточной. Хотя две
первые альтернативы и несут в себе
информацию о количестве вносивших
предложения. Ограничившись только этими
формами внесения предложений (выступал
на собрании и писал в газеты), социолог
тем самым отсек часть респондентов,
которые вносили предложения в какой-либо
другой форме. По этой же причине информация
не будет полной и по смысловому содержанию,
заложенному в альтернативах (форма
внесения предложений). Не получит
исследователь необходимой информации
и по третьей альтернативе (сколько
человек не вносило предложений), поскольку
понятие «бесполезность» не полное
в данном контексте рассуждений. Можно
считать бесполезным вносить предложения
по улучшению работы предприятия, но тем
не менее постоянно это делать как это
и бывает нередко.
Таким
образом, проблема как не надо строить
вопросы, оказывается намного сложнее,
чем она кажется на первый взгляд.
Необходимо четко знать правила построения
вопросов и снятия информации. Но кроме
этого надо хорошо знать и правила
построения анкеты как некоторой
совокупности вопросов, о чем и будет
говориться в следующем параграфе.
Я продолжаю делиться опытом ошибок и находок в анкетных исследованиях. В первой статье я рассказала, как можно привлечь релевантных респондентов и увеличить возврат заполненных анкет.
Читать первую статью Ошибки анкетных опросов. 1 ошибка: смещение выборки. 8 способов привлечь нужных респондентов
В этой статье я расскажу, почему проблема понятности анкеты для участников опроса гораздо важнее, чем кажется на первый взгляд. Рассмотрим также примеры манипуляции мнением респондентов, фальсификации результатов опроса и использования опросов в маркетинговых целях.
Преимущество анкетных опросов – большой охват и быстрый результат – становится и их основным недостатком. Теряя возможность коммуникации с конечным респондентом, мы вынуждены делать дорогое допущение: «все респонденты понимают смысл анкеты и заполняют ее корректно». Если сделать это допущение, можно выдохнуть и работать с результатами опроса, как с релевантными фактами и мнениями. А если такое допущение не сделать, исследование может превратиться в череду перепроверок и согласований и в итоге полностью парализоваться.
Если честно, пройдя через сложности привлечения респондентов и возврата анкет, меньшее, чего хочется исследователю – это сомневаться в том, что анкеты заполнены корректно. Но еще грустнее – осознать, что анкеты испорчены из-за неверного понимания участниками инструкции, или вопросов. И чтобы оградить себя и заказчика от этих сомнений, можно соблюсти ряд подготовительных этапов, которые значительно повысят доверие к исследованию. Мы рассмотрим эти этапы в следующей статье. Вначале разберемся, где могут крыться сложности понимания, и к чему это может привести.
Можно выделить, как минимум, следующие части анкетного исследования, где может возникнуть непонимание:
1. Непонимание слов и специальных терминов.
2. Непонимание инструкции.
3. Непонимание направленности опроса.
4. Непонимание формулировки вопросов.
5. Непонимание критериев оценки.
1. Непонимание слов и специальных терминов
Здесь все просто. Респонденты, действительно, часто не понимают значение слов, которые кажутся исследователю очевидными. И это не всегда касается профессионального сленга. Иногда, казалось бы, обычные слова русского языка вызывают затруднения у участников опроса, но у экспериментатора редко появляется возможность узнать об этом.
На картинке: комментарий пользователя к анкетному опросу, опубликованному на сайте (источник: pikabu.ru)
Пример: Мы проводили исследование людей разного социального статуса и разных возрастных групп. В числе исследовательских методик использовался тест Т. Лири – авторитетный психологический тест, адаптированный для русскоязычных респондентов, применяемый десятилетиями для оценки личности и отношений. Тысячи исследований проведены в России с использованием этого теста. В нашем исследовании уже приняло участие несколько сотен человек, когда мы пришли опрашивать студентов престижного вуза. Студенты заполняли анкеты прямо в аудитории. Через несколько минут они стали поднимать руки и говорить, что не понимают значение некоторых слов из теста. Вот список этих слов: мягкотелый, самобичующий, деспотичный, тщеславный, покладистый, легко расположен, легко впадает впросак, черствый. Для нас это стало открытием. Оказалось, адаптация классического авторитетного теста уже устарела для некоторых респондентов этого возраста и статуса. Собранные к тому времени сотни анкет от респондентов других возрастов и статусов тоже оказались под сомнением: люди не уточняли у нас значения слов, значит – либо понимали их, либо стеснялись спросить и отвечали наугад.
Вторая угроза исходит от употребления в анкетах сленга, который может либо не пониматься участниками, либо раздражать их. Такое может случиться, если исследователь пытается заигрывать с целевой аудиторией и употребляет в анкете их сленг, не являясь носителем этой культуры.
Пример 2: Когда мы исследовали коммуникацию между отделами в одной ИТ-компании, несколько ее разработчиков рассказали на интервью, что их очень злит, когда HR-менеджеры, проводя внутренние опросы, или делая рассылки, копируют особенности языка и вставляют англицизмы. Хотя сами разработчики часто этим грешили, их раздражало, когда сотрудники, не включенные в контекст их работы, перенимали этот сленг.
2. Непонимание инструкции
Непонимание инструкции – самый очевидный пункт в этой статье и, казалось бы, бесполезный. Почти все исследователи проясняют во введении к анкете, на что направлено исследование, и как стоит заполнять бланк. Почти все респонденты уже имеют опыт участия в каких-нибудь опросах, и сейчас редко можно услышать взволнованные вопросы, которые нам задавали лет 8 назад: «А в квадратик нужно ставить плюсик, или галочку?» и «А можно зачеркнуть ответ, если я передумал?».
На картинке: Анкета с неточными инструкциями для соискателей (источник: pikabu.ru).
Несмотря на опытность обычного респондента, вопрос юзабилити анкет снова возникает, если исследователь пробует новые формы (например, on-line опросы и анкетирование на мобильных устройствах с неочевидными инструкциями или невозможностью пропустить ответ), забывает про опцию «один вариант ответа/ несколько вариантов ответа», или забывает дать корректную инструкцию к сложным вопросам (например, вопросам с ранжированием, или попарным сравнением). И для исследователя большая удача, когда получается узнать о затруднениях участника, как в примере на картинке ниже.
На картинке: комментарий пользователя к анкетному опросу, опубликованному на сайте (источник: pikabu.ru)
То, что кажется очевидным исследователю и большинству респондентов, может представлять сложности для менее опытных участников.
На картинке: Анкета с неточными инструкциями, не адаптированная для участника опроса (источник: adme.ru).
Пример 1: Мы проводили исследование сотрудников компании, имеющей филиалы в маленьких городах и поселках. Представители филиалов съехались на обучение в столицу, поэтому опросить их всех после обучения показалось хорошей идеей. Мы выступили перед сотрудниками, дали инструкции и раздали опросники, пообещав выслать результаты на e-mail каждому участнику, или принести на следующий день. Опросник был довольно большой, люди в тишине заполняли его. Как только первый участник отдал заполненную анкету, в конце комнаты поднялась женщина и направилась к двери. Когда мы спросили, где ее анкета, она ответила: «Я не понимаю, что такое имейл, и не понимаю, куда и что вы мне хотите выслать. Лучше я пойду». Оказалось, она просидела больше получаса, так как не поняла наши слова, но стеснялась уточнить инструкцию. Для нас это был вопиющий случай: мы узнали, каких масштабов может достичь непонимание инструкции. А при удаленных и on-line опросах у исследователя обычно не появляется возможности понять, что пошло не так: анкеты либо не возвращаются, либо заполняются некорректно.
Пример 2. Однажды мы организовали большое тестирование людей разных возрастов с использованием психологических опросников, которые включали шкалу лжи. По правилам таких тестов, запрещено интерпретировать результаты, если показатель лжи превышает установленный порог. Одна из участниц получила критический балл по шкале лжи и, когда мы отказались анализировать результаты, была крайне удивлена, сказав, что всегда старается говорить правду и уж точно не стала бы врать в психологическом тесте. Мы взялись с ней разбирать ответы, среди которых было, например: «Я всегда перехожу дорогу на зеленый свет», «Я всегда говорю правду» и другие очевидные вопросы на социальную желательность. На все она ответила «Да». Тогда я спросила:
– Ну, а если задуматься, за всю жизнь вы точно ни разу не перешли дорогу на красный?
– Было, конечно. Но я же старалась отвечать так, как считаю правильным себя вести, а не как веду. А так – в жизни разное бывает.Оказалось, подробная и четкая инструкция к тесту все-таки была осмыслена женщиной по-своему.
Пример 3: Во время исследования стилей поведения в служебных отношениях среди директоров предприятий, как всегда, нам удалось привлечь намного больше женщин, намечался сильный перекос выборки, и потому мы очень обрадовались, когда узнали, что завтра поступит сразу несколько анкет от мужчин, директоров крупных гос. организаций. Мы были готовы на следующий день приступить к обработке, но вечером мне позвонил один из директоров. Он бодро сообщил, что с несколькими директорами заполняет наши анкеты и хотел бы получить пояснения по некоторым ситуациям из теста, так как у них возникли споры в выборе вариантов ответа. Оказалось, директора, приехав на повышение квалификации, решили совместить общение и заполнение интересного теста, и принялись заполнять наши анкеты вместе в номере гостиницы, бурно обсуждать каждую ситуацию, спорить и убеждать друг друга. Индивидуальное исследование личных стилей поведения превратилось в групповое принятие решений, все анкеты оказались заполнены одинаково и потеряли всякую ценность для нашего исследования.
3. Непонимание формулировки вопросов
В создании анкеты, или планировании интервью есть одно правило: «Вопрос – это уже почти ответ». Информативный ответ можно получить только при очень хорошо продуманном вопросе. Для того, чтобы создать такие вопросы, проводится большая подготовительная работа (в следующей части статьи я расскажу про этапы этой подготовки).
Но наш опыт общения с исследователями показывает, что на такую подготовку почти никто не обращает внимания. Ответственность за ответ часто возлагается на респондента, делается существенное предположение, что респонденты имеют сформулированное мнение по нашему вопросу и очень хотят высказать его. Часто это совершенно ошибочное предположение. Не только проблемы исследователей, но язык их вопросов часто не воспринимаются респондентами.
На картине: Кадр из фильма «Автостопом по галактике».
Википедия: «Окончательный Ответ на величайший вопрос Жизни, Вселенной и Всего Такого (…): «Сорок два». Реакция была такой:
— Сорок два! — взвизгнул Лунккуоол. — И это всё, что ты можешь сказать после семи с половиной миллионов лет работы?
— Я всё очень тщательно проверил, — сказал компьютер, — и со всей определённостью заявляю, что это и есть ответ. Мне кажется, если уж быть с вами абсолютно честным, то всё дело в том, что вы сами не знали, в чём вопрос.
— Но это же великий вопрос! Окончательный вопрос жизни, Вселенной и всего такого! — почти завыл Лунккуоол.
— Да, — сказал компьютер голосом страдальца, просвещающего круглого дурака. — И что же это за вопрос?»
Пример 1: Однажды со мной поделилась идеей исследования ТОП-менеджер производственной компании. В тот момент она заканчивала обучение в MBA и заинтересовалась изучением мотивации рабочих на производстве. Исследование мотивации – сложная тема, мы спросили, какие методы она будет использовать. «А какие тут нужны методы? – удивилась она. – Раздам им бумажки с вопросом «Что вас мотивирует?» и соберу ответы». Жаль, общение с ней не продолжилось, и мы не узнали, как рабочие завода восприняли ее анкеты, и как она использовала результаты такого исследования.
Пример 2: Второй пример несоответствия языка исследовательских анкет языку заполнявших их людей тоже из производства. HR-директор крупного производственного холдинга как-то похвастался нам в личной беседе, что ему за несколько лет удалось увеличить вовлеченность персонала на 12% (!). Рабочий персонал и средний менеджмент заводов – специфическая группа для исследований. Как он изучал их вовлеченность? Оказалось, опросником от компании «Gallup».
Тут нужно пояснить. Самый большой недостаток использования опросника – не столько расплывчатые и неадаптированные для людей рабочих специальностей формулировки вопросов (например, вопросы №5, 6, 8), сколько его применение в качестве теста с подсчетом интегрального числового показателя вовлеченности. Другими словами, даже если у участников возникнет непонимание формулировок анкеты, исследователь не проанализирует ответы отдельно, не проследит за выбросами, а подсчитает суммарный показатель. Текст опросника приведен на картинке.
На картинке: Один из вариантов русскоязычного перевода опросника вовлеченности персонала от компании «Gallup» (Источник: antropos.ru).
Нам не удалось найти ссылки на публикации с адаптацией и валидизацией опросника «Gallup» (обязательными этапами при использовании переводных методик). Тем не менее, можно найти несколько вариантов его вольного перевода, много рекомендаций его применения в бизнес-изданиях и еще больше предложений от консалтинговых компаний, которые используют 12 невалидизированных и неадаптированных вопросов, как единственный инструмент для измерения вовлеченности персонала.
Естественно, когда клиент видит в отчете только обобщенные показатели вовлеченности и – еще лучше – рост таких показателей, он редко спрашивает о методах, которыми они были получены.
4. Непонимание направленности опроса
Непонимание направленности вопроса – куда более сложная и распространенная ошибка в анкетных исследованиях. Иногда и предположить нельзя, как человек может интерпретировать, казалось бы, однозначно сформулированный вопрос.
Для этой проблемы есть изящное решение, которое мы обсудим в следующей части. А пока, можно поговорить о случаях, когда исследователи намеренно прячут истинный смысл вопроса, или вносят путаницу в формулировки, чтобы получить желаемый ответ.
Иллюзия выбора. В практике социальной манипуляции есть такой ход: предоставление собеседнику иллюзии выбора, при которой любой его ответ будет выгоден манипулятору. Классический пример иллюзии выбора из продаж сетевых ресторанов быстрого питания: При заказе клиентом кофе официант спрашивает: «Вы к кофе возьмете маффин, или пирожок?» (вопрос «Не желаете ли что-нибудь к кофе?» считается куда менее эффективным с точки зрения продаж). Такой ход часто применяется в анкетных опросах, когда организатор исследования заинтересован в определенных ответах.
Пример: Несколько лет назад наша компания выступала организатором корпоративной игры для менеджеров среднего и высшего звена известного завода. Незадолго до этого контрольный пакет акций этого завода был куплен немецкой компанией, которая сразу начала внедрение корпоративных стандартов поведения. Стандарты эти на русском языке представляли не вполне корректно переведенный и не всегда понятный для русского менталитета свод правил, и перед нами поставили задачу организовать игру так, чтобы менеджмент усвоил эти стандарты. На игру отводилось всего несколько часов, и мы сразу объяснили, что за такое время нельзя сформировать поведенческие паттерны и нельзя даже развить принятие и согласие с чуждыми нормами. Сошлись на том, что целью игры будет уменьшить эмоциональное напряжение, которое вызывали новые стандарты. Итак, мы разработали игры и конкурсы, в основе которых было взаимодействие с каждым правилом, сделали акцент на вовлечении, групповой работе и положительных эмоциях.
Игра прошла хорошо, все руководители вовлеклись и расходились довольными. А через несколько дней HR-служба компании попросила нас провести опрос удовлетворенности игрой, чтобы предоставить отчет руководству. Мы понимали, что новые нормы не были усвоены сотрудниками и, тем более, не перешли в привычки. Но цель свою – уменьшить напряжение – мы выполнили. Поэтому, наша анкета была сосредоточена исключительно на положительных эмоциях после игры (см. рисунок).
На картинке: Фрагмент анкеты обратной связи для участников игры.
Вопросы 5, 6 и 9 – вопросы с иллюзией выбора. Они выглядят довольно полно. Но, если присмотреться, любой вариант ответа либо отражает положительную оценку, либо перекладывает ответственность на заполняющего (по принципу «это не игра была плохая – это я все еще не понимаю стандарты поведения, которые мне объясняют уже несколько месяцев», или «я и так хорошо понимаю суть стандартов»).
Последний вопрос – образец вопроса с иллюзией выбора. Все его варианты положительные. Формулируя его, мы знали, как результаты будут выглядеть в отчете: как в диаграммах будут смотреться положительные эффекты, заданные нами заранее в анкете, и как приятно руководителю будет рассматривать их. Когда человек просматривает такой отчет, у него редко появляется вопрос, были ли предусмотрены анкетой негативные варианты ответов.
Расстановка акцентов
Если заказчик исследования не интересуется исходным текстом анкеты и не уточняет, какие варианты были предоставлены участникам, организаторы могут подменить смысл результатов, расставив акценты.
Пример: Недавняя публикация результатов исследования общественного мнения россиян вызвала бурное обсуждение в Интернете (см. рисунок). В основном, обсуждение крутится вокруг термина «удовлетворительно». А для нашей статьи интересно, как результаты опроса преобразились в заголовке статьи за счет игры слов русского языка. В заголовке значится «половину россиян удовлетворяет экономика страны», в то время как в расшифровке статьи сказано, что только 6% оценили экономику положительно. Если бы в отчете были представлены только «существенные» результаты и был упущен вариант с положительной оценкой, то, благодаря богатству смыслов языка, понятие «удовлетворяет» воспринималось бы, как очень хороший результат опроса (а не как оценка «на троечку»).
На картинке: фрагмент новости о результатах соцопроса (источник: www.solidarnost.org).
Пример 2: Еще один веселый пример расстановки акцентов. Если ввести в поисковике фразу «почти половина россиян не доверяет полиции», выдаются ссылки на источники vedomosti.ru, rbc.ru, echo.msk.ru и др. А если ввести “почти половина россиян доверяет полиции», выдаются ссылки на ria.ru, news.sputnik.ru, www.business-gazeta.ru, ridus.ru (последний источник – на удивление, в отличие от скриншота).
На картинке: скриншот новостной ленты – расстановка акцентов разными изданиями (источник: joyreactor.cc)
Подмена понятий. По сути, практика защиты перед заказчиком одних только результатов исследования без предварительного рассмотрения сырых данных и способов их сбора, оставляет огромное поле для подделки данных и манипуляции результатами без всякой подделки. В таких случаях важно обращать внимание на логику и направленность вопросов в анкете перед тем, как анализировать ее результаты.
Поэтому особенно забавно смотрятся предложения обучающих и консалтинговых компаний самостоятельно оценить эффект от обучения персонала, или проведенных внедрений, и предоставить заказчику отчет о возврате на инвестиции. В анкетах обратной связи подрядчики могут спрашивать сотрудников совсем не о том, а в итоговом отчете подменять понятия. Но заказчики обычно с готовностью принимают такие отчеты, так как они выглядят вполне авторитетно, и не требуют усилий со стороны внутренних служб.
Пример: Недавно нам представили компанию, оказывающую PR-услуги. Представили, с гордостью пояснив, что эта компания – одна из немногих в отрасли, дающая четкий отчет по KPI (ключевым показателям эффективности) своей деятельности в процентах. Действительно, оценить эффективность маркетинговых и PR-кампаний, очистить замеры от всех влияющих условий рынка, непросто. Мы заинтересовались методикой. И, когда мы спросили, как именно проводится измерение эффективности PR-деятельности и вычисляются проценты, выяснилось, что в качестве единиц измерения используется план (например, «написать 10 статей в отраслевых изданиях»), а в качестве отчета – подсчет выполнения этого плата (по логике этой компании, если написано 9 статей, то KPI по PR выполнены на 90%). Конечно, существует разделение на процессные и фактические KPI и есть бизнесы, где важно именно четкое выполнение процесса. Но это не касается тех сфер, где процесс не имеет значения, если не достигнут результат. И у меня есть подозрение, что, предоставляя заказчику отчет об эффективности PR-кампании в численных показателях, эти подрядчики совершали грубую подмену понятий.
Наводящие формулировки. Тональность вопроса в анкете, или его направленность могут наводить участника на определенный ответ. Выгода организатора исследования от таких ответов заключается в подтверждении собственной позиции (например, при фальсификации теорий, или оправдании управленческих решений).
Пример: Хорошо этот эффект иллюстрирует «Теория перспектив» А. Тверски и Д. Канемана об экономии интеллектуальных затрат (за исследования иррациональной природы принимаемых людьми решений они получили Нобелевскую премию).
В одном из экспериментов по исследованию принятия решения в зависимости от контекста подаваемой информации, известном как «Азиатская болезнь», участникам предлагалось решить задачу: «Представьте, что Соединенные Штаты Америки готовятся к вспышке эпидемии неизвестной «азиатской болезни», вследствие которой, как ожидается, погибнет 600 человек. Для борьбы с этой болезнью предложены две альтернативные программы. Какую из них стоит выбрать?» Далее двум разным группам участников сообщалась одна и та же информация, но в разных формулировках (с позитивным и негативным фокусом). Авторы эксперимента доказали, что, стремясь сэкономить усилия при принятии решения, люди предпочитают полагаться на интуицию, прошлый опыт и более простые и оптимистичные варианты.
На картинке: Формулировки «программ» эксперимента «Азиатская болезнь» и предпочтение ответов участниками.
Еще один распространенный пример из исследований Д. Канемана: если одну группу испытуемых спросить: «Дожил ли Ганди до 114 лет? В каком возрасте он умер?», а другую: «Дожил ли Ганди до 35 лет? В каком возрасте он умер?», то первая группа оценит жизнь Ганди как гораздо более долгую, чем вторая.
Так, удачно формулируя вопросы анкеты, делая акцент на положительных вариантах, или используя наводящие цифры, исследователи создают «эффект привязки» и могут манипулировать ответами участников.
Второй вариант, при котором применяется техника наводящих формулировок, — это постепенное изменение убеждений участника исследования с помощью анкеты. В этом случае от вопроса к вопросу создается канва, при которой респондент вынужден отвечать определенным образом, сталкивается со своими ответами, как с новыми представлениями, и постепенно меняет точку зрения. Продолжением такого метода являются вопросы, создающие потребность (см. следующий пункт).
Пример: Однажды я сама стала жертвой жесткого манипулятивного опроса. Его проводила авторитетная организация, предлагая пройти on-line анкетирование людям со всего мира. Исследование подавалось под видом «Оцените, насколько правильно вы питаетесь». Начало анкеты было стандартным, задавались вопросы о разных продуктах, но постепенно анкета стала сужаться до фильтрующих вопросов о мясе (употребляете ли мясо, сколько раз в неделю, и т.д.). После моих ответов следующие вопросы анкеты стали предлагать мне просмотреть фотографии и видео о том, как умертвляют животных на фермах, как разделывают туши, как утилизируют отходы и др. И уже совсем скоро вопросы приобрели такой характер: «Зная, как страдают животные на фермах, вы по-прежнему будете регулярно употреблять мясо?» и «Не считаете ли вы, что стоит предпочесть растительные белки, такие же полезные и питательные, чтобы прекратить издевательство над животными?». Эти вопросы сыпались градом: никто уже не интересовался моим рационом. Казалось, завершить этот поток можно, только отвечая в духе «я все осознал и пойду теперь убеждать всех, кого встречу на пути». Впервые у меня был такой травматический опыт от заполнения анкеты. Я прекратила отвечать на вопросы, и мне потребовалось время, чтобы снова укрепиться в своих представлениях о питании, которые оказались под большим влиянием из-за этого опроса.
Опросы, создающие потребность. Создание у участников нужных потребностей с помощью правильно сформулированных вопросов – еще одна тактика манипуляций и продаж. И анкетные опросы в этом мероприятии оказывают хорошую поддержку продающим компаниям.
Никого уже не обманут псевдо-социологические опросы в стиле «Правильно ли вы ухаживаете за кожей?», или «Все ли вы знаете об очищении организма?», где после третьего вопроса появляется: «Знакомы ли вы с продукцией компании N?». Лет десять назад в нашей стране эти опросы были очень популярными.
Сейчас тактику создания потребностей используют более тонко. Первый вариант – это скрытое информирование участника с помощью анкеты об ассортименте и новых продуктах компании, что рождает осведомленность и вызывает любопытство (см. рисунок).
На картинке: фрагмент анкеты, рекомендованной Минздравом для определения группы риска по употреблению наркотиков подростками. Среди вопросов были также такие: «Сколько раз, если такое случалось, вы нюхали ингаляты – клей, аэрозоль, бензин – специально, чтобы получить «необычные ощущения»?». Анкеты предлагалось раздавать детям 10-13 лет, что вызвало бурное возмущение родителей. (Источники: Ridus.ru, RG.ru).
Второй вариант создания потребности – предложить клиенту анкету, якобы помогающую сориентироваться в том, какого вида услуга (товар) на самом деле ему нужна. Нельзя сказать, что это однозначная «политика зла». Такие анкеты, действительно, помогают уточнить потребности клиента, но они и очень хорошо помогают продавать.
Суть продажи заключается в том, что под видом опроса:
а) респондента подводят к мысли, что у него чего-то нет, или что-то используется неэффективно (вызывают чувство тревоги),
б) информируют о новых услугах (товарах, опциях), которые помогут решить его проблему (о которой он не знал до начала опроса).
Примерный алгоритм анкеты, создающей потребность:
1. Вводные нейтральные вопросы по теме, «айс-брейкеры».
2. Вопросы об актуальном состоянии респондента, которые постепенно подводят его к идее, что у него чего-то не хватает, или что-то устарело.
3. Вопросы, уточняющие, понимает ли респондент, какие последствия имеет эта нехватка, и чем она может обернуться лично для него или его бизнеса.
4. Вопросы о том, знаком ли респондент с некоторыми решениями (товарами, услугами, технологиями).
5. Вопросы, информирующие респондента, как именно эти решения помогают справиться с его проблемой.
6. Вопросы, наводящие на мысль о покупке (информирующие о цене, скидке, условиях).
7. Вопросы, подтверждающие, что при покупке этого решения проблемы респондента будут решены, и он получит дополнительную выгоду.
Пример: Если бы я хотела продать эту статью с помощью анкеты, я вначале задала бы несколько формальных вопросов о вашем опыте анкетных исследований и о том, получили ли вы специальное образование для проведения исследований (уже здесь начинается работа с тревогой). Потом спросила бы, с помощью каких процедур вы устанавливаете и доказываете, что респонденты правильно понимают инструкцию, формулировки и критерии оценки в ваших опросах. Затем спросила бы, знакомы ли вы с такими-то примерами из вашей сферы, когда результаты дорогих опросов приходилось выбрасывать из-за того, что не все респонденты верно понимали инструкцию, или суть вопросов. Упомянула бы, какой позор постиг организаторов таких опросов из такой-то компании. Потом я спросила бы, знакомы ли вы с процедурами концептуализации, операционализации, валидизации, адаптации, апробации и пилотного запуска, и в каком объеме вы их используете. Затем привела бы примеры, как эти процедуры помогли спасти дорогостоящие исследования. И, наконец, я поинтересовалась бы, что должно произойти в вашей компании для изменения подхода к опросным исследованиям и сколько, по-вашему, может стоить статья, в которой содержится алгоритм применения этих процедур, чтобы ваши исследования стали надежными, принесли успех вашей компании и лично вам.
В этом примере все еще отчетливо видны «белые нитки» продажи, но, чем ближе ваш респондент к статусу клиента (например, заполняет анкету на сайте продукта) и чем ближе он к покупке, тем лучше будет воспринята им такая анкета и тем легче получится увеличить объем его покупки за счет дополнительных продаж.
Третий вариант создающих потребность анкет, очень популярный сейчас, это развлекательные тесты. Интернет-пользователей до сих пор привлекают тесты в стиле «Хорошо ли вы разбираетесь в компьютерных играх?» (где можно невзначай добавить несколько вопросов с перечислением игровых новинок определенной компании), «Умеете ли вы управлять своим временем?» (здесь уместно упомянуть несколько специализированных мобильных приложений, которые вы хотите продать) и т.д. Такие тесты иногда выглядят профессионально и доставляют положительные эмоции, даже когда их рекламная природа очевидна.
Пример: Несколько дней назад друг предложил мне пройти тест на знание итальянских сыров на сайте «Медуза». Тест был отмечен значком «партнерский материал», а в названии упоминался бренд производителя сыров, но друг этого не заметил. Он зачитывал вопросы, а я воспринимала их на слух. Тест был, действительно, интересным.
И в какой-то момент, захотев уже салат с сочной полезной моцареллой, я шутя воскликнула:
– Да похоже, они продают эти сыры!
– Действительно, смотри, тут в конце теста написано: «Ну и конечно теперь мы просто обязаны вам рассказать, что U. тоже производит все сыры, о которых мы упомянули в тесте, – и не только. Они свежие и полезные, и даже кальций в них – со вкусом Италии».Много зная о маркетинговых уловках и манипуляции, мы все равно восприняли этот тест положительно и заинтересовались компанией, так как форма подачи и полезность контента перевысили знание об истинных целях организаторов теста.
Один из вопросов теста представлен на рисунке.
На картинке: Один из вопросов теста на знание итальянских сыров (Источник).
Опросы со смещенной целью. Особняком в этом списке опросов со скрытыми мотивами стоят опросы со смещенной целью, так как они используются, в основном, не для манипуляции, а для более изящного исследования мотивов респондентов, когда такое невозможно сделать с помощью прямых вопросов.
Пример: Об этом опросе рассказала моя ученица, директор частной мебельной фабрики. Она пыталась понять причины плохих продаж в фирменных магазинах. Несколько месяцев назад фабрика (изготавливавшая до этого только мягкую мебель) приобрела производство кухонь. Соответственно, в фирменных магазинах, кроме мягкой мебели, началась продажа кухонь. Но, на фоне стабильных продаж мягкой мебели, кухни продавались очень плохо. У директора возникла гипотеза, что причина плохих продаж не в плохом качестве продукции (у нее была возможность проверить реальный спрос), а в предвзятом отношении продавцов, которые саботировали продажи. Напрямую спросить об этом продавцов было невозможно, и потому она организовала среди них опрос в стиле «Почему, на ваш взгляд, кухни плохо продаются». Продавцы обрадовались возможности высказать, наконец, все свое недовольство от инноваций, и красноречиво отвечали на вопросы анкеты. Так ей удалось подтвердить свою гипотезу, собрать основные предубеждения продавцов против нового товара, понять их сопротивление и получить базу для работы с возражениями (в ее случае – с возражениями самих продавцов, а не клиентов).
5. Непонимание критериев оценки
Исследователи не всегда разъясняют критерии оценки, ожидая, что они интуитивно понятны участникам.
Пример: Традиционно из десятков анкет, присылаемых мне на экспертизу, около 30% содержат вопросы с просьбой оценить какой-то параметр (услугу, товар) от 1 до 5 баллов, но не содержат расшифровки значений, или хотя бы указания, какой полюс является положительным. Иногда все исследование пропадает, если организаторы обращают внимание на диаметральные различия в оценках респондентов и только потом догадываются, что некоторые респонденты ставили «1», предполагая, что это «первое место» в рейтинге, а другие ставили «1», как самый низкий балл.
Как выход из таких ситуаций, принято использовать шкалу Лайкерта (Лейкерта, Ликерта), содержащую более детальные формулировки для оценки (например, от «Совершенно не нравится» до «Очень нравится», или от «Никогда» до «Очень часто»). Можно найти или придумать много формулировок этой шкалы для самых разных вариантов вопросов. Но и у этой шкалы есть недостатки, так как субъективное понимание, например, частоты каких-то действий у разных людей может различаться. И если нам важно знать не их мнение о частоте, а более-менее точный показатель, лучше конкретизировать такие варианты ответов точными промежутками (например: «Реже одного раза в год» — «…» — «Несколько раз в день»).
На картинке: комментарии участников к анкетному опросу, опубликованному на сайте (источник: pikabu.ru)
Проработка вариантов ответа становится особенно важной, когда анкетный опрос применяется для оценки сложных, субъективно-значимых параметров. В таких случаях респонденты склонны к «ментальной экономии» и выбирают варианты оценки, соответствующие их общему представлению об объекте, не задумываясь над вопросом (например, «игра мне, в общем, нравится, проставлю везде 4 и 5 – не важно, оцениваю я звук, или уровень обратной связи с игроками»).
Такие усредненные оценки встречаются часто при проведении оценки сотрудников методом 360 градусов. Оценивая своих коллег, люди склонны ставить положительные баллы «любимым» и нейтральные, или отрицательные, баллы «нелюбимым», независимо от того, по какому параметру ставятся оценки (нелюбимый сотрудник может быть сильным лидером, или ни с кем не конфликтовать, но «рука не поднимется» поставить ему высокие баллы даже за эти показатели). В итоге, такая оценка оказывается совершенно бесполезной для организаторов исследования, так как не дает возможности выделить реальные проблемные точки у сотрудников компании.
Точно так же обстоят дела при оценке пользовательского опыта при работе с ИТ-продуктами. Если сайт, или компания, в общем, нравятся пользователю, он будет склонен ставить, в общем, высокие оценки, чтобы «никого не обидеть». И такой опрос не поможет разработчикам сделать продукт лучше.
Пример: Забавный случай случился с моей знакомой, когда только начал развиваться сервис «Одноклассники». Заведя аккаунт значительно позже своих знакомых и еще не зная негласных правил поведения на сайте, она стала просматривать профили друзей и ставить оценки фотографиям. Очень скоро несколько подруг ее заблокировали. Она была крайне удивлена и смогла разговорить одну из них, чтобы вяснить причину. Оказалось, подруг (уже давно закончивших школу) сильно задели низкие оценки, которые она ставила их фотографиям. «Как ты не понимаешь? Ты понизила мне общий балл своими двойками!» – призналась одна из них. А моя знакомая, в отличие от большинства пользователей «Одноклассников», была убеждена, что механизм оценки фотографий существует для того, чтобы искренне высказываться насчет удачности кадра, цвета, перспективы и др., а не для выполнения социальной функции поддержки друзей.
В таких случаях высшим пилотажем исследователя становится разработка «поведенческих» вариантов ответа, описывающих примеры проявления качества в поведении человека (или – при оценке продукта – особенности взаимодействия пользователя с ним). По поведенческим вариантам нельзя однозначно определить, какой из них положительный, и какой отрицательный, и респонденту приходится выбирать вариант, наиболее приближенный к реальности.
Пример: Можно предложить такие поведенческие варианты для оценки конфликтности: «Этот человек никогда не повышает голос и всегда держится в стороне от любых разногласий и споров» (самый низкий балл) – «Этот человек остро реагирует, когда его точка зрения не принимается коллегами, или когда поведение коллег кажется ему несправедливым; он может повышать голос, или даже решать разногласия силой» (самый высокий балл). Соответственно, в таком же ключе формулируются остальные промежуточные варианты оценки.
На картинке: Пример вопроса оценки «ориентации на команду» для оценки сотрудников методом 360 градусов. В каждом варианте можно заметить положительные и негативные черты, что увеличивает вероятность честной оценки, в отличие от простого приписывания высоких, или низких баллов сотруднику (Источник).
Разработка поведенческих вариантов оценки – сложный этап. Особенно сложно подобрать адекватные варианты, когда не совсем понятно, как они проявляются в реальном поведении (или взаимодействии пользователя с продуктом). Например, при оценке звуковых эффектов в игре высшей оценкой звука будет: «Звуки не отвлекают от игры, создают хороший фон», или «Звуки играют важнейшую роль, помогают следить за динамикой игры, во время подсказывают действия игрокам». Для того, чтобы варианты оценки получились наиболее соответствующими реальному опыту пользователя, используется этап операционализации, о котором я подробно расскажу в следующей части статьи.
Краткие выводы
Я попыталась описать примеры, когда очевидные для организаторов исследований этапы анкетирования неверно понимаются участниками. Респонденты могут неверно понимать слова и фразы, формулировки вопросов, инструкции к анкете, критерии оценки и направленность вопросов. Эти сложности приводят к сбору нерелевантной информации, или невозврату анкет.
Также мы рассмотрели примеры, когда замешательство респондентов провоцируется намеренно с целью манипуляции результатами опроса. Среди таких манипуляций:
— предоставление иллюзии выбора;
— расстановка акцентов;
— подмена понятий;
— наводящие формулировки;
— использование эффекта привязки;
— создание потребности: 1) через информирование и любознательность, 2) через провокацию тревоги, 3) через развлекательные тесты,
— опросы со смещенной целью.
Чтобы оценить, не манипулируют ли вашим мнением исследователи, предоставляя результаты анкетного опроса, можно задать им несколько вопросов по процедуре исследования:
1. Попросите посмотреть исходный текст анкеты и попробуйте самостоятельно ее заполнить перед тем, как знакомиться с результатами (еще лучше – перед тем, как санкционировать исследование).
2. Представьте, как заполняет эту анкету ваш типичный клиент, или сотрудник (все ли термины и формулировки будут ему понятны).
3. Обратите внимание на формулировку вопросов и вариантов ответа: есть ли негативные варианты, занимают ли они равное место с позитивными вариантами.
4. Обратите внимание, нет ли в вопросах анкеты наводящих формулировок и «привязок».
5. Просмотрите, насколько однозначно и конкретно сформулированы критерии оценки в вопросах анкеты (не провоцируют ли они на «ментальную экономию» – на нейтральные, или исключительно положительные ответы). Лучший вариант – если критерии оценки сформулированы в поведенческих примерах.
6. При анализе итогового отчета обратите внимание, на основе каких вопросов анкеты построены выводы: не подменяют ли исследователи понятия, не выдают ли мнения респондентов за факты.
7. Если используется зарубежная методика (например, от известной компании), поинтересуйтесь ссылками на публикации с описанием процедуры ее перевода, адаптации и валидизации. Без этих процедур методику нельзя считать авторитетным методом исследования, независимо от статуса ее разработчика.
8. Запросите точное распределение участников опроса по группам (пол, возраст, социальный статус, или: отделы, должности), чтобы избежать перекоса выборки (подробнее об этом – в предыдущей статье о выборке).
В следующих статьях:
Ошибка 2. Формулировки вопросов: почему вы решили, что вас понимают? (2 часть)
Ошибка 3. Виды лжи в опросах: почему вы верите ответам?
Ошибка 4. Мнение не равно поведению: вы действительно спрашиваете о том, что хотите узнать?
Ошибка 5. Виды опросов: вам нужно узнать, или подтвердить?
Ошибка 6. Разделяйте и насыщайте выборку: среднее ничего не помогает понять.
Ошибка 7. Пресловутый «Net Promouter Score» – это НЕ изящное решение.
Автор: TamaraK
Источник
В этих статьях я попыталась собрать опыт своих ошибок и находок, связанных с малозаметными ловушками в исследованиях. Обычно при обучении исследованиям много внимания уделяется выбору методологии, технике сбора данных и статистической обработке, но почти никто не говорит об организационных нюансах, которые могут извратить результаты, или полностью провалить исследование. Многие из них при прочтении покажутся вам очевидными, но для того, чтобы их подметить и начать учитывать в собственном исследовании, иногда требуются годы. Я провожу лично, преподаю и руковожу исследованиями уже больше 15 лет. Часто встречаясь с бизнес-исследованиями в ИТ-компаниях и видя их изнутри, я уверилась, что эти ловушки редко принимаются в расчет даже опытными исследователями.
А значит, материал будет полезен тем, кто проводит исследование пользователей (клиентов, сотрудников, учеников) с помощью анкетных опросов, кто делает это сам, или заказывает такие исследования. Для профессиональных исследователей эта статья будет представлять меньший интерес, чем для любителей.
Возможно ли исследовать потребности пользователей в опросах?
Иногда у компании возникает необходимость получить мнение пользователя о продукте (или мнение сотрудника о компании), узнать его потребности и скрытые возражения. Обычно выбирается простое решение. Составляется анкета с, казалось бы, логичными и простыми вопросами и рассылается пользователям. Вернувшуюся часть анкет математическими методами обрабатывают и принимают за репрезентативную выборку (отражающую взгляды типичных пользователей), анализируют с помощью статистики, визуализируют и готовят отчет для принятия решений и выработки стратегии. Часто ошибочный и бесполезный отчет.
Одна из самых коварных проблем таких исследований: потребности очень сложно исследовать, но почти всегда кажется, что исследование прошло удачно.
В этой и следующих статьях я расскажу про несколько типичных ошибок в исследовании потребностей пользователей и способах, которыми можно уменьшить их влияние на результаты исследования.
Ошибка 1. Смещение выборки, или кто все эти люди и почему они вам отвечают?
Все, кто когда-либо встречался с анкетными опросами, знают, что из розданных анкет возвращается только малая часть. Иногда – меньше 10%.
Способам уменьшить это зло посвящено много публикаций. В том числе, с советами по статистическому «подгону» выборки. Строго или не строго, но вернувшуюся часть анкет часто признают адеватной выборкой из генеральной совокупности (всей совокупности пользователей, мнения которых исследователь хочет изучить) и работают с тем, что есть. Иногда эта «выборочность» и вовсе незаметна – когда, например, приглашение к опросу рассылается безадресно, и откликнувшиеся пользователи считаются выборкой.
Пример. В крупной ИТ-компании (штатом в несколько тысяч) проводилось исследование удовлетворенности сотрудников работой HR-службы. Нас пригласили помочь только на этапе обработки результатов. До этого сотрудники подразделения сами составили анкету и сами запустили опрос, рассылая работникам приглашения по корпоративной почте. Они не позаботились о мотивации участников опроса и об «административном рычаге» (почти самой важной части любого организационного исследования) и просто рассчитывали на хороший отклик сотрудников. В итоге, анкеты вернулись с 15% отдачей. На анкеты отвечали, в основном, новые или совсем неопытные работники (они еще почти не сталкивались с деятельностью этого подразделения, но анкеты заполняли охотно и, как правило, выставляли завышенные баллы). Самая главная группа – руководители отделов – была представлена всего тремя (из нескольких десятков) самыми лояльными участниками. Возможность привлечь внимание к опросу была упущена, провести опрос повторно тоже было невозможно (организаторов обвинили бы в спаме). В итоге, они выбрали изящное решение – представили руководству результаты в процентном соотношении по каждой группе сотрудников, не указывая количество участников. В отчете получилось, что руководители отделов крайне удовлетворены работой подразделения. Срок жизни такого отчета – до того момента, пока руководитель не узнает, сколько человек из каждой группы реально принимали участие в опросе. Но такие вопросы задаются редко, и организационные исследования, на которые никто из сотрудников не обращает внимания, процветают.
Разберем 3 причины смещения выборки:
1) неправильный выбор канала поиска участников,
2) отзывчивость,
3) меркантильность.
1. Неправильный выбор канала поиска участников
Почти во всех учебниках по статистике вы найдете предостережение о смещении выборки, которое появляется, если вы опрашиваете, скажем, участников только одного Интернет-форума (при условии, что контингент пользователей значительно шире), или если вы проводите опрос сотрудников, находящихся в столовой в рабочее время, или опрашиваете самую доступную вам группу пользователей (например, пришедших на презентацию нового продукта): согласуются ли их мнения с мнениями остальных пользователей, или это все-таки специфическая группа? Эти предостережения – классические советы для исследователей, их наверняка многие учитывают.
Но я хочу обратить внимание на другие опасности смещения выборки – отзывчивость и меркантильность.
2. Отзывчивые враги исследователя
Ответьте честно: когда вы в последний раз были рады заполнению анкеты? Чаще всего, наверное, соглашались из солидарности, пытаясь помочь коллеге. Так вот, ваши ответы стоит исключить из выборки, как нерелевантные (вы отвечали на вопросы, как лояльный друг, или сочувствующий коллега, а не как «наивный» пользователь). В классических маркетинговых исследованиях принято после первичного анализа выборки исключать всех представителей смежных специальностей, в том числе, всех рекламщиков и маркетологов, так как их мнение считается профессионально деформированным. Кто тогда останется?
Кто все эти люди, отвечающие на наши опросы и находящие на них время? Кто в потоке около супермаркета подходит к социологу, кто открывает двери квартиры, или заполняет анкету в Интернет-опросе? Очевидно те, кого опрос волнует лично, или те, у кого полно времени, развит мотив помощи и общения и, возможно, недостаточно других интересных занятий.
Помните, в советском фильме «Самая обаятельная и привлекательная» главная героиня хочет выйти замуж с помощью подруги-социолога, специалиста по семейным отношениям. Вместе они пытаются исследовать потенциальных женихов героини и сталкиваются с их занятостью и нежеланием отвечать на вопросы. Но находится отзывчивый сотрудник, с удовольствием отвечающий на любые вопросы – совершенно не интересный невесте и исследователю респондент. Так и в жизни: в ситуации массового опроса, вероятно, мы можем не заметить, что за многочисленными ответами отзывчивых и нерелевантных пользователей мы не получили ни одного ответа от наших целевых клиентов.
В старом исследовании J.M. Darley, C. D. Batson, 1973 было показано, что даже ученики семинарии, встречая просьбы о помощи, оказывали ее значимо реже, если были заняты и спешили (например, готовились выступить на тему о добром самаритянине).
Источник: Хекхаузен Х. Мотивация и деятельность: В 2 т. Т. 2. М: Педагогика, 1986. С. 234-248 / Darley, J. M., and Batson, C.D., «From Jerusalem to Jericho»: A study of Situational and Dispositional Variables in Helping Behavior». JPSP, 1973, 27, 100-108.
А нужны нам ответы таких отзывчивых и незанятых людей? И будут ли их ответы отражать мнение типичных пользователей о нашем продукте? Они будут хвалить продукт, желая показаться хорошими, или, наоборот, критиковать его, желая привлечь к себе внимание?
Пример. Исследуя несколько лет назад лояльность сотрудников средней по размеру компании, мы обратили внимание на подозрительно позитивные, «монотонные», ответы нескольких ее сотрудников. Они первыми прислали полностью заполненные анкеты, высказывались о компании хорошо и полно, предлагали идеи и, в общем, представляли собой просто идеальных участников опроса. У нас это вызвало подозрения, которые мы смогли прояснить во время глубинных интервью. Оказалось, что сверх-отзывчивость к опросу проявили только продавцы, чувствовавшие свое шаткое положение перед приближающимся отчетным периодом. Они же и давали исключительно положительные отзывы о компании и руководстве (если бы мы взялись анализировать средние, эти отзывы существенно сместили бы общую картину результатов исследования). Один из продавцов и во время интервью расхваливал компанию и искренне признавался, что понимает, что задолжал ей, потому что не показывал результаты в течение года. Когда мы принесли отчет с предостережением для руководства, мы узнали, что «лояльный» сотрудник опередил нас, за день до этого подав заявление об увольнении.
Если портрет вашего пользователя «человек с большим количеством свободного времени, с развитой потребностью в помощи и общении», то да, можно смело использовать результаты таких опросов. Если ваш пользователь – человек занятой и рациональный, нужно дополнительно подумать, как привлечь его к исследованию. Чуть ниже я расскажу про свои находки для такого привлечения.
3. Меркантильные враги исследователя
Вторая проблема смещения выборки и получения ошибочных данных – это участие в опросах «искателей наживы».
Проблема внешней и внутренней мотивации участников опросов тоже обсуждается часто: стоит ли платить за труд, предлагать дополнительные награды и приятные бонусы клиентам, которые ответят на вопросы анкеты? В таких спорах есть четкая позиция: не вводите внешнюю мотивацию (деньги, бесплатный доступ, подарки, отгулы и др.) до тех пор, пока возможно работать с внутренней. И дело тут не в жадности. Внешняя мотивация почти всегда необратима, ее стоит считать последним отчаянным шагом.
Но смещение выборки среди реальных пользователей или потенциальных клиентов в сторону тех, кто заинтересован в оплате своего участия, – это еще малое зло. Большее зло, крайне актуальное сейчас на рынке исследований, – это когда с целью заработка люди выдают себя за ваших реальных или потенциальных клиентов, не являясь таковыми.
Сейчас многие сервисы on-line опросов предлагают услугу доступа к панели платных респондентов. Они привлекают и оплачивают труд участников исследования разными методами и остается догадываться, насколько щепетильно они относятся к таргетингу, и насколько такой удаленный таргетинг вообще выполним.
На рисунке: скриншот одного из сайтов, приглашающих активно участвовать в разных опросах.
Сомнения в чистоте таргетинга подкрепляются параллельно развивающейся волной активности со стороны участников таких опросов, размещающих советы о том, как заработать на онлайн-опросах и повысить вероятность получения приглашения (попадания в выборку). Например, советуют при заполнении анкеты написать, что у вас средний возраст, средний или выше среднего доход, вы состоите в браке, у вас есть водительские права, ребенок, вы являетесь постоянным потребителем определенных продуктов (о каких спросят в анкете – с такими и соглашайтесь) и не являетесь представителем определенной профессии (о какой спросят в анкете – ту и отрицайте). Все эти советы помогают сойти за типичного пользователя, попасть в исследование и получить деньги за участие. Представьте, какие люди зарабатывают на таких исследованиях, и какие ответы они будут давать на ваши вопросы.
На русскоязычных сайтах искателям наживы советуют выдавать себя за средних европейцев или американцев, а дальше – отвечать, как получится, даже без знания иностранного языка. Не нашими ли безработными соотечественниками и их случайными ответами определяются продуктовые стратегии западных брендов?
Мы можем игнорировать смещение выборки только в том редком случае, если для нас совершенно не важно, о каком пользователе идет речь, и нужны, например, какие-то его психофизические показатели, свойственные каждому нормально развивающемуся человеку без учета возраста и пола, или в том случае, если мы только начали тестирование продукта, и на этом этапе нам важны совершенно любые отзывы и идеи, независимо от портрета типичного пользователя. В последнем варианте имеет смысл только сбор «сырых данных» для подготовки более основательного опроса на релевантной выборке.
Как привлечь подходящих?
Чтобы не работать с «хорошей» выборкой неподходящих респондентов, мы время от времени используем такие психологические способы привлечения релевантной выборки.
Способ 1. Нужны деловые и рациональные? Мы находим для них смысл
Чтобы человек выделил время на заполнение анкеты, ему нужно найти в этом смысл. В таких случаях мы формулируем «легенду», приглашение к исследованию так, чтобы занятой человек, не испытывающий желания нам помогать, проникся идеей важности опроса и согласился, что на него стоит потратить время.
1. Важно для него. Иногда характер исследования позволяет подобрать мотивирующие стимулы, которые касаются лично респондента.
Пример 1. Несколько лет назад нам нужно было апробировать большой психологический опросник. По нему запрещено было сообщать результаты, пока опросник не пройдет проверку. Чтобы привлечь людей, мы присоединили к нему два авторитетных психологических теста, служивших для валидизации опросника. Каждому участнику после опроса давалась подробная индивидуальная расшифровка по этим тестам, что было для них хорошим стимулом участвовать в исследовании. Некоторым региональным участникам мы приносили распечатанные результаты или даже присылали бумажные письма, потому что у них не было e-mail. Однажды на Новый год я даже получила от одной участницы открытку с поздравлением и благодарностью за результаты.
Пример 2. Мы разрабатывали методологию и автоматизировали внутреннюю ежегодную оценку персонала в одной из компаний наших клиентов. Перед тем, как предложить методологию оценки, мы провели краткий опрос и узнали у сотрудников, что больше всего в предыдущих оценках их расстраивало отсутствие обратной связи о результатах. Им сообщался общий рейтинг, или начислялись премии, но развернутый результат никто не предлагал. Автоматизация помогла нам сделать процесс предоставления обратной связи мгновенным, развернутым и направленным на развитие каждого сотрудника.
Во-первых, после ответа на вопросы анкеты о себе и о своих сотрудниках (один из этапов оценки по принципу 360 градусов) каждый участник мог посмотреть, как его оценили сотрудники и руководство (оценки были визуализированы в паутинковой диаграмме и представляли вполне наглядные результаты) – см. рисунок.
Во-вторых, после получения итоговых баллов оценки личностных качеств сотрудник мог просмотреть расшифровку качества, узнать, что значит именно его оценка, и прочитать личные рекомендации для развития компетенций – в зависимости от полученных баллов, ему предлагались советы по поведению с сотрудниками и руководством, или специальные тренинги и семинары (см. рисунок).
В-третьих, после прочтения рекомендаций участник мог посмотреть, какую литературу он может прочитать для развития тех качеств, которые у него были оценены недостаточно высоко. Ссылки на литературу вели в корпоративную on-line библиотеку, где сотрудники могли оценивать прочитанные книги и оставлять комментарии (см. рисунок).
Так нам удалось вовлечь сотрудников в процесс оценки, добиться быстрого заполнения on-line анкет и существенно расцветить формальный процесс оценки.
2. Важно для общества. Когда лично респондента заинтересовать не получается, мы рассказываем в приглашении, почему возникла необходимость исследования, что угрожает обществу (природе, культуре, науке и др.) и почему важно получить ответы именно такого человека, чтобы понять, как изменить ситуацию. Конечно, такие объяснения подходят только для глобальных исследований, или социально-значимых проектов.
3. Важно для вас. Пожалуй, самый слабый аргумент. Часто эгоизм исследователей вызывает раздражение. Но бывают и удачные примеры, когда исследователь объясняет свое затруднительное положение и вызывает сочувствие.
Пример 1: Я встречала похожие призывы. Обычно они срабатывают: «Я устроился на работу своей мечты. Но могу не пройти испытательный срок, если не проведу хорошее исследование клиентов. (Пишу дипломную работу / Стараюсь выиграть грант на обучение). Я очень стараюсь, чтобы исследование получилось качественным. Только никак не могу собрать нужное количество экспертов для участия в опросе. Пожалуйста, помогите мне получить работу мечты. Вам нужно ответить всего на пару вопросов, а мне это даст огромный шанс сделать что-то стоящее».
Пример 2: Однажды меня по-настоящему подкупил звонок из известной МЛМ-компании, распространяющей косметику. Девушка начала разговор такими словами: «Мы заметили, что в последнее время репутация нашей компании стала падать, и мы решили провести опрос общественного мнения, чтобы понять, что именно не нравится нашим клиентам. Не могли бы вы помочь нам и ответить на несколько вопросов, чтобы мы смогли улучшить свою репутацию и снова радовать клиентов?» Я прониклась их проблемой, готова была подробно ответить на ее вопросы. К сожалению, после этой вводной фразы девушка снова вернулась к обычным шагам телефонных продаж, и я быстро прекратила разговор.
Способ 2. Рассказываем, к чему это приведет
Одно из самых неприятных переживаний для человека – переживание тщетности усилий. Вероятность заполнения анкет в наших исследованиях обычно повышается, если мы объясняем участникам, как будут использованы их ответы. Иногда мы честно рассказываем, что сейчас выбираем стратегию развития продукта, и будем основывать выбор на решении клиентов. Или сообщаем, что в результате исследования будет опубликован отчет с рекомендациями для всех производителей подобных товаров. Участники исследования имеют право знать, где будут использованы результаты их работы, чтобы решить, стоит ли принимать в этом участие.
Способ 3. Угадываем «внутренний» мотив
Какие личностные мотивы клиентов могут повлиять на заполнение анкеты? Какую радость мы можем им принести?
Приведу неполный список потребностей, которые можно учитывать в приглашениях и благодарностях для участников опросов. Мы никогда не задействуем все варианты сразу. Тип опроса и особенности целевой аудитории задают и варианты привлечения респондентов. Некоторые ходы требуют от нас дополнительных усилий, но одни из них помогают привлечь участников, а другие помогают сделать их лояльными и возвратить, когда их мнение снова нам понадобится.
Потребность в развитии и самопознании – в этом случае мы гарантируем каждому участнику отчет с результатами исследования, или ссылку на его публикацию в прессе. Если у нас есть ресурсы и участники нам очень дороги, каждому из них мы составляем сравнительный отчет: как его ответы отличались от ответов большинства других участников опроса. Аппаратно организовать это не так сложно, но эффект получается хорошим.
Пример. Однажды такой ход помог нам привлечь к исследованию директоров государственных предприятий. Их желание узнать, как их мнение отличается от мнений других директоров в отрасли, стало единственным мотиватором для участия в нашем опросе. Мы получили богатую специализированную выборку, а затратили на это всего лишь дополнительный день работы недорогого ассистента и немного бумаги для отчета каждому участнику.
Потребность во власти – в этом варианте мы подчеркиваем, что ответы участника будут специально рассматриваться при принятии решения об изменении продукта, или политики компании. И обязательно обещаем выслать отчет о таких изменениях. Самое главное в таких обещаниях – потратить дополнительные усилия, чтобы выдержать их. Так мы повышаем лояльность к продукту и обеспечиваем себе участников для следующего исследования.
Потребность в принадлежности – в этом случае можно создать сообщество тестеров/ друзей / евангелистов продукта, сделать площадку для их общения, давать им привилегии в виде эксклюзивной информации, тестового доступа, тестирования новых функций. Здесь важно выбрать признак, по которому участника можно отнести в небольшую группу подобных ему пользователей: сообщить в приглашении, что этот человек был отобран в группу самых активных (или самых молодых, столичных, владеющих минивэнами, и т.д.) пользователей продукта.
Потребность в получении новых знаний (любопытство) – с этой потребностью работать просто, если в опросе принимают участие эксперты, или фанаты продукта. Опрос можно сделать развивающим, предложить уникальное тестирование новых функций продукта, сообщать в вопросах факты о продукте, или другие важные детали, скомбинировать итоговый отчет с тематической статьей, или пообещать выслать развернутый материал по этой теме, когда закончится исследование. Здесь важно избегать смещения выборки: статья, или обещание эксклюзивного материала привлечет только экспертов в этой области. Если вам нужны мнения неопытных пользователей, нужно обещать им что-то неспециализированное и развлекательное.
Потребность в восхищении (тщеславие) – эту потребность мы задействуем, когда исследуем ограниченное число экспертов. В таких случаях мы обещаем упоминание компании участника, или его имени (если это уместно) в публикации результатов отчета, включение в клуб евангелистов, или клуб рецензентов, и др. Если участников много, мы можем потратить время на именные благодарственные письма каждому из них через несколько дней после исследования, в которых еще раз подчеркиваем, как важно было именно его участие в исследовании.
Потребность оказывать помощь – довольно сильный мотиватор, его можно применять почти во всех опросах. Когда мы его используем, мы подчеркиваем сложное положение, в котором оказались разработчики, рассказываем подробнее о затруднениях (увеличилось число отказов, пользователи недовольны продуктом, но мы не можем понять, что их не устраивает, или не знаем, как сделать лучше, и потому очень нуждаемся в совете). Здесь важно не стесняться показаться в слабой позиции. Иногда компании выдумывают затруднения, чтобы вовлечь в бесплатную работу сочувствующих пользователей. Участникам исследования приятнее чувствовать себя экспертами, чем подопытными, поэтому позиция “просящего о помощи” не ослабит вас, но привлечет более мотивированных участников.
Способ 4. Придумываем нематериальный «внешний» мотив
Предоставление скидки, эксклюзивных условий использования продукта для пользователей, часа отгула для сотрудников, и т.д. – все еще рискованные стимулы, они могут сместить интерес от заполнения анкеты на получение награды. Нематериальной наградой станет подарок в виде ссылки на интересное видео, анекдот в конце анкеты, неожиданный сувенир.
Если нужно привлечь экспертов для получения профессиональной обратной связи, в таких случаях часто используют предоставление уникального доступа к новой версии продукта, авторы книг и приложений рассылают их бесплатные версии для тестирования и рецензий. Проводятся целые кампании по привлечению ранних тестировщиков продукта. Все это служит еще и маркетинговым целям продвижения.
Способ 5. Стараемся не заигрывать с анонимностью
Часто я слышу жалобы от сотрудников разных компаний на проводимые внутриорганизационные опросы: «Они заверяют, что опрос анонимный, но просят прислать ответы по e-mail и спрашивают мою должность, пол и возраст! Как только я это увидел, я отказался заполнять их лживый опросник».
Пример:
И еще
Часто эта «ложь» у организаторов исследования появляется не со зла, а от желания насытить данные, сегментировать участников и сделать исследование более детальным. Так что, лучше не обещать анонимность, если респондентов можно вычислить по ответам.
В таких случаях мы либо используем максимально защищенные способы сбора ответов (конвертные исследования, анонимный опрос по ссылке), либо обещаем только такую защиту данных, которую можем выполнить сами.
Пример: Наша компания недавно стала партнером в проведении исследования лучших работодателей в Беларуси. Наш партнер, известный Интернет-ресурс о работе в ИТ, проводит это исследование среди ИТ-компаний уже несколько лет. Они выбрали такой вариант обеспечения анонимности: в исследуемую компанию приезжают сотрудницы с коробкой конвертов. Внешне конверты одинаковые, но внутри каждого находится уникальная ссылка на on-line анкету. Конверты раздаются участникам рандомно, имена участников не фиксируются и не сопоставляются с определенными конвертами. Так удается снять тревогу участников по поводу соотнесения ответов с определенным сотрудником. Уникальные ссылки на опрос нужны для того, чтобы защитить исследование от искусственных накруток со стороны руководителей компании-участника и снять подозрения сотрудников на этот счет. Конечно, остается проблема возврата анкет (здесь можно вернуться к вопросу об отзывчивости) и проблема узкого таргетирования, за которым особенно тревожные сотрудники могут заподозрить попытки их вычислить (эта проблема увеличивается по мере уменьшения размера компании, где вычислить сотрудника по полу, возрасту и должности становится просто, и для ее снижения авторы анкеты избегают слишком точных вопросов о возрасте и должности сотрудника).
На фото: коробка с анонимными конвертами для участников исследования.
Когда добиться анонимности совсем сложно, можно гарантировать сохранение данных и доступ к ним только исследовательской команды.
Пример формулировки в приглашении: «Мы гарантируем, что ваши ответы будут анализироваться совокупно с ответами остальных участников исследования, не будут рассматриваться отдельно, разглашаться или передаваться третьим лицам, не участвующим в проведении данного исследования».
Способ 6. По возможности снимаем тревогу по поводу времени
Анкета становится более привлекательной, если она маленькая, а в введении сразу видна информация о количестве вопросов и ожидаемом времени заполнения. Если присмотреться к анкете придирчиво и переформулировать вопросы, обычно можно сократить ее в 2 раза. И еще треть вопросов – почти всю «паспортичку» – заполнить самостоятельно (если исследование не анонимное, и вы знаете данные об участнике), или дать сразу подготовленную анкету (разделить бланки / ссылки для женщин и мужчин, разных возрастных и статусных групп, и т.д.). Все это уменьшит возражения респондентов против участия в опросе.
1. Обещаем простоту сразу во введении.
Пример: «Анкета содержит 10 простых вопросов, и ее заполнение не займет у вас больше 5 минут».
2. Если вопросы требуют перехода, и участник не видит сразу, где кончается анкета, мы показываем прогресс выполнения – это увеличивает вероятность заполнения анкеты до конца.
Пример: «Вопрос 1 из 19, Вопрос 2 из 19 и т.д.», если анкета моделируется в зависимости от предыдущих ответов, пишите в заглавии вопросов: «Часть 1 из 4, Часть 2 из 4».
3. Маленькая хитрость. Если участник уже заполнил большую часть анкеты, ему жалко потерянного времени, и он, скорее всего, пройдет анкету до конца. Поэтому, в начале анкеты мы обычно помещаем легкие вопросы, которые могут максимально завлечь участника (это вопросы о самом участнике, его вкусах, но не личные вопросы и не сложные сравнения, которые могут сразу отпугнуть).
Способ 7. Устанавливаем временные границы
Заполнение анкеты люди часто относят «на потом» и вовсе забывают. Мы считаем удачей, если получается сразу вовлечь участников в заполнение анкеты. Это хорошо проходит в организационных исследованиях, когда есть возможность пригласить участников в отдельную комнату для исследования в рабочее время, или когда руководитель выделяет сотрудникам время для заполнения анкеты.
В on-line опросах быстрого заполнения анкеты удается добиться, когда это импульсивное участие в кратком опросе. В других случаях мы дополнительно ограничиваем время и просим прислать заполненную анкету, например, до 22:00 этого дня, или до пятницы, и т.д. Иногда, если участники достаточно лояльны, ближе к истечению срока мы присылаем напоминания.
Способ 8. Развлекаем и удерживаем внимание
Если анкета все-таки получилась большой (больше 10 вопросов), можно добавить к некоторым вопросам картинки, видео или забавные факты. Мы стараемся чередовать сложные и простые вопросы, убираем по возможности таблицы, сравнения, сложные списки, вопросы с ранжированием: их очень любят исследователи и очень не любят респонденты.
Когда у нас есть больше ресурсов, мы стараемся сделать опрос игровым и максимально визуальным. Это уже отдельная тема геймификации опросов, здесь я приведу только пару примеров из своего опыта.
Пример 1: Сейчас мы заканчиваем проект по внедрению on-line обратной связи для крупной торговой компании. Клиентов обычно очень сложно мотивировать на предоставление обратной связи, особенно, если дело касается быстрой купли-продажи. Для вовлечения клиентов в такой опрос и удержания их лояльности, мы с помощью профессионального иллюстратора визуализировали каждое правило обслуживания клиентов в положительном и негативном ключе. Получился красочный, местами шутливый, комикс с примерами хорошего и плохого обслуживания и приглашением поставить галочку по 6-балльной шкале по каждому пункту. От картинки к картинке в комиксе начинают узнаваться персонажи, поневоле клиент начинает за ними следить, у него усиливается любопытство и ожидание следующей картинки. Это вовлекает участников и страхует нас от не до конца заполненных анкет. Кроме того, для компании это – дополнительная возможность напомнить о своих стандартах обслуживания и показать заботу о клиенте.
Официальный релиз проекта состоится уже совсем скоро, поэтому, я смогу показать примеры и рассказать о результатах внедрения только в следующих статьях.
Пример 2: В компании с автоматизированной оценкой персонала, о которой я писала выше, вопрос первичного вовлечения участников мы также решили за счет визуализации. При опросе сотрудников о том, что они хотели бы поменять в оценке, мы услышали такие мнения: «Вот в Одноклассниках мне интересно ставить оценки, там я сразу вижу, кого оцениваю». Шутка шуткой, а мы решили использовать набиравший тогда силу интерес к Одноклассникам у более взрослых сотрудников компании для вовлечения их в нашу on-line оценку. При оценивании каждого сотрудника перед участником в системе появлялась карточка с его фотографией, возможностью дать быструю, или развернутую оценку, и написать личное пожелание. Эти пожелания никак не учитывались при подведении результатов оценки, но служили для вовлечения сотрудников за счет создания дополнительного канала коммуникации.
Итак, в этой статье я рассказала, какие методы мы применяем в исследованиях, чтобы вовлечь максимально релевантных участников, и не допустить смещения выборки.
Подытожу эту часть в виде краткой памятки по составлению анкеты:
1. Определите портрет целевого респондента и подумайте, что может привлечь такого человека к участию в опросе.
2. В приглашении к исследованию, вводной и заключительной части анкеты сделайте участникам предложение, значимое для их личностных потребностей (потребности во власти, любопытстве, самопознании, принадлежности, помощи, восхищении).
3. Не используйте внешнюю мотивацию на участие в опросе, если можно использовать внутреннюю.
4. Обещайте только тот уровень анонимности, который можете обеспечить.
5. Сократите анкету, насколько это возможно. Оставьте участникам на заполнение только те поля, которые вы не можете заполнить за них.
6. Старайтесь не включать в анкету сложные задания и сравнения. Расскажите участникам про простоту анкеты во введении.
7. Задайте четкие временные рамки.
8. Продумайте развлечение для участников во время и после заполнения анкеты.
Кулинкович Тамара