Qué es un test multivariante.
Un test que cambia varias piezas de la misma página a la vez y sirve todas sus combinaciones, para saber qué pieza mueve la conversión y cuáles se potencian entre sí. Contesta más que un A/B y lo cobra en tráfico.
Un test multivariante es un experimento que cambia a la vez varias piezas de una misma página, como el titular, la imagen y el botón, y reparte el tráfico entre todas sus combinaciones para medir el efecto de cada pieza y de cómo se combinan. Tres piezas con dos versiones cada una son ocho combinaciones, y cada combinación necesita su propia muestra.
También: multivariate test · test mvt
Agencia Snowball, Barcelona · Revisado el
Varias piezas a la vez, y todas sus combinaciones.
Un test A/B cambia una cosa, solo una, y la enseña a la mitad del tráfico. Un test multivariante cambia varias piezas de la misma página a la vez —el titular, la imagen, el botón— y sirve todas las combinaciones posibles, cada una a su parte del tráfico. Es el mismo experimento con más preguntas dentro: no solo qué titular convierte mejor, sino con qué imagen y con qué botón.
Durante años se dijo que no era buena idea, porque si tocabas varias cosas de una landing nunca acababas de saber cuál había movido la conversión. Eso ya no pasa. Como cada combinación se sirve por separado, la herramienta lee el efecto de cada pieza y, sobre todo, lo que un A/B no ve nunca: si dos piezas se potencian entre sí. Un titular que promete rapidez puede funcionar con una foto del producto y hundirse con una foto de equipo. Tres A/B seguidos no lo detectan; un multivariante sí.
La factura es el tráfico. Todos los tests funcionan repartiendo las visitas de una URL, y el multivariante las reparte entre muchas más casillas. Tres piezas con dos versiones cada una no son seis variantes: son 2 × 2 × 2 = 8 combinaciones, y cada una necesita su propia muestra para que su tasa de conversión signifique algo.
Cada versión recibe 8.000 usuarios al mes: el doble del suelo de 4.000.
Cada combinación recibe 2.000 usuarios al mes: la mitad del suelo. La URL es la misma; lo que ha cambiado es entre cuántas casillas se reparte.
Las combinaciones se multiplican, y el tráfico con ellas.
Combinaciones = versiones de la primera pieza × versiones de la segunda × versiones de la tercera. El tráfico que necesita la URL es esa cifra multiplicada por la muestra que pide cada combinación.
La regla de partida es la de un A/B: por debajo de 8.000 usuarios al mes por URL deja de ser representativo, o sea 4.000 por versión. Un multivariante no tiene una regla más blanda; tiene la misma por cada casilla. Con cuatro combinaciones la URL necesita 16.000 al mes; con ocho, 32.000. Y si en lugar de dos versiones por pieza pruebas tres, tres piezas ya son 27 combinaciones y 108.000 usuarios al mes.
Ese suelo es el mínimo para que el test no sea ruido, no la cuenta fina. La cuenta fina es el tamaño de muestra, y depende de tu conversión de partida y de la mejora que quieres ser capaz de ver. Con un escenario de ejemplo —un 2% de conversión y una mejora buscada del 20%— la fórmula pide unos 19.230 usuarios por versión. En un A/B son el doble; en un 2×2×2, ocho veces: 153.838 usuarios. Sea cual sea la muestra que te salga por versión, el multivariante la multiplica por sus combinaciones.
Y si el tráfico es el que es, lo que se mueve es la mejora mínima que el test puede resolver: el efecto mínimo detectable. Repartir la misma URL entre ocho casillas en vez de entre dos hace que cada casilla solo vea diferencias grandes. Las pequeñas, que son casi todas las que produce cambiar un botón, se quedan dentro del ruido.
Casi nunca es la opción, y cuando lo es se nota.
Las mismas tres piezas se pueden probar de dos formas. Las dos son correctas; contestan cosas distintas y cuestan tráfico distinto.
Lo que contestaQué hace cada pieza por separado. No ve si el titular nuevo solo funciona con la imagen nueva.
Lo que contestaQué hace cada pieza y qué combinación gana, incluido si dos piezas se potencian o se estorban.
El multivariante pide 4 veces el tráfico mensual de un A/B a cambio de contestar en una sola ventana y de ver las interacciones. Ese cambio solo compensa con tres condiciones a la vez: una URL que supera con holgura 32.000 usuarios al mes, piezas que se leen juntas —el titular y la imagen cuentan la misma historia— y una hipótesis concreta sobre por qué esas piezas deberían reforzarse. Sin la tercera, el test es una ruleta con ocho casillas.
Lo honesto es decir que eso pasa en pocas páginas y en pocas empresas. Si tu web mueve menos de 8.000 usuarios al mes por URL, que es lo normal en una empresa de 1 a 20 millones, no te llega ni para un A/B: ahí se decide con research cualitativo —grabaciones, mapas de calor, entrevistas—. El A/B es el test que más se usa por algo: da un aprendizaje validado por ventana con el tráfico que la mayoría tiene. Y cuantos más cambios mete un test y más compleja es su estructura, más tráfico pide; el test de rutas entre varias páginas del embudo es el extremo, y necesita tráfico a chorro.
Un último caso que se confunde: si lo que quieres saber es si una página recargada de llamadas a la acción convierte mejor que una minimalista, no necesitas un multivariante. Es un split test, dos URLs distintas, y pide el tráfico de un A/B. Ese test es parte del CRO de cualquier web con algo de volumen; el multivariante, de muy pocas.
Cuatro formas de montar un multivariante que no podía contestar.
Montarlo porque la herramienta lo permite
Cualquier herramienta de testing deja añadir piezas sin pedirte el tráfico. La cuenta es tuya: 4.000 usuarios al mes por combinación, antes de lanzar. En una URL de 16.000 un 2×2×2 deja 2.000 por casilla. Corre un mes, pinta ocho líneas y ninguna dice nada.
Contar piezas en vez de combinaciones
Tres piezas parecen poco. Con tres versiones cada una son 27 combinaciones y 108.000 usuarios al mes de suelo. El número que manda es el producto, no la suma, y crece mucho más deprisa de lo que se intuye en la reunión.
Leer la casilla ganadora como si fuera un A/B
Ocho combinaciones son 7 comparaciones contra la original. Si cada una se acepta con un 5% de riesgo, la probabilidad de que al menos una gane por puro azar sube al 30%. Eso es un falso positivo esperando a pasar, y se corrige ajustando la significancia estadística al número de comparaciones, no celebrando la primera casilla que se pone verde.
Llamar multivariante a un rediseño
Cambiar la página entera y enfrentarla a la antigua no es un multivariante: es un split test. Te dice qué página gana, no qué pieza lo ha conseguido. Es un buen test, y barato en tráfico, pero no esperes de él la respuesta que solo da la rejilla.
Lo que se pregunta sobre test multivariante.
¿Qué diferencia hay entre un test A/B y un test multivariante?
Un test A/B cambia una sola pieza y compara dos versiones. Un test multivariante cambia varias piezas a la vez y compara todas sus combinaciones, así que además del efecto de cada pieza ve si dos piezas se potencian o se estorban entre sí. A cambio, reparte el mismo tráfico entre muchas más casillas.
¿Cuánto tráfico necesita un test multivariante?
El suelo de un A/B son 8.000 usuarios al mes por URL, es decir 4.000 por versión. Un multivariante necesita esos 4.000 por cada combinación: con tres piezas de dos versiones son ocho combinaciones y 32.000 usuarios al mes; con tres piezas de tres versiones, 27 combinaciones y 108.000. La cuenta fina por combinación es la del tamaño de muestra.
¿Cómo se cuentan las combinaciones de un test multivariante?
Se multiplican las versiones de cada pieza. Dos piezas con dos versiones son 2 × 2 = 4 combinaciones; tres piezas, 2 × 2 × 2 = 8; si una de las tres tiene tres versiones, 3 × 2 × 2 = 12. Es un producto, no una suma, y por eso el tráfico necesario se dispara con cada pieza que se añade.
¿Cuándo merece la pena hacer un test multivariante?
Cuando se cumplen tres cosas a la vez: la URL supera con holgura el tráfico que piden sus combinaciones, las piezas se leen juntas y hay una hipótesis concreta sobre por qué deberían reforzarse. Si la página mueve menos de 8.000 usuarios al mes no llega ni para un A/B, y ahí se decide con research cualitativo.
Los que hacen falta para usar este.
Cómo se comprueba una idea antes de creérsela, y cuándo un resultado significa algo.
Dos versiones de lo mismo enseñadas a la vez a públicos equivalentes para ver cuál convierte mejor. Con poco tráfico no separa la señal del ruido.
Un cambio hecho a propósito para contestar una pregunta, con el criterio de éxito decidido antes de mirar el resultado. Sin pregunta ni criterio no hay experimento: hay un cambio.
Cuánta gente hace falta para que un test concluya algo. Por debajo, el resultado es ruido con forma de decisión.
Optimización de la conversión. Casi siempre es lo que hay que mirar ANTES de tocar los anuncios.
Lo que sabes después del experimento y no sabías antes, escrito para que siga sirviendo dentro de un año. El único resultado que no caduca cuando cambias la creatividad.
La lista ordenada de lo que vas a probar y en qué orden. Convierte las ideas sueltas de una reunión en trabajo de las próximas semanas.