GlosarioExperimentation

Qué es un test multivariante.

Un test que cambia varias piezas de la misma página a la vez y sirve todas sus combinaciones, para saber qué pieza mueve la conversión y cuáles se potencian entre sí. Contesta más que un A/B y lo cobra en tráfico.

Un test multivariante es un experimento que cambia a la vez varias piezas de una misma página, como el titular, la imagen y el botón, y reparte el tráfico entre todas sus combinaciones para medir el efecto de cada pieza y de cómo se combinan. Tres piezas con dos versiones cada una son ocho combinaciones, y cada combinación necesita su propia muestra.

También: multivariate test · test mvt

Agencia Snowball, Barcelona · Revisado el

La definición

Varias piezas a la vez, y todas sus combinaciones.

Un test A/B cambia una cosa, solo una, y la enseña a la mitad del tráfico. Un test multivariante cambia varias piezas de la misma página a la vez —el titular, la imagen, el botón— y sirve todas las combinaciones posibles, cada una a su parte del tráfico. Es el mismo experimento con más preguntas dentro: no solo qué titular convierte mejor, sino con qué imagen y con qué botón.

Durante años se dijo que no era buena idea, porque si tocabas varias cosas de una landing nunca acababas de saber cuál había movido la conversión. Eso ya no pasa. Como cada combinación se sirve por separado, la herramienta lee el efecto de cada pieza y, sobre todo, lo que un A/B no ve nunca: si dos piezas se potencian entre sí. Un titular que promete rapidez puede funcionar con una foto del producto y hundirse con una foto de equipo. Tres A/B seguidos no lo detectan; un multivariante sí.

La factura es el tráfico. Todos los tests funcionan repartiendo las visitas de una URL, y el multivariante las reparte entre muchas más casillas. Tres piezas con dos versiones cada una no son seis variantes: son 2 × 2 × 2 = 8 combinaciones, y cada una necesita su propia muestra para que su tasa de conversión signifique algo.

Test A/B · 1 pieza2 versiones
01
Titular A
8.000/mes
02
Titular B
8.000/mes

Cada versión recibe 8.000 usuarios al mes: el doble del suelo de 4.000.

Test multivariante · 3 piezas2 × 2 × 2 = 8 combinaciones
01
Titular AImagen ABotón A
2.000/mes
02
Titular AImagen ABotón B
2.000/mes
03
Titular AImagen BBotón A
2.000/mes
04
Titular AImagen BBotón B
2.000/mes
05
Titular BImagen ABotón A
2.000/mes
06
Titular BImagen ABotón B
2.000/mes
07
Titular BImagen BBotón A
2.000/mes
08
Titular BImagen BBotón B
2.000/mes

Cada combinación recibe 2.000 usuarios al mes: la mitad del suelo. La URL es la misma; lo que ha cambiado es entre cuántas casillas se reparte.

La cuenta

Las combinaciones se multiplican, y el tráfico con ellas.

Combinaciones = versiones de la primera pieza × versiones de la segunda × versiones de la tercera. El tráfico que necesita la URL es esa cifra multiplicada por la muestra que pide cada combinación.

40.00080.000120.000USUARIOS AL MES QUE NECESITA LA URLTu URL · 16.000/mes8.0001 pieza2 versiones16.0002 piezas4 combinaciones32.0003 piezas8 combinaciones64.0004 piezas16 combinaciones128.0005 piezas32 combinacionesPIEZAS CON DOS VERSIONES CADA UNA
A 4.000 usuarios al mes por combinación, una pieza pide 8.000, dos piezas 16.000, tres 32.000, cuatro 64.000 y cinco 128.000. Cada pieza que añades duplica la cuenta; no la suma. Una URL de 16.000 al mes se queda en dos piezas.

La regla de partida es la de un A/B: por debajo de 8.000 usuarios al mes por URL deja de ser representativo, o sea 4.000 por versión. Un multivariante no tiene una regla más blanda; tiene la misma por cada casilla. Con cuatro combinaciones la URL necesita 16.000 al mes; con ocho, 32.000. Y si en lugar de dos versiones por pieza pruebas tres, tres piezas ya son 27 combinaciones y 108.000 usuarios al mes.

Ese suelo es el mínimo para que el test no sea ruido, no la cuenta fina. La cuenta fina es el tamaño de muestra, y depende de tu conversión de partida y de la mejora que quieres ser capaz de ver. Con un escenario de ejemplo —un 2% de conversión y una mejora buscada del 20%— la fórmula pide unos 19.230 usuarios por versión. En un A/B son el doble; en un 2×2×2, ocho veces: 153.838 usuarios. Sea cual sea la muestra que te salga por versión, el multivariante la multiplica por sus combinaciones.

Y si el tráfico es el que es, lo que se mueve es la mejora mínima que el test puede resolver: el efecto mínimo detectable. Repartir la misma URL entre ocho casillas en vez de entre dos hace que cada casilla solo vea diferencias grandes. Las pequeñas, que son casi todas las que produce cambiar un botón, se quedan dentro del ruido.

La decisión

Casi nunca es la opción, y cuando lo es se nota.

Las mismas tres piezas se pueden probar de dos formas. Las dos son correctas; contestan cosas distintas y cuestan tráfico distinto.

Tres A/B seguidos
Versiones a la vez2
Suelo de la URL8.000/mes
Ventanas de test3, una por pieza

Lo que contestaQué hace cada pieza por separado. No ve si el titular nuevo solo funciona con la imagen nueva.

En una URL de 16.000 al mes, cabe
Un multivariante 2×2×2
Versiones a la vez8
Suelo de la URL32.000/mes
Ventanas de test1

Lo que contestaQué hace cada pieza y qué combinación gana, incluido si dos piezas se potencian o se estorban.

En una URL de 16.000 al mes, no cabe: faltan 16.000

El multivariante pide 4 veces el tráfico mensual de un A/B a cambio de contestar en una sola ventana y de ver las interacciones. Ese cambio solo compensa con tres condiciones a la vez: una URL que supera con holgura 32.000 usuarios al mes, piezas que se leen juntas —el titular y la imagen cuentan la misma historia— y una hipótesis concreta sobre por qué esas piezas deberían reforzarse. Sin la tercera, el test es una ruleta con ocho casillas.

Lo honesto es decir que eso pasa en pocas páginas y en pocas empresas. Si tu web mueve menos de 8.000 usuarios al mes por URL, que es lo normal en una empresa de 1 a 20 millones, no te llega ni para un A/B: ahí se decide con research cualitativo —grabaciones, mapas de calor, entrevistas—. El A/B es el test que más se usa por algo: da un aprendizaje validado por ventana con el tráfico que la mayoría tiene. Y cuantos más cambios mete un test y más compleja es su estructura, más tráfico pide; el test de rutas entre varias páginas del embudo es el extremo, y necesita tráfico a chorro.

Un último caso que se confunde: si lo que quieres saber es si una página recargada de llamadas a la acción convierte mejor que una minimalista, no necesitas un multivariante. Es un split test, dos URLs distintas, y pide el tráfico de un A/B. Ese test es parte del CRO de cualquier web con algo de volumen; el multivariante, de muy pocas.

Los errores

Cuatro formas de montar un multivariante que no podía contestar.

Montarlo porque la herramienta lo permite

Cualquier herramienta de testing deja añadir piezas sin pedirte el tráfico. La cuenta es tuya: 4.000 usuarios al mes por combinación, antes de lanzar. En una URL de 16.000 un 2×2×2 deja 2.000 por casilla. Corre un mes, pinta ocho líneas y ninguna dice nada.

Contar piezas en vez de combinaciones

Tres piezas parecen poco. Con tres versiones cada una son 27 combinaciones y 108.000 usuarios al mes de suelo. El número que manda es el producto, no la suma, y crece mucho más deprisa de lo que se intuye en la reunión.

Leer la casilla ganadora como si fuera un A/B

Ocho combinaciones son 7 comparaciones contra la original. Si cada una se acepta con un 5% de riesgo, la probabilidad de que al menos una gane por puro azar sube al 30%. Eso es un falso positivo esperando a pasar, y se corrige ajustando la significancia estadística al número de comparaciones, no celebrando la primera casilla que se pone verde.

Llamar multivariante a un rediseño

Cambiar la página entera y enfrentarla a la antigua no es un multivariante: es un split test. Te dice qué página gana, no qué pieza lo ha conseguido. Es un buen test, y barato en tráfico, pero no esperes de él la respuesta que solo da la rejilla.

Preguntas

Lo que se pregunta sobre test multivariante.

¿Qué diferencia hay entre un test A/B y un test multivariante?

Un test A/B cambia una sola pieza y compara dos versiones. Un test multivariante cambia varias piezas a la vez y compara todas sus combinaciones, así que además del efecto de cada pieza ve si dos piezas se potencian o se estorban entre sí. A cambio, reparte el mismo tráfico entre muchas más casillas.

¿Cuánto tráfico necesita un test multivariante?

El suelo de un A/B son 8.000 usuarios al mes por URL, es decir 4.000 por versión. Un multivariante necesita esos 4.000 por cada combinación: con tres piezas de dos versiones son ocho combinaciones y 32.000 usuarios al mes; con tres piezas de tres versiones, 27 combinaciones y 108.000. La cuenta fina por combinación es la del tamaño de muestra.

¿Cómo se cuentan las combinaciones de un test multivariante?

Se multiplican las versiones de cada pieza. Dos piezas con dos versiones son 2 × 2 = 4 combinaciones; tres piezas, 2 × 2 × 2 = 8; si una de las tres tiene tres versiones, 3 × 2 × 2 = 12. Es un producto, no una suma, y por eso el tráfico necesario se dispara con cada pieza que se añade.

¿Cuándo merece la pena hacer un test multivariante?

Cuando se cumplen tres cosas a la vez: la URL supera con holgura el tráfico que piden sus combinaciones, las piezas se leen juntas y hay una hipótesis concreta sobre por qué deberían reforzarse. Si la página mueve menos de 8.000 usuarios al mes no llega ni para un A/B, y ahí se decide con research cualitativo.

Reservar 30 minutos