La imagen de Felipe II a caballo está inspirada en el ideal caballeresco del siglo XVI, a través de los grabados flamencos e italianos de emperadores romanos y, especialmente, en el retrato ecuestre de su padre, Carlos V, que se incluye en el tapiz La conquista de Túnez diseñado por Jan Cornelisz Vermeyen entre 1546 y 1554 (fig.1) Su rostro y torso están copiados del retrato de Felipe II con armadura realizado por Tiziano en 1551.

Se ha afirmado que Rubens pintó el Felipe II a caballo en su segunda estancia madrileña entre 1628 y 1629; sin embargo es más probable que lo pintara más tarde en Flandes, pues existen al menos tres copias antiguas del cuadro realizadas allí y la preparación que se ha encontrado en el lienzo contiene carbonato cálcico, mucho más común en Flandes que en España. Además, el cuadro no se documenta en la colección real española hasta el inventario del Alcázar de Madrid en 1686, lo que induce a pensar que no llegó antes de 1636 o de 1666, fechas de inventarios anteriores.

El retrato póstumo representa a Felipe II armado de cuerpo entero, con capa y sombrero, montado sobre un caballo zaino. Al fondo aparece una batalla, probablemente alusión a la de San Quintín (1557), cuando las tropas del rey ganaron al ejército francés. La Victoria alada que le corona de laurel apoyaría esta hipótesis.

En el último tercio del siglo XVIII, el cuadro fue ampliado en sus extremos superior e inferior, quizá para hacer pareja con el Retrato ecuestre del Conde Duque de Olivares de Velázquez, que hasta el momento de la restauración tenía sus mismas dimensiones.