El libro American Cookery (1972) describe tres pasteles de terciopelo rojo que varían en las cantidades de manteca, mantequilla y aceite vegetal. Todos usaron colorante rojo para alimentos, pero la reacción del vinagre ácido y la leche de mantequilla tiende a revelar mejor la redantocianina en el cacao y mantiene el pastel húmedo, liviano y esponjoso. Este tinte natural puede haber sido la fuente del nombre “terciopelo rojo”, así como “comida del diablo” y nombres similares para pasteles de chocolate. Temporalmente, el chocolate a menudo ha sido sometido a procesamiento holandés, lo que impide el cambio de color de las antocianinas.
Cuando los alimentos fueron racionados durante la Segunda Guerra Mundial, los panaderos utilizaban zumos de remolacha hervida para mejorar el color de sus pasteles. Las remolachas se encuentran en algunas recetas de pasteles de terciopelo rojo, donde también sirven para retener la humedad. A Adams Extract, una compañía de Texas, se le atribuye llevar la torta de terciopelo rojo a las cocinas de Estados Unidos durante la Gran Depresión, al ser una de las primeras en vender colorante rojo y otros extractos de sabor con el uso de carteles de puntos de venta y tarjetas de recetas de corte. El pastel y su receta original son bien conocidos en los Estados Unidos desde el famoso Waldorf-Astoria Hotel de la ciudad de Nueva York, que ha bautizado como la torta de confección Waldorf-Astoria. Sin embargo, es ampliamente considerado como una receta sureña. Tradicionalmente, el pastel de terciopelo rojo está cubierto de hielo con un glaseado de mantequilla al estilo roux (también llamado glaseado de armiño), que es muy ligero y esponjoso, pero requiere mucho tiempo para prepararse. El glaseado de queso crema y el glaseado de mantequilla son variaciones que han aumentado en popularidad.
En Canadá, el pastel fue un postre bien conocido en los restaurantes y panaderías de la cadena de tiendas departamentales Eaton, en los años 1940 y 1950. Promovido como una receta exclusiva de Eaton, con empleados que sabían que la receta juraba silencio, muchos creyeron erróneamente que el pastel fue el invento de la matriarca de la tienda departamental, Lady Eaton.
En los últimos años, la torta de terciopelo rojo y los cupcakes de terciopelo rojo se han vuelto cada vez más populares en los EE. UU. Y en muchos países europeos. Un resurgimiento en la popularidad de este pastel es atribuido por algunos a la película Steel Magnolias (1989), que incluía una torta de novio de terciopelo rojo hecha con la forma de un armadillo. Magnolia Bakery en Manhattan, después de haber servido desde su apertura en 1996, sin duda ayudó a popularizar el pastel, al igual que los restaurantes conocidos por su cocina sureña como Amy Ruth en Harlem, que se inauguró en 1998.En 2000, Cake Man Raven abrió una de las primeras panaderías dedicadas al pastel en Brooklyn.
En el estado de Kerala, en el sur de la India, el pastel de terciopelo rojo se hizo popular con el lanzamiento de la película de Malayalam, Premam.