Après la Première Guerre (1,4 million de soldats tombés pour la France), les autorités nationales et les associations s’engagent à perpétuer la mémoire de ce sacrifice. L'idée d'un hommage rendu à la dépouille d'un soldat se répand en conséquence.
Le 10 novembre 1920, à Verdun, le soldat Auguste Thin avec à ses côtés André Maginot, ministre des Pensions, désigne un soldat inconnu parmi 8 cercueils contenant les corps de combattants français non identifiés. La dépouille est transférée sous l'Arc de triomphe le 11 novembre 1920, puis elle est inhumée à son emplacement définitif le 28 janvier 1921.
Afin d’entretenir cette mémoire, le journaliste Gabriel Boissy lance l'idée d'une flamme symbolique. Le plan de l'architecte Henri Favier est retenu et exécuté par le ferronnier d’art Edgar Brandt. La Flamme est ainsi pensée pour surgir de la gueule d'un canon braqué vers le ciel, encastré dans un bouclier renversé, dont la surface ciselée est constituée par des glaives formant une étoile.
Le 11 novembre 1923, André Maginot allume pour la première fois la Flamme du Souvenir. À partir de cette date, elle est ravivée chaque soir au cours d’une cérémonie organisée par le Comité de la Flamme sous l’Arc de triomphe, Flamme de la Nation.