Au xixe siècle, le bois de Vincennes est un terrain d’entraînement militaire. Il est défriché pour laisser place aux casernes, champ de manœuvres et buttes de tir. Napoléon III cède en 1860 le bois à la ville de Paris pour qu’il soit transformé en parc symétrique du bois de Boulogne.
À la fin des années 1960 et à l’occasion des Troisièmes Floralies Internationales, un site est recherché dans le bois par la Ville de Paris pour abriter la manifestation. La conception et la réalisation du Parc sont confiées à l’architecte paysagiste Daniel Collin.
Le site choisi — les anciens terrains militaires désaffectés de La Cartoucherie et de la Pyramide — est totalement remodelé. Seule la pinède existante et ses pins de Corse sont conservés.
Le Parc floral sera inauguré en 1969. Avec ses 31 hectares, ce sera le plus grand espace vert créé à Paris depuis la fin du Second Empire. Quinze mois de travaux auront été nécessaires avant d’effectuer les premières plantations.