Le Jardin Botanique était à l'origine inclus dans l'ensemble du Jardin des Plantes, créé au début du XIXe siècle par Philippe Picot de Lapeyrouse.
Ce vaste jardin qui ambitionnait d'égaler ceux de Paris et Montpellier, fut installé dans les dépendances du monastère des Carmes déchaussés (réquisitionné à la Révolution) appelés " Jardins de Frescati ". Le Jardin des Plantes fut en partie structuré en plusieurs " écoles " : plantes médicinales, industrielles, fourragères.... Il acquit une grande renommée et comptait plus de 5 000 espèces, régionales, pyrénéennes, exotiques.
Seule" l'école générale de Botanique " survécut après l'exposition internationale de 1887.
Le Jardin Botanique actuel se situe à l'emplacement de cette école. Placé depuis plus de 40 ans sous la responsabilité de l'université Toulouse III-Paul Sabatier, il est aujourd'hui rattaché aux Service Commun d'Études et de Conservation des Collections Patrimoniales de l'établissement.
En 1991, il a été dédié à la mémoire du Pr. Henri Gaussen (1891-1981), célèbre botaniste-phytogéographe Toulousain, qui le dirigea de 1948 à 1958. Cet espace retrouve doublement sa vocation initiale d'ancien jardin de monastère, jardin de simples (collections ethnobotaniques) et d'école de Botanique (outil scientifique et pédagogique).
Il est agréé " Jardin Botanique de France et des pays francophones " depuis 1998.