Le premier rempart toulousain est construit à l'époque romaine dès l'époque de la création de la ville (début du Ier siècle). Celui-ci court sur trois côtés mais laisse le côté sur la Garonne ouvert (celui-ci aurait été à son tour rempli dans la première moitié du IIè siècle). Le rempart romain est essentiellement construit en briques (au-dessus d'une base de moellons calcaires blancs). Il protège une ville d'environ 90 hectares (mais tout l'espace est loin d'être construit), dresse une tour ronde tous les quarante mètres environ et est percé de quelques portes (dont la porte Nord, monumentale, découverte au début des années 1970 lors de la construction de la place du Capitole et aussitôt détruite). Cette enceinte apparaît plus destinée à affirmer la puissance de la ville qu'à une véritable protection (la ville étant peu menacée à cette époque). Il ne reste de cete muraille que quelques fragments la plupart du temps intégrés dans des constructions (dans le théâtre de la Cité comme à l'Institut catholique) ; on peut cependant en voir les restes mis à jour près de la place Saint-Jacques.

Au Moyen Age, le rempart toulousain sera étendu pour englober le bourg Saint-Sernin au nord de la ville (XIIè siècle). Les événements du XIIIè siècle allaient mettre à mal ce premier rempart puisque Simon de Montfort après s'être emparé de la ville en commandait la destruction ; au traité de Meaux-Paris (1229), le comte Raimond VII devait s'engager à poursuivre cette démolition. Avec le début de la guerre de Cent ans, la ville obtient du pouvoir royal l'autorisation de reconstruire ses murailles et, le faubourg Siant-Cyprien, sur la rive gauche de la Garonne, sera désormais protégé lui aussi. Le nouveau rempart est entièrement en briques, défendu par d'imposantes tours et percés de beaucoup plus de portes que le rempart romain (qui n'en comprenait semble-t-il que trois). Ce rempart, plus ou moins bien entretenu selon les époques, démontrera son inadaptation à la guerre moderne au moment de la bataille de Toulouse (1814). On décidera alors de le détruire, de combler les fossés qui le précédaient et d'établir des boulevards sur cet emplacement (ce qui permet encore aujourd'hui de matérialiser les dimensions de la ville médiévale et moderne dans la ville actuelle). Certains secteurs sont cependant encore entiers comme près la Cité administrative ou dans le Jardin Raimond VI.