Sous le Second Empire intervint une réorganisation des commandements régionaux dans l'armée. Toulouse devint le siège du sixième Grand Commandement militaire et le maréchal de France Adolphe Niel, natif de Muret, fut placé à sa tête (1859). La fonction pouvait difficilement se contenter du "modeste" hôtel Duranti au centre-ville et il fut décidé d'entamer la construction d'un logement de prestige pour le maréchal. En 1860, la mairie céda à l'Etat un terrain d'environ 10 000 m² entre le Jardin Royal et la porte Saint-Etienne sur lequel commencèrent en 1863 les travaux. L'architecte fut un capitaine toulousain du nom de Bonnal.

Le palais est d'un ordonnencement très classique avec une toiture d'ardoises "à la parisienne", des fenêtres alignées avec un deuxième étage mansardé. Au centre de la façade principale, une entrée en pierre avec un petit porche au rez-de-chaussée, un balcon au premier étage avec huit colonnes soutenant un tympan. Au bout de ce corps principal, deux ailes s'avancent pour former la cour d'honneur du palais. La façade opposée donne sur le jardin du Grand-Rond.

Par une de ces ironies dont l'Histoire a le secret, le palais Niel ne fut jamais habité par le maréchal. Devenu ministre de la guerre en 1867, celui-ci n'était plus en poste à Toulouse lorsque le bâtiment fut terminé en 1868. Le palais appartient toujours à l'armée et abrite aujourd'hui des services de l'Armée de terre.