Dans les années 1930, la Compagnie des Chemins de Fer du Nord (qui fusionne avec la SNCF en 1938), fait construire un terrain d'éducation physique, comprenant un stade d'athlétisme avec une piste de cent mètres, un terrain de basket-ball, un boulodrome, et une piscine de plein air, à proximité de la gare d'Amiens. A cette époque, la Compagnie des Chemins de Fer du Nord fait aménager des cités ouvrières, au sein desquelles s'inscrivent de nombreux équipements sportifs permettant une occupation bénéfique du temps libre des cheminots.
Après guerre, dans le cadre de la reconstruction de la ville d'Amiens, la SNCF confie en 1946 aux architectes André et Pierre Dufau le réaménagement et la modernisation de ce terrain d'éducation physique, et en particulier la création d'un véritable bâtiment d'accueil pour la piscine, comprenant des vestiaires et des douches. En effet, pour se changer, les baigneurs ne disposaient alors que de simples cabines en bois, disposées le long des bassins, entre la piscine et le terrain de basket. Les plans du nouveau bâtiment, à la silhouette moderne, sont dressés en 1947. Les anciennes cabines sont détruites et le nouveau bâtiment est construit en 1948, en bordure de la rue Dejean, devant le terrain de basket. L'entreprise L. Cogez fournit les planchers, tandis que la société Privileggio est chargée de la construction des murs en moellons. Les travaux se déroulent sous la direction d'André Dufau et de M. Gonon, ingénieur en chef de la construction.
C'est également à ce moment que sont installés des appareils modernes de filtrage et de purification de l'eau. La piscine de la Cheminote peut dès lors se targuer d'être la plus salubre des piscines d'Amiens, qui disposait à l'époque de deux autres bassins de natation extérieurs : la piscine de l'Île aux Fagots, dans les hortillonnages, et la piscine du boulevard Beauvillé, dite du "Bain de sable", toutes deux directement alimentées par les eaux de Somme, filtrée très sommairement.
Avec ses trois bassins de natation, dès l'arrivée des beaux jours, la piscine Léon-Pille était très fréquentée par les enfants amiénois, et pas uniquement des résidents du quartier des cheminots. Un grand garage à bicyclettes permettait de répondre à cette fréquentation élevée.
L'évolution de la piscine au cours du temps est visible sur les photographies aériennes anciennes de l'IGN.
La construction de la piscine du Palais des Sports Pierre-de Coubertin en 1966, puis de la piscine Georges-Vallerey en 1974, annonce la fin des piscines de plein air d'Amiens.
La SNCF propose un projet de rénovation de la piscine au début des années 1980 (AC Amiens). Cependant, la ville d'Amiens refuse de participer aux frais de rénovation. Les bassins sont en mauvais état. Le projet est abandonné et les bassins de la piscine sont bouchés dans les années 1990.
Il ne subsiste aujourd'hui que le bâtiment des vestiaires.
Né le 21 juin 1908 à Arras et mort le 26 septembre 1985 à Paris, Pierre Dufau sortit diplômé en 1937 de l'École supérieure des beaux-arts. Premier second grand prix de Rome en 1938, il fut chargé à partir de 1940, des travaux de reconstruction d'Amiens. Il occupa le poste d'architecte en chef de la reconstruction d'Amiens jusqu'en 1954.
Pierre Dufau fut à la tête d'une d'une des plus grandes agences d'architectes des Tente Glorieuses, avec plus de 600 réalisations à son actif pour plus de 2000 opérations projetées.
Ses archives sont conservées par le Centre d’archives d'architecture du 20e siècle de la Cité de l’architecture et du patrimoine : http://archiwebture.citechaillot.fr/fonds/FRAPN02_DUFPI