Construit en 1883 par Paul Déchard, c'est un bâtiment emblématique dont plusieurs éléments sont classés au catalogue des monuments historiques de la ville de Paris depuis 2012.
Son histoire est liée aux événements importants du XXe siècle, avec ses moments d'ombre et de lumière : siège du gouvernement basque en exil en deux périodes (1937-1940 et 1945-1951), siège de la police franquiste pendant la période de l'Occupation de Paris, et siège du Conseil fédéral espagnol du Mouvement européen constitué en 1949.
Rattaché à l'Etat espagnol depuis 1951, il est choisi par la Direction générale des relations culturelles du ministère des Affaires étrangères pour accueillir l'Exposition du livre espagnol contemporain à l'automne 1952, événement qui donnera naissance à la Bibliothèque espagnole un peu plus tard.
Avec la création de l'Institut Cervantès en 1991, la Bibliothèque espagnole intègre son réseau de bibliothèques et devient la Bibliothèque Octavio Paz en 2006.