La démolition des niveaux bas de l’immeuble existant commence au printemps 1928. Mais l’étage supérieur est conservé pour sa locataire. Aussi les architectes imaginent-ils une structure à base de poteaux métalliques porteurs soutenant ce dernier étage. Cette structure d’acier sera revêtue d’une paroi de verre. Les poutres, les poutrelles, les canalisations et les conduits formant le squelette de la maison resteront toujours visibles.
Pour assurer un maximum de luminosité aux espaces intérieurs, Pierre Chareau utilise pour les façades un matériau qui vient d’être lancé par Saint-Gobain : des briques en verre carrées de 20 x 20 cm, du modèle Nevada. La maison de verre est le premier édifice utilisant ces briques. Côté cour, la façade est remplacée par un mur homogène de briques translucides, sans aucune ouverture ni aucun relief. Côté jardin, à l’abri des regards, la façade alterne briques transparentes et translucides, et comporte terrasse et bow-windows.