A l'origine, la Salpêtrière recueillait des pauvres femmes. Le bâtiment dit de la Vierge, qui servira par la suite d'asile aux reposantes, est un vestige des premières constructions. Sous le cardinal Mazarin, la Salpêtrière consistait en une sorte de grange, où se faisait le salpêtre, et une fonderie d'où dépendaient divers magasins. Quand on appropria ces locaux, à la suite des ordonnances royales, on avait l'intention d'y recevoir plus de 600 femmes et près de 200 enfants, depuis deux ans jusqu'à sept. On devait également construire un grand bâtiment neuf pour loger des mendiants mariés. On édifia seulement la façade septentrionale de, l'établissement, qui prit le nom de bâtiment Mazarin, et la façade méridionale, qui s'appela pavillon Sainte-Claire. Un des pavillons du bâtiment Mazarin fut baptisé pavillon Bellièvre, en mémoire du premier président Pomponne de Bellièvre, qui avait pris une part active à la création de l'hôpital général.

En 1669, Louis XIV prescrivit de remplacer la chapelle de l'établissement, consacrée à saint Denis, par une église de plus vastes proportions. L'édifice nouveau, construit sur les plans de l'architecte Levant, fut placé sous le vocable de saint Louis. Le bâtiment consiste en un dôme octogone, percé par huit arcades qui aboutissent à quatre nefs, rayonnant autour du dôme central. Le portique ou vestibule est décoré de colonnes ioniques, avec une attique au-dessus. A la droite de l'église, se trouve le bâtiment Mazarin; à sa gauche, le bâtiment Lassay, du nom de la marquise de Lassay, qui fit les frais de construction. La prison de la Force, où l'on détenait les filles de mauvaise vie, fut établie au centre de l'hôpital vers 1684. Mlle Clairon, l'artiste en vogue, faillit y être conduite. Plusieurs personnages de distinction y furent enfermés.

Les infirmeries, dont le pavillon central fut orienté sur la même ligne que le dôme de l'église, et la porte d'entrée de l'hospice ne remontent qu'à 1780. Leur construction dura sept années. Ce n'est donc que vers la fin du XVIII^e siècle que la Salpêtrière devint, en même temps qu'un asile hospitalier de femmes, une maison de force.
Le conseil général des hospices fit supprimer, vers 1807, les chaînes, les carcans, les fers aux pieds et aux mains, qui étaient encore en usage pour le traitement des fous et des folles. Les locaux malsains furent détruits, de même que les cachots obscurs et les basses loges, qui se trouvaient en contre-bas de plus de 15 pieds par rapport aux loges neuves. En abattant force planchers et cloisons intermédiaires, on put construire des dortoirs vastes et bien aérés.

En 1815, le grand bâtiment habité par les épileptiques fut complètement restauré, et pour effacer jusqu'au souvenir du passé, l'hospice prit, en 1823, le nom, qu'il a conservé depuis, d'Hospice de la Vieillesse-Femmes. Parmi les modifications apportées depuis cette époque, signalons : un atelier de travail (pour procurer de l'ouvrage aux aliénées, aux épileptiques et aux indigentes) définitivement constitué en 1835. La même année, on commençait la construction de quatre pavillons carrés, divisés en seize petites cellules, pour les malades agitées ou relevant de l'action de la justice. En 1836, les bâtiments de cette nouvelle section, dite section Rambuteau, étaient complétés par la construction de quatorze cellules, faites en forme de chalets suisses, et espacées dans un vaste terrain, de manière à donner, par l'isolement complet, de nouveaux moyens d'action dans le traitement de la maladie. En 1848, les jeunes filles idiotes, confondues jusqu'à cette époque avec les adultes, et reléguées dans des dortoirs où tout exercice leur était interdit, furent placées dans un quartier séparé.

Une école municipale d'infirmières a été annexée à l'établissement en 1878. Il existait, dans le quartier des aliénés, une autre école, dans laquelle les enfants arriérés recevaient une éducation spéciale. Cette école d'enfants arriérés comprenait un asile pour les enfants du premier âge, et un ouvroir, où l'on apprenait aux petites malades la couture et la fabrication des fleurs artificielles.

Un service de bains et d'hydrothérapie a été édifié en 1883. Le public y était admis, soit en payant, soit sur la présentation d'une carte d'indigent. La Salpétrière, tour à tour dépôt de mendicité et maison de correction, n'était plus, au début du XX^e siècle qu'un vaste refuge pour les vieilles femmes indigentes, et un hôpital pour les affections nerveuses. Cette denière fonction prit fin en 1921, et l'Hospice ferma en 1968.  Quatre ans plus tôt, l'établissement avait fusionné avec l'Hôpital de la Pitié et s'était transformé en  l'hôpital généraliste classique qu'il est aujourd'hui encore, et qui est aussi doté, depuis 1966, d'une faculté de médecine.