Avant 1672, la ville de Montréal se développe sur les bords du Saint-Laurent par des concessions d'emplacements définis selon des sentiers ou des points de repères topographiques. Quelques centaines d'habitants utilisent des sentiers qui relient les principaux points de la ville : le fort sur la pointe à Callière, l'hôpital et la chapelle de l'Hôtel-Dieu (situés près des rues Saint-Sulpice et Saint-Paul actuelles) et les redoutes (maisons servant de point d'appui pour la défense) situées à l'est, à l'ouest et au nord de la ville. La rue de l'Hôpital est un vestige des sentiers de Montréal qui ont précédé l'imposition d'une grille orthogonale par François Dollier de Casson en 1672. Il s'agissait d'un sentier qui permettait aux paysans installés à l'ouest de la ville de se rendre à l'hôpital de Jeanne Mance et à la chapelle de l'Hôtel-Dieu. Cette chapelle sert d'ailleur d'église paroissiale avant la construction de l'église Notre-Dame.

En 1672, Montréal s'agrandit et les sentiers en diagonale sont éliminés au profit des rues bien droites qui donnent un aspect plus régulier à la ville. Un tronçon de la rue de l'Hôpital situé entre la rue Saint-François-Xavier et la rue Saint-Sulpice est fermé pour faire place au jardin du Séminaire de Saint-Sulpice. À l'ouest de la rue Saint-Pierre, les propriétaires reprennent le terrain de cet ancien sentier car le public utilise désormais la rue Notre-Dame pour se rendre à la nouvelle église construite sur le coteau. Quelques propriétaires conservent néanmoins des emplacements et des maisons sur la rue de l'Hôpital, dont le chirurgien Jean Martinet de Fontblanche. La rue est rétablie officiellement en 1702 à la demande du gouverneur Louis-Hector de Callière « pour la décoration et commodité publique de cette ville ». Un tronçon est alors délimité et borné de la rue Saint-François-Xavier à la rue Saint-Jean. Suite à l'ouverture de la rue Saint-Alexis quelques années plus tard, la rue est prolongée pour se terminer derrière un terrain appartenant à Guillaume Lecavelier sans toutefois déboucher sur la rue Saint-Pierre. En 1866, la rue sera élargie du côté nord.