La rue du Petit-Champlain, datant de la première colonisation, occupe une place de premier rang dans l’histoire de la Nouvelle-France. En effet, elle est considérée comme la plus ancienne artère commerciale en Amérique du Nord.
Au XVIIe siècle, ce qui n'était qu'un sentier menant à la fontaine de Champlain se transforme en 1688 en une rue appelée la « rue des Meulles ». En 1792, cette rue est recensée sous le nom de « rue Champlain », puis en 1874, elle est cartographiée sous le nom de « Petite rue Champlain » pour éviter toute confusion avec la Grande rue Champlain.
Pêcheurs, débardeurs et ouvriers des chantiers maritimes adoptent la rue et y construisent leur maison. Entre 1725 et 1760, toutes les maisons doivent être reconstruites en pierre afin de prévenir les incendies. Par la suite, dans les années 1770, on construit un escalier de bois au bout de la rue pour faciliter l’accès de la Basse-Ville à la Haute-Ville. Vers 1830, ce quartier, aux maisons bien entretenues et joliment décorées, devient très prisé.
Pendant tout le XIXe siècle, la rue devient le refuge des familles ouvrières irlandaises, qui travaillent au port et dans la construction navale. Cependant, au XXe siècle, les activités fluviales accusent une baisse importante, et les habitants du quartier s’appauvrissent.