A l’époque romaine, le quartier juif (terra judaeorum) occupait un espace d’environ trois hectares, soit le douzième du Ratomagus qu’occupait alors la tribu gauloise des Véliocasses. Situé dans le secteur nord-ouest de la ville romaine, il formait un rectangle de 300 mètres de long par 100 mètres de large, délimité au sud par le decumanus (l’actuelle rue du Gros-Horloge) et à l’est par le cardo (l’actuelle rue des Carmes), les deux axes qui partageaient la ville d’est en ouest et du nord au sud. Les murs qui entouraient le quartier n’impliquaient nulle restriction de résidence imposée aux juifs par les autorités romaines, mais constituaient au contraire un signe de l’autonomie dont jouissait la communauté.

La rue aux Juifs (vicus judaeorum) formait l’artère principale du quartier. Parallèle au decumanus, elle mesurait 210 mètres de long et, à l’époque médiévale, était bordée, tout comme les rues adjacentes, de maisons à trois ou quatre étages. On trouvait, au nord de la rue, une place appelée le clos-aux-Juifs ainsi que l’école rabbinique découverte en 1976, et au sud la synagogue principale (au n°55 de l’actuelle rue aux Juifs), l’abattoir rituel et l’hôtel de Bonnevie (au n°33).

Par la suite, au haut Moyen-Âge, les nouveaux habitants se sont installés plus à l’ouest, au-delà de la muraille romaine, sur l’emplacement du futur Marché neuf, puis en direction de l’actuelle place Cauchoise. Cela explique que la synagogue principale, étrangement située à l’extrémité ouest du vicus judaeorum, se trouvait en réalité, compte tenu de l’expansion démographique vers l’ouest, au centre du quartier juif médiéval. Au XIIe siècle, le quartier juif de Rouen comptait entre 5000 et 6000 âmes, soit 15 à 20% de la population totale de la ville.

La synagogue, de style roman, avait la forme d’un grand pavillon presque carré, de 8 mètres de long par 6,70 mètres de large. Surmontée de deux étages voûtés, elle atteignait 13 mètres de haut, sans compter la tour qui la surmontait ; ce qui en faisait, conformément à la tradition juive, le plus haut bâtiment du quartier. La salle du rez-de-chaussée, haute de 6,43 mètres, était percée de deux grandes fenêtres, d’un mètre de large à l’extérieur et d’un mètre et demi à l’intérieur, qui laissaient entrer beaucoup de lumière, conformément aux vieilles règles rabbiniques de construction des synagogues. Du bas, on apercevait la voûte couverte de fresques qui surplombait l’édifice. Construite en pierre de taille, cette synagogue monumentale, réaffectée après le Moyen Âge à usage d’habitation, a subsisté jusqu’au milieu du XIXe siècle.

Situé à 400 mètres au nord du castrum, à l’ouest de l’actuelle gare ferroviaire, se trouvait le mons judaeorum. Ce vaste espace de près de cinq acres carrés, situé entre les actuelles rue Verte et rue Saint-Maur (soit une longueur de 250 m), a servi depuis l’époque romaine de cimetière à la communauté juive. On peut penser que, lors des enterrements, les cortèges s’y rendaient depuis la rue aux Juifs, en empruntant successivement les actuels rue Cauchoise, place Cauchoise, boulevard de la Marne et rue Saint-Maur.

Soulignons qu’au Moyen Âge la présence juive à Rouen n’était pas un fait isolé. Norman Golb a dénombré, à travers la Normandie, quelque 85 sites attestant d’une telle présence. Il a identifié des rues aux Juifs situées aussi bien en centre-ville, comme à Pont-Audemer et à Fécamp - qui possède la plus longue rue aux Juifs urbaine (1,2 km) de Normandie -, qu’en pleine campagne, mais aussi des hameaux portant des noms comme Les Juifs ou La Juiverie. Ce qui montre que les juifs n’étaient pas seulement des marchands, mais aussi des cultivateurs, encouragés par le pouvoir romain à venir peupler les provinces de l’empire.