À l’époque romaine, le quartier juif - terra judaeorum - s’étend sur trois hectares, soit le douzième du Ratomagus qu’occupe alors la tribu gauloise des Véliocasses. Situé dans le secteur nord-ouest de la ville romaine, il forme un rectangle de 300 mètres de long par 100 mètres de large.

Délimité au sud par le decumanus - l’actuelle rue du Gros-Horloge - et à l’est par le cardo - l’actuelle rue des Carmes - , ce quartier s’étend, à l’époque romaine, sur trois hectares. La rue aux Juifs - vicus judaeorum - forme l’artère principale du quartier et, au Moyen-Âge, est bordée, tout comme les rues adjacentes, de maisons à trois ou quatre étages. Au XIIe siècle, le quartier juif compte entre 5000 et 6000 âmes, soit 15 à 20% de la population totale de Rouen.

Se trouve, au nord de la rue, une place appelée le clos-aux-Juifs, et l’école rabbinique découverte en 1976 et, au sud, la synagogue principale - au n°55 de l’actuelle rue aux Juifs -, ainsi que l’abattoir rituel et l’hôtel de Bonnevie - au n°33. Par la suite, au haut Moyen-Âge, les nouveaux habitants s’installent plus à l’ouest, au-delà de la muraille romaine.

Au Moyen-Âge, la présence juive à Rouen n’est pas un fait isolé. Norman Golb a dénombré, à travers la Normandie, quelque 85 sites attestant d’une telle présence. Il a identifié des rues aux Juifs situées aussi bien en centre ville, comme à Pont-Audemer et à Fécamp, qu’en pleine campagne, mais aussi des hameaux portant des noms comme Les Juifs ou La Juiverie. Ce qui montre que les juifs ont été d’abord des cultivateurs et des éleveurs.