У 1928 р. на території Цзінаня були виявлені залишки неолітичної культури Луншань, що виникла 5 тис. років тому. Нинішня назва міста з'явилося в перші роки династії Західна Хань.