L'édifice a commencé en 1255 et devient très vite le lieu politique de la ville ou s'installe le Podestà (magistrat de la ville).
Par la suite il deviendra ensuite le siège du tribunal et se transformera également en prison. L'édifice s'appelle Bargello car en 1574 le bargello (commandant des hommes d'armes) decide de s'installer dans cet édifice, et il gardera à toujours ce nom.
En 1840, on découvre dans la chapelle du palais un portrait de Dante peint par Giotto , ce qui relance l'intérêt pour le bâtiment, qui est alors restauré.