Son nom vient du mot latin "Pax" (la paix) : c’est le lieu où doivent se régler pacifiquement les conflits entre les habitants de la ville de Chaux.
Comme pour le Panarethéon, Ledoux adopte une forme des plus sobres : un cube surmonté d’un cylindre. "L’édifice sera simple, comme les lois qui doivent s’y prononcer", écrit-il.