巴黎公社是怎样建立起来的呢？普法战争爆发后，法国所面临的民族矛盾和阶级矛盾更加尖锐。普鲁士军队长驱直入，侵占了法国三分之一以上的领土，野蛮屠杀法国人民，并从9月19日起，以20万之众包围了巴黎。法国工人阶级坚决担当起抗击普鲁士侵略，挽救民族危亡的任务。早在9月4日革命中，巴黎工人阶级就在20个区选出了区警备委员会，并由每个区选出四名代表组成二十区中央委员会。这是工人群众自己组织起来的政治组织，以监督政府抗战。当普鲁士军队逼近并包围巴黎时，巴黎人民纷纷起来，要求普遍武装人民，打退外来侵略者，保卫法兰西。在不到一个月的时间里，工人们组成了194个营的国民自卫军，共30万人。1871年2月中旬，工人武装又选出了自己的领导机关——国民自卫军中央委员会。
国民自卫军中央委员会的成立是一项具有决定意义的组织措施，因为“无产阶级专政的首要条件就是无产阶级的军队”。 （马克思： 《纪念围际成立七周年》， 《马克思恩格斯全集》第17卷，第468页）2月24日，通过了国民自卫军联合组织的章程，明确宣布国民自卫军今后应代替所有的常备军。3月15日，国民自卫军中央委员会正式成立，瓦尔兰、阿西等第一国际的委员也当选为中央委员会委员。国民自卫军中央委员会实际上成为巴黎革命的政治领导者， “正是它在3月18日掀起了本世纪最伟大的革命。” （马克思《法兰西内战》， 《马克思恩格斯选集》第2卷，第408页）巴黎工人在中央委员会的领导下，将可能落人敌人手中的大炮运到工人住宅区，这些大炮是工人自己出钱铸造，为政府军队所弃散。蒙马特尔高地是他们的主要停炮场，那里停放着171门大炮。