近代日本的正式行政机构有市、町（相当于中国行政区划中的镇）、村三个级别。公选的“长者”们推选一位首领，由他代表他们的社区与代表国家的中央政府和府县当局打交道。在农村，这位首领通常是一位老住户，一个拥有土地的农家的长者。虽然担任村长在经济上没什么好处，但却很有威望，这位村长和长老们负责管理本村的财务、公共卫生、学校，尤其是财产登记和个人档案。村公所是一个工作繁忙的场所，它负责管理国家拨来的小学教育的补助费，还得负责筹集由本村负担但数额远比国家补助更大的教育经费，并且监督其使用情况；它还负责管理并出租村有财产、土壤改良、植树造林以及所有财产交易的登记。只有在村公所登记的交易才具有法律意义。凡在本村有户籍的每个人，村公所都必须保存有关其居住、婚姻状况、生儿育女、收养养子、任何违法行为以及其他事实的资料。对于每个家庭，也要保存同样的资料。当事人无论在什么地方发生怎样的变化，都会被转告当事人的户籍所在地，并被记录在他的档案中。当某人求职或受审时，或在其他任何需要证明身份的场合，他就向户籍所在地写信，或亲自回去索取一份副本，交给有关方面。人们对这个档案非常重视，轻易不会在上面留下不良记录。
因此，市、町、村负有相当巨大的责任。这是一种对社会共同体的责任。20世纪20年代，日本有了全国性的政党，这在其他任何国家里都意味着“执政党”和“在野党”轮流执政。但在此时地方机构依然丝毫不受党派斗争的影响，仍由长者们领导。但地方行政机关在三个方面是没有自治权的。这就是：法官均由国家任命，警察和教师也全是国家的雇员。因为日本大部分民事案件至今仍然是由仲裁或通过中间人来解决的，所以法院在地方行政中几乎毫无作为。相比之下警察更为重要。每逢有临时集会，他们都必须到场维护治安，但这些职责并不是经常性的，他们大部分时间都是在为居民做身份和财产记录。为了防止警察与地方政府关系过密，国家经常把他们从各地之间进行调动。学校教师也是如此，国家对学校的规定十分严格，跟法国一样，日本的每一所学校在同一天里教授同一本教材的同一篇课文。每一所学校都在早晨同一时间做同样的广播体操。市、町、村对学校、警察和法院没有自治权。
日本的政治结构处处显示着与美国的不同。在美国，最高的立法权和行政权由民选产生的代表来行使，地方的管理工作则主要由地方警察和地方法院来执行。但是，日本的政府结构与荷兰、比利时这样彻头彻尾的西方国家在形式上没有什么区别。例如，荷兰与日本一样，所有的法案都由女王的内阁一手操办，议会实际上从未制订过法律。甚至镇长和市长都是由女王来任命的，因此其形式上的权力对地方性事务有更直接而深入的影响，是超过1940年以前的日本的，尽管实际上荷兰女王通常认可地方提名的人选，但必须由女王任命则是事实。警察和法院直接对君主负责，在荷兰也是这样。不过，在荷兰，任何宗派集团都可以随意建立学校，而日本的学校制度是完全复制法国的。在荷兰，地方对运河渠道、围海造田以及本地的发展也是整个地方政府的任务，而不是选举产生的市长和官员的任务。
