明治維新後の日本は西洋の制度を積極的に取り入れましたが、憲兵制度もその一つでした。特にフランスの国家憲兵隊をモデルにしたと言われています。
日本の憲兵は軍隊内の秩序維持だけでなく、一般市民に対する治安維持や
諜報活動も担っていました。この点で、純粋に軍内部の規律を管理する欧米の憲兵とは異なる特徴があります。戦前の日本では、憲兵が政治思想の取り締まりなどを行うこともあり、その権限の広さが際立っていました。
興味深いことに、日本の憲兵は独自の階級制度を持ち、陸軍大臣の直接指揮下に置かれていました。これは他の国の憲兵組織とは異なる点で、日本の中央集権的な軍事体制を反映していると言えます。太平洋戦争終結後、この制度は廃止され、現在の日本の自衛隊にはこのような憲兵組織は存在しません。
歴史的に見ると、日本の憲兵制度は国家の近代化過程で重要な役割を果たしましたが、その権限の拡大が戦時中の国民統制に繋がったという複雑な側面もあります。