歴史を紐解くと、小太刀を駆使した戦いの記録は意外と豊富にある。
例えば、宮本武蔵の『五輪書』には、二刀流の一部として小太刀の使い方が詳細に記されている。武蔵は大太刀と小太刀を組み合わせることで、相手の間合いを混乱させる戦術を編み出した。特に有名なのが巌流島の戦いで、小太刀を補助的に用いて佐々木小次郎の長大な太刀を封じたという説もある。
小太刀の真価は、狭い空間での機動性にある。戦国時代の巷戦や城内戦では、長い
武器が不利な場面で重宝された。『信長公記』には、本能寺の変で明智光秀の配下が小太刀で織田信長の側近と乱戦を繰り広げた記述が見られる。