Kurogane Yaiba is een ongewone jongen die opgroeit in een afgelegen bos en van zijn vader leert om samoerai te worden. Zijn huisdieren zijn ook relatief bijzonder, want hij wordt vergezeld door een tijger en een gier. Uiteindelijk schrijft hij zich echter in op een normale school, waar hij samen met Sayaka, de dochter van een vriend van zijn vader, naar toe gaat. Als student in Japan moet hij nu een aantal nieuwe ervaringen en avonturen aangaan, maar hij blijft nog steeds trainen met het zwaard om een betere samoerai te worden.