Yaiba es un joven que solía vivir en la jungla junto a su padre, Kenjuro Kurogane, quien lo ha entrenado como samurái desde muy pequeño. Debido a una serie de eventos, ambos llegan a Japón y Yaiba se da cuenta que él en realidad pertenece a este lugar y posee todo un trasfondo familiar bastante legendario. Yaiba decide seguir los pasos de sus ancestros, por lo que se enfocará a luchar contra el mal y a cualquier amenaza que quiera interferir en su comunidad. De este modo, se hará rival de un joven llamado Takeshi Onimaru, quien desprecia a Yaiba luego de haber perdido un enfrentamiento contra él. Takeshi terminará convirtiéndose en un demonio cuando se deja poseer por el espíritu que se encuentra encerrado en la espada legendaria de su familia, pues la usa para poder derrotar a Yaiba, de esta forma, Yaiba se dedicará a entrenar más duramente para así hacerse más fuerte y buscar la manera de derrotar a Takeshi para que no siga haciendo de las suyas.