Depois de obter suas primeiras experiências musicais no underground de Tóquio durante os anos 80, Kazuyoshi Saito começou sua longa carreira como membro de uma banda que ele criou com antigos amigos de escola. Quando ele deixou a banda, em 1991, já tinha grandes planos de se tornar um artista solo, destituído das responsabilidades de uma banda, com o objetivo de mostrar seu talento. Com isso, ele começou a enviar fitas demo para diversas gravadoras, nas quais ele mesmo tocava diversos instrumentos. Através de uma série de eventos, ele chegou à sua primeira aparição na televisão, exibida em 1992 pela TBS. Os caça-talentos da BMG Funhouse que estavam presentes ficaram fascinados por sua carismática apresentação e deram-lhe um contrato pouco tempo depois.
No verão de 1993 Kazuyoshi lançou um álbum bastante íntimo que, apesar de ter apenas sete músicas, mostrava informações pessoais sobre o artista. Para vários críticos e particularmente para os fãs, ele foi, com este álbum, a grande descoberta do ano. Com seu segundo álbum, lançado após uma pequena turnê na primavera de 1994, Saito provou que era um artista a ser levado a sério, não um músico de apenas uma canção. Sua popularidade crescente permitiu que ele se apresentasse em estações de televisão maiores.
Nos três anos seguintes, quatro álbuns foram lançados, nos quais Kazuyoshi acrescentou novos estilos, como jazz, apesar disso ter lhe custado alguns fãs antigos que não gostaram da mudança. Mesmo assim, esses álbuns alcançaram boas posições na Oricon. Em 1998 ele fez uma pausa nas composições e lançou um álbum best of, assim como dois ao vivo. Ao mesmo tempo o artista começou a arranjar seus próprios eventos e festivais em universidades, que são visitados principalmente por fãs de folk-pop.
No final de 1999 ele passou por uma mudança radical, não apenas cancelando seu contrato com a BMG e assinando com a Victor Entertainment, mas também passando a escrever a maior parte de suas letras em inglês. Apesar de o álbum COLD TUBE ser muito pop em comparação a seus trabalhos anteriores, Kazuyoshi conseguiu manter seu estilo na seleção das músicas, satisfazendo os fãs mais antigos. Após essa viagem para um novo gênero, em 2001 ele voltou para o conceito que o fez famoso: folk rock com violão. Com seu álbum em 2002 o artista voltou às suas origens rock.
Em 2004 ele quis prestar um tributo a um de seus ídolos mais inspiradores com o cover Yami no Kokuhaku (Exist In The Dark), que foi usado em Blue A Tribute to Yutaka Ozaki. Além de shows em memória de Yutaka Ozaki, Kazuyoshi se apresentou pela primeira vez no Fuji Rock Festival. No ano seguinte o artista se ocupou com uma outra homenagem, desta vez à banda The ROOSTERS(Z). No final de 2005 ele lançou dois álbuns best of.
Após um período mais calmo, Kazuyoshi deu aos fãs alguns lançamentos no segundo semestre de 2007. O single Niji foi lançado no dia 5 de setembro e o álbum I LOVE ME chegou às lojas em 17 de outubro. O artista ainda contribuiu com dois álbuns tributo: um a Tamio Okuda e outro aO UNICORN, ambos lançados no dia 24 de outubro. Nesse ano Kazuyoshi lançou a coletânea Collection "B" 1993-2007.
