1989 hatte Yoshii Kazuya die Idee von einer neuen Band, nachdem sich die Band, in der er Bass spielte auflöste. Für sein Vorhaben, wechselte er vom Bass zur Gitarre, nahm den Beinamen Lovin an und fand zwei weitere Musiker, die bereit waren ihm beizutreten. Diese waren Hirose Yôichi, mit dem Beinamen Heesey, am Bass und Kikuchi Eiji, genannt Annie, hinter den Drums. Nach kurzer Zeit als Trio, überredete Eiji, seinen älteren Bruder ihnen beizutreten. Hideaki wurde Gitarrist und bekam wie alle anderen einen Beinamen: Emma. The Yellow Monkey waren geboren, und die Besetzung blieb bis zum Ende der Band bestehen.
In ihren ersten beiden Jahren beschränkten sich die vier auf vereinzelte Konzerte in und um Tokyo. Eine Tournee, die im November 1990 stattfand, führte sie erstmals nach Osaka, Kyoto und Nagoya. 1991 veröffentlichten sie dann ihr erstes Album, das unter dem Indie Label Engine erschien. Nach einer Tournee, die sie in weitere Städte wie Hakata oder Hiroshima brachte, erklärten sie Ende des Jahres, im ausverkauften La.mama in Tokyo, ihren Wechsel zu einem Major-Label.
Die folgenden beiden Jahre waren jedoch nicht vom erhofften Erfolg begleitet. Trotz der stetig wachsenden Anzahl an Konzerten, verkauften sich ihre CDs nicht sonderlich gut. Erst ihre dritte Single, in der ein Soldat besungen wird, der 1944 starb und wieder ins Leben zurückkehrt um seine Geliebte zu suchen, sowie die vierte Maxi, mit der die Gruppe begann ihren Stil zu finden, verschafften ihnen größere Verkaufszahlen. So schaffte ihre Single-Auskopplung "Love Communication", Anfang 1995 den direkten Einstieg auf Platz 4 der Oricon Charts. Das Album "Four Seasons", welches im November erschien, platzierte sich sofort auf der Spitzenposition, und brachte den Namen The Yellow Monkey in aller Munde.
1996 wechselten sie von Nippon Columbia zu Fun House und lieferten im Jahr darauf "Sicks", was bei Kritikern als ihr bestes Album gehandelt wurde. Die Single "Burn", die im Juli erschien, durchbrach als erste ihrer CDs die Grenze von einer Million verkauften Exemplaren. Wegen des Erfolges, wurde "Sicks" Ende des Jahres auch in Großbritanien veröffentlicht. Hierfür wurde der Song "Love Love Show" auf Englisch eingespielt, und der CD als Bonus Track beigefügt.
1998 und 1999 verbrachte die Band, neben mehreren Releases, die wieder zum Teil auch in England veröffentlicht wurden, hauptsächlich mit einer Tournee. Diese umfasste insgesamt 113 Auftritte, welche die Gruppe auf alle 4 Hauptinseln Japans brachte. Am Mitte März ’99 nahm die Band eine Pause, um sich von der Tournee zu erholen. Im Dezember meldeten sie sich mit einer Single zurück. 2000 erschienen dann wieder mehr CDs, die Band reduzierte sich aber weitestgehend auf vereinzelte Konzerte und Events.
2001 kündigte sich das baldige Ende der Band an, als im März und Juni zwei Best of Alben erschienen. Doch zögerte sich das ganze hinaus, da die Band zwei Jahre pausierten. 2004 kehrten sie zurück, und starteten eine Abschiedstournee, an deren Ende die Veröffentlichung des bisher letzten Best of Albums "Mother of all the best" stand.
Yoshii startete bereits während der Pause seine Solo-Karriere als Yoshii Lovinson.
Yôichi gründete ebenfalls schon während der Auszeit seine Band Heesey with Dudes, die sich aber Ende 2005 auflösten.
Eiji und Hideaki verdienten sich seit dem Ende als Session Musiker, unter anderem bei Yoshiis zweitem Solo-Album.
