Yhtyeen perustaminen alkoi jäsenten yläasteaikoina Osakan kansainvälisessä koulussa, jossa Nakamura Fukiko ja Iizuka Keisuke tapasivat kiinalaisen Song Ruin. Tammikuussa 1998 15-16 -vuotiaat ystävykset perustivat CORE OF SUNin, josta pian tuli CORE OF SOUL. Marraskuussa 1999 bändi edusti Osakaa TEEN MUSIC FESTIVAL -tapahtumassa. Vaikka yhtye ei voittanutkaan pääpalkintoa, esitys kuitenkin sai paljon yleisöä ja bändi lohdutuspalkinnon.
Helmikuun 1. päivänä vuonna 2001 yhtye teki kaksi kappaletta sisältävän indie-demon. Sitä myytiin 100 jenillä ja vain Kansain alueella, joten se loppui nopeasti. Hiukan myöhemmin yhtye kirjoitti sopimuksen Toshiba EMI -levy-yhtiön kanssa ja julkaisi ensimmäisen major-singlensä Photosynthesis:n 16. toukokuuta samana vuonna. Singlellä oli kappale Angel, joka oli myös demonauhalla. Kappale on kokonaan englanniksi ja todistaa laulajan kielitaidon. Elokuun 29. päivä yhtye julkaisi toisen singlensä, joka oli itse asiassa oli myös heidän demonauhaltaan.
Seuraavan vuoden helmikuussa 27. päivänä julkaistiin kolmas single ja ensimmäinen albumi, molemmat samana päivänä ja molempien nimenä Natural Beauty. Bändin itsensä tuottama albumi sisälsi vain yhdeksän kappaletta, joista kolme oli julkaistu aiemmin. Vaikka albumi ei ollut suuri kaupallinen menestys, se nimettiin yhdeksi vuoden 2002 parhaiksi julkaisuista Japanissa, ja monelle fanille se on yhtyeen paras albumi.
Elokuussa ilmestyi yhtyeen neljäs single Flying People, jonka kaikki kappaleet olivat uusia. Single oli alku laadukkaalle tuottamiselle ja sovitukselle, mikä kuuluu selkeästi myöhemmissä tuotoksissa. Vuonna 2003 julkaistiin toinen albumi Over the Time.
Maaliskuun 14. 2003 on tärkeä päivä yhtyeen historiassa. CORE OF SOUL esiintyi Yhdysvaltojen Austinissa, Texasissa SxSW-festivaalilla, jolla olivat jo esiintyneet myös Cocco ja LOVE PSYCHEDELICO. Vastaanotto oli lämmin. Joitakin kuukausia myöhemmin bändi julkaisi palasen tästä esiintymisestään CD-ekstrana uudella singlellään Make Me a Woman.
Lokakuussa 2003 julkaistiin bändin ensimmäinen mini-albumi RAINBOW, jolla oli live-kappale Yhdysvaltojen-keikalta. CORE OF SOUL esiintyi jälleen U.S.A.:ssa CBGB-klubilla marraskuussa, ja antoi hienosti vastinetta yleisön rahoille.
2004 alkoi lupaavasti, kun yhtye julkaisi Purple Skyn, joka sisälsi musiikkivideon. Se oli bändin ensimmäinen DVD, vaikka he olivat esiintynet jo paljon ja musiikkivideoitakin oli runsaasti. Kaksi kuukautta myöhemmin maaliskuussa bändi julkaisi kolmannen albuminsa, jonka nimi on 3.
Yhtye piti kymmenen kuukauden mittaisen tauon, jonka jälkeen single Ageha julkaistiin tammikuussa 2005. Singlellä oli kappaleesta Ageha myös remix, jonka on tehnyt Jazztronik (Nozaki Ryouta). Nakamura Fukiko oli aiemminkin työskennellyt hänen kanssaan hänen kappaleessaan TIGER EYES. Singleä seurasi elokuussa julkaistu Yumenori RIDERS, jolla oli bändin ensimmäinen cover-kappale: Eric Claptonin Wonderful Tonight.
Kevät 2006 oli kiireistä aikaa. Silloin julkaistiin neljäs albumi ONE LOVE, ONE DAY, ONE LIFE! sekä PV-kokoelma DVD ja kokoelma-albumi. Julkaisuja seurasi ONE LOVE, ONE DAY, ONE LIFE! -kiertue, joka Japanin lisäksi ulottui myös Koreaan, Kiinaan, Indonesiaan ja Filippiineille.
Kuitenkin helmikuun 27. päivä yhtye julkaisi sivuillaan tiedon maaliskuun 24. päivänä tapahtuvasta hajoamisestaan. Päivä oli kiertueen viimeinen keikka Osakassa, josta bändi aloittikin. Syyksi hajoamiseen sanottiin luonnollinen kehitys eri suuntiin. CORE OF SOUL oli antanut jokaiselle heistä paljon kokemuksia ja muistoja, mutta silti he halusivat seurata omia polkujaan ja kasvaa itsenäisesti.
