Vokalisti Miku, kitaristi Bou ja basisti Kanon perustivat An Cafen toukokuussa 2003. Mikun edellinen bändi Revirii oli lopettanut kaksi kuukautta aiemmin ja rumpalin puutteesta huolimatta An Cafe riensi aloittamaan esiintymiset erinäisissä tapahtumissa. Näin nuori yhtye sai huomiota osakseen näyttäytymällä muiden tuntemattomien indie-bändien seassa. He julkaisivat kaksi demonauhaa: Opu-ngu ja Uzumaki senshokutai/Hatsukoi. Molemmat olivat hyvin rajoitettuja ja niitä myytiin vain varhaisilla keikoilla.
Tällä aikaa Teruki oli yhä osa edellistä bändiään nimeltä feathers-blue, mutta elokuussa hän siirtyi täysipäiväisesti An Cafen rumpaliksi. Loppuvuoden nuori yhtye vietti esiintyen tapahtumissa. Herttainen ulkoasu ja reippaat laulut keräsivät pienen, mutta innokkaan fanikunnan.
2003 oli kokeilun aikaa bändin jäsenille, siinä missä seuraava vuosi oli jo todellinen aloitus vakavalle musikkiuralle. Levytyssopimus Loop Ashin kanssa tuotti maaliskuussa ensimmäisen maxi-singlen nimeltä Candy Holic. Viikon sisällä julkaisemisesta single ylsi Oriconin indie-listan toiselle sijalle. Debyyttisingleksi saavutus on melkoinen!
An Cafen ensimmäinen oneman-konsertti Happy Birthday Tsuyu sijoittui toukokuiselle Takadanobaba Arealle. Tapahtuma myytiin loppuun ja paikalle saapuneille jaettiin Hatsukoi-singleä ilmaiseksi.
Helmikuussa 2005 bändi julkaisi ensimmäisen minialbuminsa Amedama rockin, joka toimi aiemmin julkaistujen laulujen kokoelmana. Marraskuussa julkaistu täysipitkä albumi Shikisai moment sen sijaan paljasti yhtyeestä uuden puolen. Tuttu ja turvallinen soundi oli yhä mukana, mutta nyt An Cafe vaikutti aikuistuneemmalta, kokeillen uusia tyylejä ja instrumentteja.
Seuraava askel oli ulkomaat - An Cafe ilmoitti vuoden 2007 alussa ilmaantuvansa vieraina amerikkalaiseen A-kon-animetapahtumaan. Valitettavasti fanien riemua laski uutinen yhtyeen ensimmäisestä jäsenenvaihdoksesta: Bou erosi ryhmästä esiintymällä viimeisen kerran An Cafen jäsenenä 30. huhtikuuta 2007. Liikuttava konsertti videoitiin ja julkaistiin myöhemmin yleisölle nimellä HIBIYA ON ☆the☆ o NEW sekai.
Toukokuussa An Cafe paljasti uuden kokoonpanonsa. Uuden kitaristin Takuyan lisäksi bändiin oli löytynyt myös kosketinsoittaja Yu-ki. Tällä jäsenistöllä he esiintyivät Saksan J-SHOCK 2007 -tapahtumassa yhdessä Guitar Wolfin, girugameshin ja bisin kanssa.
Huhtikuussa yhtyeen kolmas albumi, Gokutama ROCK CAFE, julkaistiin myös Euroopassa ja Amerikassa. Kesän aikana he esiintyivät ulkoilmakonsertissa nimeltä ANCAFESTA'08 - SUMMER DIVE juhlistaakseen viisivuotisjuhlapäiväänsä. Ei kestänyt kauaakaan, kun uusi single julkaistiin.
Vuonna 2009 yhtye oli menestyksensä huipulla julkaistuaan kaksi singleä ja uuden studioalbumin. Bändi nähtiin lavoilla ympäri Japania ja maailmaa. Tällä kertaa he eivät vierailleet vain Euroopassa ja Amerikan con-tapahtumissa, vaan keikkailivat myös Etelä-Amerikassa ja USA:ssa. Shokeeraava uutinen ilmaantui vuoden 2009 puolivälissä, kun bändi ilmoitti jäävänsä tauolle saman vuoden elokuussa. Päätöksessä mainittiin, että tauolle oli monia eri syitä, mutta pääsyynä oli jäsenten kutsumus omille aktiviteeteille, jotta he voisivat astua seuraavan askeleen An Cafena.
An Cafe esiintyi toistaiseksi viimeisen kerran yhdessä 4. tammikuuta 2010 Nippon Budokanilla. Konsertin jälkeen kaikki jäsenet on nähty omissa puuhissaan - esimerkiksi Miku on nyt Lc5-nimisen yhtyeen solisti. Bändin taukoilmoituksessa on nimenomaan mainittu, ettei kyseessä ole An Cafen loppu, vaan jäsenet palaavat vielä joskus yhteen.
Vuoden 2012 huhtikuussa bändi ilmoitti palaavansa musiikkimarkkinoille An Cafena. Parin viikon päästä Gan-Shin ilmoitti An Cafen maailmankiertueen marraskuussa 2012 järjestettävästä Euroopan osuudesta, jolloin bändi saapuu myös Suomeen.
