Judy and Mary sai alkunsa vuonna 1991, kun basisti Yoshihito ja vokalisti Yuki tapasivat Hakodatessa, Hokkaidolla. Yuki oli tuolloin vain 20-vuotias, mutta molemmat olivat soittaneet jo useissa yhtyeissä. Kota liittyi joukkoon pian tämän jälkeen, mutta yhtye lähti todella käyntiin vasta vuonna 1993, kun Tokuya jätti Robots-yhtyeensä ja siirtyi J.A.M.:in riveihin. Hänen luomansa musiikki ja Yukin ääni sopivat toisilleen täydellisesti.
Judy and Maryn ensimmäinen levy, Be Ambitious ilmestyi vuonna 1992, mutta Power of Love single vuonna 1993 nosti heidät suuremman yleisön tietoisuuteen. Itse albumi, J.A.M. nimeltään ilmestyi seuraavana vuonna (21.1.1994). Jokaisen julkaisun myötä yhtyeen suosio kasvoi, ja nelikko nousi listojenkin kärkeen. Orange Sunshine albumi ilmestyi vielä samana vuonna, ja Miracle Diving vuoden 1995 lopulla. 19.2.1996 ilmestynyt Sakabasu-single tuli tunnetuksi suositun Rurouni Kenshin animen tunnussävelenä, ja sinkosi Judy and Maryn huipulle. Tuottelias yhtye ei jäänyt lepäämään paikoilleen, vaan jatkoi musiikin tekemistä. The Power Source ilmestyi vuoden 1997 alkupuolella, ja Pop Life vuoden 1998 puolivälissä.
Vaikka seuraava uusi albumi ilmestyi vasta 2000-luvulla, fanien iloksi ilmestyi vuonna 1999 livealbumi 44982 VS 1650, singlekokoelma Fresh (23.3.2000) sekä The Great Escape ~Complete Request Best~ vuonna 2001. Pari kuukautta ennen oli ilmestynyt Judy and Maryn viimeiseksi jäänyt levy, Warp (7.2.2001). Yukilla oli tuolloin jo sooloura Mean Machine yhtyeen kanssa, joka koostui kokonaan naismuusikoista. Takuya taas palasi uudelleenperustetun Robots-yhtyeensä pariin.
Helmikuussa 2006 yhtye nousi vielä pinnalle uuden kokoelman voimin. Complete Best Album "Fresh" esitteli Takuyan valvonnassa remasteroidut kappaleet täydessä loistossaan.
Judy and Maryn musiikki on niin tulvillaan energiaa, että sitä on vaikea vastustaa. Monimutkaiset lyriikat ja melodiat korvataan yksinkertaisella ja tarttuvalla musiikilla, jota on vain hauska kuunnella. Kaikki neljä jäsentä olivat hyvin omistautuneita yhtyeelleen, joten ei kuitenkaan pidä mennä kuvittelemaan, että J.A.M.:in musiikki olisi yliolkaisesti tehty, pelkkä suosio mielessä.
Yukin ääni on omalaatuinen ja helposti tunnistettava, kuten heidän visuaalinen, punkahtava tyylinsäkin. Musiikki ja muut jäsenet eivät kuitenkaan koskaan jääneet Yukin varjoon, kuten voi helposti käydä kun yhtyeellä on näinkin kiehtova vokalisti.
Uteliaille vielä selitykseksi, nimi Judy and Mary tulee yhtyeen mukaan siitä, että Judy ja Mary edustavat jokaisesta ihmisestä löytyviä kahta eri puolta, jotka ovat ristiriidassa toistensa kanssa.