Tout commence en 1991 quand Onda rencontre Yuki à Hakodate (ville située au sud d'Hokkaido). Les deux ont déjà une expérience musicale dans divers groupes mais décident de créer leur propre groupe Judy and Mary en février 1992. Kohta, une ancienne connaissance de Onda, est choisi comme batteur et Takuya, alors guitariste d'un groupe nommé Robots, les rejoint tout d'abord comme membre de session.
Selon les dires de Onda, Judy and Mary représente les deux faces de chaque être humain, un peu comme un Docteur Jekyll et Mister Hyde. Judy représentant le côté positif, et Mary le côté négatif. C'est cet état d'esprit qu'essaie de communiquer le groupe au travers de leurs chansons.
Après un premier album indépendant auto-produit en 1992, la notoriété de Judy and Mary, également connu sous l'appelation JAM, évolue très vite pour atteindre son point culminant avec la sortie en 1996 de sobakasu, générique de la série TV Rurôni Kenshin. Si ce titre est loin d'être leur meilleur, c'est celui qui leur permettra de se faire connaître, même si l'effet n'était pas désiré, hors de l'archipel auprès de nombreux fans d'animation à travers le monde.
Leur style oscille entre du punk rock british et de la pop shibuya, le tout soutenu par la voie unique de Yuki, sorte de symbole du groupe. Et c'est avec des titres très dynamiques qui respirent la joie de vivre, et une excentricité en live ou dans les émissions TV, que le groupe devient très populaire. Pour exemple, dans un des volumes du manga GTO, on voit Onizuka chanter kujira 12gô.
Chose amusante : les tenues et coiffures colorées des membres, surtout celle de Yuki et Onda, font que Judy and Mary s'est parfois vu considérer à tort comme un groupe de visual.
Finalement, en août 2001, après 22 singles, 9 albums dont 2 best et 1 live, le groupe décide de se séparer à l'issue d'un dernier concert donné au Tokyo Dome, Takuya désirant continuer son groupe Robots reformé en 1996, et Yuki démarrant une carrière solo.
