После роспуска трэш метал группы SALEM Mikami Tatsu начал новый дум метал проект, который он назвал Church of Misery, и в котором сам стал басистом. Официально деятельность группы началась в феврале 1996 года, но сам Tatsu начал работу на полгода раньше. На другие позиции в группе он взял Asaeda Kazuhiro (вокал), Nishimura Tomohiro (гитара) и Shimizu Hideki (ударные). После первого выступления 18 февраля ребята отправились на студию, чтобы начать работать над своим альбомом, однако по неизвестным причинам деятельность группы прекратилась, и они на некоторое время исчезли с музыкальной сцены.
В 1997 году их песни, считавшиеся официальным релизом, появились в Америке под названием Volume 1. Однако вскоре выяснилось, что альбом, изданный Doom Records был незаконным. Год спустя группа вернулась на сцену с четырьмя релизами, выпущенными в течение года разными компаниями по всему миру. Это было сделано из-за слишком высокой стоимости записи в Японии. Одним из релизов стала кассета с совместного концерта с Millarca, еще одной японской дум-метал группой. Еще в группе появился новый вокалист Chou Nobukazu, ставший полноправным членом группы во время паузы в их карьере.
В 1999 году вместе со своими английскими коллегами Iron Monkey ребята записали совместный альбом, выпущенный под американским лейблом Man’s Ruin Records. Благодаря их сотрудничеству с компаниями по всему миру группе удалось даже появиться на нескольких итальянских сборниках. Постепенно они становились все более и более популярными, но вскоре они вновь прекратили свою деятельность в связи со сменой вокалиста и ударника. Место ударника Shimizu занял Narita Junji, а новым вокалистом стал Negishi Yoshiaki, впервые певший на Master of Brutality, который как и множество других релизов группы был выпущен в США.
Следующий релиз вышел под финским лейблом, а состав вновь поменялся. Гитарист Nishimura ушел из группы, а его место занял Takenori Hoshi. Новый состав не продержался и года: в январе 2003 появились новости об уходе вокалиста Negishi. Они знали, что поиск нового певца займет много времени, поэтому в очередной раз в карьере группы возникла пауза. Tatsu использовал это время для новых проектов типа Sonic Flower или The G.A.T.E.S., в которых бывший вокалист CoM Negishi принял активное участие. Последний проект был распущен после одного концерта весной 2003 года. В том же году был выпущен совместный альбом с группой Acrimony, содержащий несколько треков с самого начала карьеры группы, когда Asaeda все еще был вокалистом Church of Misery.
В августе группа нашла нового вокалиста: Fukazawa Hideki, бывший певец панк группы под названием Bleed for Pain. Он продемонстрировал свой талант на альбоме The Second Coming, выпущенном в 2004 году и ставшим их первым японским релизом. В том же году был выпущен сборник лучших хитов группы, продолжительностью около 100 минут, с песнями, которые до этого выпускались только за границей. В 2005 году группа впервые выступила с туром в Европе, посетив Германию, Францию и Англию, и дав по 4 концерта в каждой из трех стран. Вернувшись в Японию, Tetsu возродил свой проект Sonic Flower и воссоединил The G.A.T.E.S. (The God Admires The Evil Soul). Hideki также начал свой сайд-проект под названием S.c.U.M. (Society Confronts Unknown Madness), где он выступает в качестве ударника. Однако CoM не прекратили свою активность, и в 2006 году состоялся их второй европейский тур, после которого из группы ушел гитарист Hoshi, а на его место пришел Tom Satan.
В 2007 году группа переиздала альбом под названием Vol.1 под японским лейблом Leafhound Records. А в 2008 продолжила сотрудничество с финским лейблом Kult of Nihilow релизом Dennis Nilsen. Что касается 2009 года, то 20 апреля CoM планируют выпустить новый альбом под названием Houses Of The Unholy, после релиза которого, 23 апреля, группа начнет свой новый европейский тур.
