Laulaja Toshiya, kitaristit Ozny ja Elizaveat, basisti Gezol ja rumpali Valvin aloittivat black metal -yhtyeen nimeltä EVIL vuonna 1983, esiintyen ensimmäisen kerran saman vuoden elokuussa. Toshiyan eroaminen jo seuraavana vuonna sai porukan miettimään asioita uudelleen: lopulta jäljelle jääneet jäsenet päättivät vaihtaa nimen Sabbatiksi ja basisti Gezol lupasi hoitavansa laulamisen oman instrumenttinsa ohella. Yhtye julkaisi ensimmäiset julkaisunsa oman levy-yhtiönsä, Evil Recordsin, kautta vuonna 1985, ollen yksi japanilaisen black metallin pioneeneja. Samoihin aikoihin rumpali Valvin vaihtui Sammiin, Gezolin veljeen, ja vuotta myöhemmin kitaristi Ozny jätti bändin, muuttaen yhtyeen kolmihenkiseksi.
Vuosien 1987 ja 1989 välillä Sabbat piti keikkailutaukoa ja levytti vain muutaman lyhyen julkaisun. Tämä tauko osoittautui kokoonpanon osalta varsin kohtalokkaaksi: Gezolin kootessa jäseniä jälleen yhteen hän sai tietää toisten juurtuneen jo muualle. Kitaristi Elizaveat soitti Sabbatin seurana vielä yhden muistokonsertin verran, jolloin Sammin korvasi Zorugelion - rumpali, josta muotoutui pian virallinen jäsen ja joka yhäkin kuuluu bändiin.
Kitaristin puuttuessa Sabbat kuitenkin päätyi hautautumaan jälleen hiljaiseloon keikkailun suhteen, keskittyen äänittämään ensimmäistä täysipituista albumiaan Elizaveatin suosiollisella avustuksella. Envenom-nimen saanut albumi julkaistiin vuonna 1991 ja viralliseksi kitaristiksi nousikin muutaman kitarasoolon verran kyseisellä levytyksellä soittanut Temis Osmond.
Vuonna 1994 Sabbat juhli 10. vuottaan julkaisemalla kokoelman Black Up Your Soul..., jolla myös Elizaveat soitti. Jatko-osassa ... for Satan and Sacrifice puolestaan esiintyi hänen lisäkseen myös Ozny. Molemmat albumit esittelivät vanhoja tuttuja kappaleita uudelleenäänitettyinä versioina. Eronneet jäsenet nähtiin myös juhlavuoteen liittyvällä keikalla.
Vuonna 1995 Gezol aloitti heavy metal -soundia hyväksikäyttävän projektin nimeltä Metalucifer, joka on sittemmin päätynyt mm. Wackenin lavoille.
Sabbatin erikoisuuksiin kuuluu kansainvälinen Harmageddon-sarja, jonka osia on julkaistu useissa eri Euroopan, Aasian ja Amerikan maissa - ja jopa Afrikassa sijaitsevassa Tansaniassa. Yhtye on vuosien saatossa muokannut klassikkokipale Black Firen sanoituksia japanista englantiin, ruotsiin ja swahiliin. Mainitsemisen arvoinen on myös vuoden 2005 split-julkaisu Sabbatin ja suomalaisen Forever Winterin välillä, jolla suomimetallistit esittivät Hellfire-kappaleen suomeksi, nimen vääntyessä muotoon Hornan lieskat. Sabbat on kiertänyt Euroopassa jo useaan otteeseen aina vuodesta 1997 lähtien.
Useat eri levy-yhtiöt julkaisivat juhlalevyjä Sabbatin 20. juhlavuoden kunniaksi vuonna 2004, yhtyeen itsensä keikkaillessa Japanissa juhlakiertueen muodossa. Jo seuraavana vuonna he esiintyivät ensimmäistä kertaa Yhdysvalloissa kiertueella, jonka mahdollistamista fanit pystyivät etukäteen tukemaan ostamalla tarkoitusta varten julkaistun Live Sabbatical Hamaguri Queen -albumin. New Yorkissa äänitettyä materiaalia julkaistiin myöhemmin Brooklyn Blackfire -levytyksellä.
Temis Osmond erosi yhtyeestä Nagoyassa 26. marraskuuta 2005 soitetun konsertin jälkeen, jolloin Sabbat julkaisi muistolevytyksen nimeltä Tribute to Temis. Temisin kommenttien mukaan pitkän yhteisen taipaleen katkaisemisen syinä olivat vaikeudet aikatauluttaa Sabbat yhteen muun elämän kanssa. Uuden kitaristin etsinnän lomassa keikkojen sessiokitaristina taituroi MAGNESIUMin Ishidamien.