Zespół powstał w Tokio na początku roku 1990, choć niektóre źródła twierdzą, że ich początki sięgają roku 1989. W skład zespołu weszła trójka młodych znajomych z liceum: Mirai Kawashima (bass i wokal), Satoshi Fujinami (gitara) oraz Kazuki (perkusja). Na początku grali jedynie covery, jednak już w czerwcu 1990 ukazała się ich peirwsza demówka, zawierająca oryginalny materiał Sigh. Niedługo potem Kazuki stwierdził, że jego koncepcja zespołu jest odmienna od pozostałych członków i odszedł. Pomimo tego pod koniec roku Sigh wydali drugą demówkę. Mirai śpiewał, grał na klawiszach, basie i pianinie, podczas gdy Satoshi grał na gitarze i perkusji.
Po okresie ciszy w 1991 roku ich druga demówka doczekała się wznowienia. W promocję włożono dużo pieniędzy, jednak zespół liczył się z tym, że na swojej muzyce póki co nic nie zarobi - ważniejsze było dla nich wybicie się. Jednak to dopiero dzięki wydanej w 1992 EPce Requiem for Fools zostali dostrzeżeni. Mirai pisał wtedy do wielu zagranicznych artystów i wytwórni i dzięki temu zwrócił na siebie uwagę Euronymousa (z legendarnej norweskiej kapeli Mayhem), który przyjął zespół do swojej wytwórni, Deathlike Silence Productions.
Latem 1992 do zespołu przyłączył się gitarzysta Shinichi Ishikawa a Satoshi objął rolę perkusisty. W 1993 ukazał się ich pierwszy album, Scorn Defeat. Niewiele wcześniej Euronymous został zamordowany, wobec czego płyta została wydana przez Voice of Wonder, wytwórnię która przejęła schedę po DSP. VoW zawiódł jednak Sigh w dziedzinie promocji, niedługo potem zespół zmienił więc wytwórnię na brytyjski Cacophonous, czego potem żałowali. W 1994 roku ich piosenka znalazła się na składance organizowanej przez japońską legendę black metalu, Sabbat, na której znalazła się śmietanka japońskiej sceny undergroundowej. Jeszcze w tym samym roku nagrali także wspólną płytę z greckim Kawir.
W 1995 światło dzienne ujżał ich drugi full abum. Zaprezentował on rozwój w ich brzmieniu, było w nim więcej keyboardów i syntezatorów. W tym samym roku niemiecka wytwórnia wydała oficjalny bootleg, zawierający nagranie ich koncertu z 1994 roku, na którym grali covery Venom. Niedługo potem ukazał się także drugi bootleg, zawierający nagrania z występów z lat 1992-1996, na którym znalazły się zarówno kawałki Sigh jak i covery.
W 1997 Sigh planowali wydać wspólną płytę z kolegami z japońskiej sceny, Abigail, jednak wytwórnia Abigail nie zgodziła się na to. Wydanie wspólnej płyty doszło w końcu do skutku, ale dopiero 7 lat później. Także w 1997 w planach pojawiło się wydanie wspólnej płyty ze szwedzkim Vergelmer, ale i ten plan się nie powiódł. Materiał nagrany w tym czasie przez Sigh ukazał się na mini-albumie nazwanym Ghastly Funeral Theatre.
W 1997 roku ukazał się również ich trzeci full album, Hail Horror Hail. Motywem przewodnim płyty był "horror bez wizji". Nie tylko brzmienie płyty ale i wygląd zespołu zaskoczył wielu - porzucili oni tak charakterystyczny dla blackmetalowych kapel corpse paint. Album ten został później uznany przez magazyn Terrorizer za jedną z najważniejszych płyt lat 90tych.
Niezadowolenie z pracy wytwórni spowodowało, iż zespół postanowił ją zmienić. Byli jednak związani z Cacophonous kontraktem na jeszcze jeden album, więc w 1999 ukazał się Scenario IV : Dream Dreams. Tym razem, motywem albumu były "sny". Po raz kolejny dało się zauważyć zmianę w brzmieniu - album ten był bardziej gitarowy od poprzeniego wydawnictwa. W tym samym roku Mirai i Shinichi wraz z Yasuyukim i Youhei z Abigail stworzyli side project o nazwie Cut Throat. Choć ten thrash metalowy projekt powstał początkowo tylko dla zabawy, przed końcem roku ukazał się full album.
Wypełniwszy kontrakt z Cacophonous (który Mirai nazywa "Craphonous") nagrali demówkę i rozesłali ją po wytwórniach. Zainteresowała ona Century Media - jedną z największych metalowych wytwórni na świecie. Nowy album pod nową wytwórnią zatytułowany Imaginary Sonicscape ukazał się w lipcu 2001. Zaprezentował on bardziej psychodeliczne brzmienie i wielu fanom trudno było uwierzyć, że to nadal ten sam zespół. O albumie powiedziano, iż "ze sprzętem lat 70tych, duchem lat 80tych i techniką lat 90tych" stworzyli "muzykę dla 21 wieku".
W 2001 roku Mirai oraz Killjoy z Necrophagia utworzyli kolejny side project, Enoch. W tym samym roku Sigh wział udział w nagrywaniu albumu hołdu dla Johna Coltrane oraz napisali muzykę do MMORPG Adellion.
Dzięki temu, że Imaginary Sonicscape wydany został przez dużą wytwórnię jak i dzięki temu, że jego brzmienie było bardziej przystępne, Sigh zdobył rzeszę nowych fanów i w efekcie w 2002 roku wyruszyli w trasę po USA. Ponieważ liczba instrumentów używanych przez zespół znacznie przekraczała liczbę członków, podczas trasy tej wspomagał ich Yasuyuki Suzuki z Abigail. W 2002 roku Mirai oficjalnie przyłączył się do Necrophagii, a rok później Sigh wydał z tym zespołem wspólną płytę. W tym samym roku wzięli także udział w nagrywaniu albumu z coverami Hawkwind.
W 2004 roku do grupy przyłączył się nowy perkusista, Junichi Harashima, a Satoshi przerzucił się na bas. Z nowym składem nagrali szósty album, Gallows Gallery. Choć jego wydanie planowano początkowo na koniec roku 2003, premiera odbyła się dopiero w roku 2005. Jedną z przyczyn było to, że zespół koncentrował się na trasie po USA. Inną był fakt, że podczas nagrywania albumu zespół używał technik broni dźwiękowych, na których eksperymentowano podczas drugiej wojny światowej. Mirai trafił nawet w trakcie nagrywania do szpitala. Century Media nie była z tego zadowolona, tak jak i zadowolona nie była z tego, że Sigh coraz bardziej oddala się od swoich black metalowych korzeni. Z kolei Sigh nie byli zadowoleni z pracy wytwórni i w efekcie szósty album ukazał się pod Baphomet/Candlelight. Czysty wokal i wpływ heavy metalu z lat 80tych zasygnalizowały kolejną zmianę ich stylu.
W 2005 roku Mirai zaangażowany był we współpracę z wieloma side projectami i zespołami, nagrywał między innymi klawisze na płytach kilki zespołów (w tym Abigail). Wraz z Shane Embury z Napalm Death utworzyli projekt o nazwie Blood from the Soul. Ich druga płyta ma się ukazać w 2007. Drugi album Enoch miał się ukazać w roku 2006, jednak do tej pory nie ujżał światła dziennego. Opóźniona została także premiera siódmego studyjnego albumu Sigh - początkowo miał się ukazać pod koniec roku 2006, później w marcu 2007, obecnie data premiery ustalona jest na czerwiec 2007. Album ukaże się pod kolejną wytwórnią, amerykańską The End Records, skierowaną na brzmienie awangardowe i progresywne.
Podczas koncertu, który udbył się 17 marca 2007 w zespole pojawił się nowy członek - saksofonistka Mikannibal, która śpiewa także chórki.
