Заскучав от рутинной офисной работы, Naoko Yamano (вокал) и Michie Nakatani (бас) в 1981 году решили образовать группу. Все начиналось как обычное хобби. Atsuko Yamano попросила свою сестру присоединится к группе в качестве барабанщицы. Та с радостью согласилась. Так сформировался постоянный состав группы.
Месяцы спустя, весной 1982, Shonen Knife отыграли первый концерт в своем родном городе Осака в клубе One. Хотя его посетили всего 36 человек, для группы это стало своеобразным начальным этапом. Немного спустя, после того как группа начала выступать с концертами, независимый лейбл Zero Records захотел заключить с ними контракт.
Поскольку с этого момента музыка трио стала распространяться, то через некоторое время альбомы начали продаваться на территории США. В 1985 K, независимый лейбл США, выпустил первый релиз группы за пределами Японии. Группа стремилась стать узнаваемой, и в 1987 году другой американский лейбл Subversive Records увидел немалый потенциал группы и выпустил их второй альбом.
Оставаясь малоизвестной андеграундной группой в Японии, Shonen Knife переживали бум популярности в США, который начался после их первого мирового турне в 1989, когда группу неоднократно вызывали на бис на каждом концерте, поклонники выкрикивали названия песен. Никогда прежде не сталкиваясь с такой огромной популярностью и любовью слушателей, группа решила, что будет периодически выезжать в мировые турне, чтобы снова встречаться со своими фанатами. В ноябре того же года более 30 западных артистов приняли участие в записи трибьюта, посвященного группе, состоящего из кавер-версий песен группы. Он вышел под названием Every Band Has a Shonen Knife Who Loves Them.
В 1991 группа привлекла внимание уже тогда набирающей популярность группы Nirvana. Они сыграли на разогреве у Nirvana во время одного из своих туров по Америке. После этого Shonen Knife продолжили свой тур, а затем присоединились к Nirvana во время их турне по Японии.
Продолжая завоевывать популярность, группа подписала свой первый контракт с американским мейджер-лейблом Capitol Records, а в следующем году – со звукозаписывающей компанией Virgin. Одновременно с выпуском альбома Rock Animals группа также выпустила видео Tomato Head. Оно крутилось по американскому MTV, а также появилось в хит-шоу Бивис и Батхед.
Вскоре группа начала получать немалый доход от своей музыкальной деятельности, что позволило девушкам бросить старую работу и полностью посвятить себя музыке. Спустя некоторое время группа отправилась в тур по Европе. В 1992 они появились в Нью-Йорке на New Music Seminar, а в 1994 - на многих телевизионных каналах и на многих радио-программах, таких как The Conan O’Brien Show, на территории США.
Shonen Knife предоставили песню для трибьют-альбома The Carpenters, также их песня была использована в качестве заключительной темы к американскому фильму "Last Supper" (Последний ужин). Песни группы были использованы и в рекламах компании Microsoft. Однако сотрудничество группы с Microsoft на этом не закончилось. В 1998 Shonen Knife посетили центральный офис Microsoft в США, чтобы отыграть выступление, которое было показано по интернету на весь мир в режиме реального времени.
Год спустя в группе произошли первые за 18 лет их существования изменения: в декабре 1999 группу покинула Michie. В это время Atsuko в дополнение к барабанам стала играть на бас-гитаре. В 2001 году к группе присоединилась барабанщица Mana Nishiura, и Atsuko смогла полностью переключиться на бас. Спустя три года в Нью-Джерси во время ее совместного с DMBQ тура по США Mana попала в катастрофу с летальным исходом. После случившейся трагедии DMBQ и Shonen Knife дали совместный концерт в ее честь.
Но немного времени пройдет, как в группе появится новая барабанщица Etsuko, которая станет официальной участницей трио. После этого группа отпразднует свое 25-летие. И сегодня они продолжают играть с той же силой и энергией, как и все это время.