Bänd loodi 1994. aastal Belka ja Bassiema Maku eestvedamisel. Nende sünnipäevaks loetakse 22. detsembrit, kuna siis oli esimene esinemine -üritus "Tiliseb, tiliseb kitarrikeel" toimus Mai kultuurimajas kooseisuga Marr, Belka, Maku ja Aike. Nimigi mõeldi välja kiiruga, sest esineda oli vaja ja ilma nimeta ei oleks hakkama saadud, rahvasuu räägib, et esinemine oli olnud "Ilgelt hea".

Muusikastiil, mida nad teevad nimetavad nad ise "Grungeks omas mahlas".

1995.aastal anti välja kassett: "Delirium ridibundus". Hiljem on seda välja antud ka CD-formaadis. Nende poolt on välja antud ka 4 demo: "Kõik on viimsepeal "(1998), "My weakness"(2001, mil lisandus bändi ka soolokitarrist Rennu), "Mul on veel veini" ja "Kõhn pihlak"(2002). The Belka hiilgeajaks loetakse aastaid 1994-1997 aastat.

10.detsembril 2005 aastal anti välja album “Mehega II planeedilt”. Plaadiga olid kaasas plakat ja sõnad. Sissemängimine kestis ühe päeva aprillis ja päev augustis. Ülejäänud aeg läks lugude töötluse, kujunduse ja sponsorite otsimise peale. Muusika oli The Belka omas mahlas ehk tunduvalt professionaalsem, kui neid muidu teatakse. Näidati oma huvitavamaid külgi, mida võib-olla pole keegi kuulnudki. Belka:"Hämmastavalt mitmekesine sisu on sellel plaadil. Kui mõni arvab, et need on mingid vanade lugude töötlused, siis seda need ei ole. Mõni lugu kõlas juubeliplaadil teiste esituses. Kõik on uued, peale “Naise” remiksi. Plaadil olid oma lood viimseni, aga on kasutatud mõnda päris luuletaja teksti. Jüri Kaldmaa sõnadele on tehtud “Kõhn pihlak”. Laulu “Keskööl” sõnade autor on Ilmar Särg."

21.06.2007 valmis singel "Castor Fiber" ning 02.veebruaril 2008 "Must Kunst". Bänd pani oma kodulehele 14.aprillil 2009 üles uue singli "Orjapõlvlane".

01.mail 2009 esitles The Belka uut albumit "Kiviaeg". "Uus album on eelmisest märksa karmim," avas bändi eestvedaja Belka, kodanikunimega Ivo Orav. "Albumi kõlapilt ja sound pole nelja aasta taguse materjaliga võrreldavgi." Kuigi uue albumi muusika pärineb kõik Belka sulest, aitasid laulude sõnu seada Tommyboy, Jüri Kaldma, Mari-Leen Toome ja Tiina Kalder. "Ei ole ju mõtet punnitada mingit mõttetut teksti, kui ei tule, ja pole ka mingi häbiasi kasutada teiste loomingut, kui tegu on oma ala professionaalidega," märkis Orav. "Kiviaeg" panime plaadi nimeks sellepärast, et eelmisest on nii palju aega möödas," nentis Orav. "Samas salvestasime selle Janek Kivi stuudios." Muusik märkis, et The Belka kõlapilt on aja jooksul muutunud. Plaadi salvestamise ajal liitus bändiga uus kitarrist Marvin Mitt, kes andis ansamblile Belka kinnitusel üsna uue käekirja.

7.augusti pärastlõunal andis bänd kontserdi Afganistanis teenivatele Eesti kaitseväelastele. The Belka esineb 11.augustil 2012 Tartu pungifestivalil Punk'n'Roll Raadi järve ääres.

14.juunil 2014 avas Pärnus uksed uus kontserdipaik Rock Club Volume, mille avamispeol astus üles ka The Belka.

The Belka tähistas oma 20. juubelit 31.oktoobril 2014 Pärnu Kentuki Pubis. 15.novembril esinetakse Tartu klubis Rock & Roll Heaven.

15.mail 2015 toimus Pärnu Rock Club Volume'is The Belka Live, kus tähistati Ivo “Belka” Orav sünnipäeva.

Bänd esines 12.oktoobril 2019 50. korda toimunud Sindi Rock'il.

17.oktoobril ilmus The Belka uus singel "Koidula", mille sõnade ja muusika autor on Ivo Orav. Ansambel kommenteerib: “Lugu räägib Pärnus asuvast Koidula nimelisest pargist. Selles pargis oli punkarite ja muude teisitimõtlejate kohtumispaik. Eks seal juhtus nii mõndagi, aga sellised me olime. Lugu on ajendatud väikesest nostalgialaksust, lugupidamisest poetessi enda vastu ja mälestamaks neid, kes võib olla suhtlevad praegu kuskil Koidula endaga.”

11.detsembril toimus Barbari Amfiteatris raskemuusikafestival "Winter Feast", kus astusid üles punk-rock legendid THE BELKA, Eesti parima hevikahuri HERALD ning AC/DC & METALLICA tribute bändid COVERAGE & PATAREI!

14.jaanuaril 2023 esines The Belka Pärnus Wunderbaaris.

1.aprillil 2023 anti välja neljas stuudioalbum "Teravamad Killud". Kirjutati: "Helikandja puhul on tegu varasemalt kuulajate hääletuse tulemusena ja osaliselt meie endi poolt valitud enim emotsioone tekitanud lugudega, mida ühtekokku on 18. Kaksteist muusikapala kannavad endisest hoopis teistsugust kuube kui varem. Boonuseks 3 täiesti tutikat laulu ning lõpunootides kõlavad läbi aegade ilmunud üksikud singlid, mis on kenasti adopteeritud kaunisse lilleseadesse". Hooandjatele ja toetajatele tehti sügav kummardus videoga loost "Hirm".

19.jaanuaril 2024 esinesid The Belka, Sorus ja Arpo Ro klubis Barbar Sulevi 40. juubelipidustustel.

20.06 esinesid Belka ja Valm Tallinnas “Barbar” rockiklubi lõpupeol.