J. Bielinis mirė 1918-ųjų sausio 18 dieną dabartiniame Katinų kaime, Panevėžio rajone, kaip manoma, pakeliui į Vilnių, iš kurio vis dažniau pasiekdavo žinios apie artėjančią Nepriklausomybę.

„J. Bielinis latviškuose laikraščiuose perskaitė, kad Latvija jokių sąjungų su niekuo nenori sudaryti, nori pati būti nepriklausoma, o Lietuvos Taryba nori sąjungos su Vokietija. Tada susirūpinęs 72 metų mūsų tautos patriarchas, taip jį spauda tada įvardydavo, pasikinkė arkliuką Suosto miestelyje ir važiavo į Vilnių klausti, kokia susidarė situacija“, – pasakoja Teologijos ir tarpkultūrinių santykių ekspertas dr. Rimantas Gudelis. Pasak jo, atstumas iki Vilniaus buvo apie 220 kilometrų, J. Bielinis mirė įveikęs 65 kilometrus.

XIX amžiaus antroje pusėje carinei valdžiai uždraudus lietuvišką spaudą, J. Bielinis kartu su kitais knygnešiais kelis dešimtmečius slapta per sieną gabeno Mažojoje Lietuvoje spausdintas knygas ir laikraščius.

Žymiausias Lietuvos knygnešys caro žandarams ir pasienio sargybiniams buvo įkliuvęs penkis kartus – visąlaik pavykdavo ištrūkti.

Kai kurių Vakarų istorikų nuomone, knygnešių veikla buvo vienas iš svarbiausių veiksnių, paskatinusių sąlygas skelbti Lietuvos nepriklausomybę.

J. Bielinio gimimo diena – kovo 16-oji – minima kaip Knygnešio diena.