Narodil sa v roku 876 po Kristovi v dedinke Skrino ležiacej neďaleko bulharského mesta Sredec (staroveká Sardica, dnešná Sofia).
Keď mu zomreli rodičia, všetko rozdal chudobným, opustil svoje rodisko a stal sa mníchom. Neskôr vystúpil na vysoký vrch, kde sa zdržiavala iba divá zver, aby sa stal pustovníkom. V noci ho však prepadli zbojníci, nemilosrdne ho zbili a vyhnali, a tak odišiel do Rilskej pustatiny, približne sto kilometrov južným smerom. Tam celé desaťročia viedol prísny asketický život plný pôstu, modlitby, mlčania, sĺz a práce. Nikým nepoznaný býval v dutine bútľavého stromu a nestretával sa s nijakými ľuďmi.
Po istom čase sa však dedinčanom splašili ovce a hnali sa do vrchov. Keď sa pastieri za nimi ponáhľali, s prekvapením narazili na pustovníka, o ktorého existencii dovtedy netušili. On ich privítal slovami: „Prišli ste sem hladní – odtrhnite si z môjho hrachu a jedzte.“ Všetci jedli a nasýtili sa, no jeden z nich si bez pustovníkovho požehnania nabral veľa strukov do zásoby. Keď nimi po spiatočnej ceste ponúkol svojich kolegov, v ukradnutých strukoch nebol ani jediný hrášok. Pastieri sa teda vrátili k starcovi a prosili o prepáčenie. On im odpustil a dodal: „Vidíte, deti, Boh určil tieto plody na nasýtenie pustovníkov.“ Pastieri potom každému rozprávali o veľkom askétovi, ktorý žije vo vrchoch, preto k nemu začali prichádzať mnohí ľudia a prinášať svojich chorých. Na príhovor prepodobného Jána Rilského sa uzdravovali, takže chýr o ňom sa rýchlo šíril. Po osobnom stretnutí s pustovníkom zatúžil dokonca aj bulharský kráľ Peter (927 – 969), ale keďže sa nedokázal predrať porastom až celkom k nemu, komunikoval s ním pomocou listov.
Následne sa k Jánovi pridali niekoľkí muži, ktorí tiež túžili po kresťanskej dokonalosti, a v blízkej jaskyni postavili chrám i monastier. Vo všetkom sa riadili pokynmi svojho učiteľa, ktorý v Pánovom mene robil veľké a slávne divy. Osobitne známym sa stal prípad istého posadnutého človeka. Keď zbadal množstvo ľudí vystupujúcich do vrchov, pripojil sa k nim. Bol ešte takmer kilometer vzdialený od monastiera, keď padol na zem a začal kričať: „Nemôžem pokračovať – páli ma oheň!“ Ľudia ho teda zviazali, priniesli k Jánovi Rilskému a prosili o modlitbu. On odvetil: „Deti moje, ja som slabý človek, ako aj vy. Jedine Boh ho môže uzdraviť.“ Keďže však naňho naliehali, napokon súhlasil a onen posadnutý človek bol okamžite zdravý.
V roku 941 svätý Ján Rilský napísal vlastnou rukou Odkaz učeníkom, jedno z najlepších diel starobulharského písomníctva. Zomrel v pokoji 18. augusta 946 a jeho nasledovníci s úctou pochovali jeho telo. Okolo roka 980 sa im však zjavil a prikázal, aby ho preniesli do mesta Sredec. Keď učeníci otvorili Jánov hrob, telo našli celkom neporušené a nádherne voňajúce myrom. S úctou ho teda uložili v sredeckom Chráme svätého evanjelistu Lukáša, kde bol neskôr vybudovaný celkom nový chrám zasvätený prepodobnému Jánovi Rilskému.
V roku 1183 sa ostatky prepodobného Jána Rilského v dôsledku bojov medzi uhorským kráľom Belom III. (1174 – 1196) a Grékmi dostali do Ostrihomu. Mnohí prichádzali vzdať im úctu, len tamojší arcibiskup vyhlásil: „Staré knihy nespomínajú takého divotvorcu.“ Keď však znenazdania onemel, padol ku schránke s ostatkami, bozkával ju a prosil o odpustenie. V tej chvíli sa mu jazyk rozviazal. Pri ostatkoch svätého Jána Rilského sa udialo aj niekoľko ďalších zázrakov, preto Bela III. dal v roku 1187 truhlicu vyzdobiť striebrom i zlatom a dopraviť naspäť do Sredeca.
Keď Bulharské kráľovstvo získalo nezávislosť od Rímskej (Byzantskej) ríše, jeho kráľ Ján Asan II. (1221 – 1241) dal 19. októbra 1238 predmetné ostatky slávnostne previesť do novopostaveného chrámu vo Veľkom Tarnove, vtedy hlavnom bulharskom meste. Od 1. júla 1469 až podnes odpočívajú v Rilskom monastieri.
Keď navštívite Bulharsko, pokúste sa navštíviť aj uvedený monastier a pomodliť sa pred ostatkami prepodobného Jána Rilského, svätca blízkeho nielen bulharskému ľudu (veď bez jeho vplyvu by tam kresťanstvo zaiste nebolo zapustilo také hlboké korene), ale aj nám všetkým.