Az indiai Tamil Nádu állam Tirucsuli nevű falujában született. Iskolai éveit Tirucsuliban és Maduraiban töltötte. Itt – 1896. július közepén – egy „halálélmény” után megtapasztalta a megvilágosodás állapotát, az azonosságát az Önvalóval, mely tapasztalás a teljes további életében, megszakítás nélkül vele maradt. Augusztus 29-én elhagyta Madurait és családját, hogy az Arunácsala nevű szent hegyhez utazzon.

Élete hátralevő részét itt, ennek az indiai szent hegynek a lábánál töltötte, először hegyi barlangokban, majd a Tiruvannamalai (Tiruvannámalaj) nevű városkában, ahonnan soha többé nem mozdult el. Bár az első időkben a világtól elfordult, lemondott remeteként élt, az egyre növekvő mennyiségben érkező, majd körülötte letelepedő követők egy ásramot alapítottak a tiszteletére, amit Srí Ramanásram néven neveztek el. Ő maga életének a fennmaradó évtizedeiben az ásramban élt, miközben teljesen lemondott a vagyonról és a világi hívságokról, s mindössze egy ágyékkötő és egy sétabot volt vele, valamint a minimális élelem, amit a követőktől elfogadott.

A nyugati világ Paul Brunton magyarul is megjelent könyvéből, az India titkai-ból ismerte meg. Ezt követően rengeteg nyugati is ellátogatott hozzá, hogy megtapasztalja Ramana "kegyelmét" és az Önvalóval való azonosulást. A tanítványait folyamatosan ezen Önvaló állandó megtapasztalására ösztönözte, melynek a tanítása szerint két módja van: első az önkutatás, a „Ki vagyok én?” kérdés feltevésével; a második az önátadás, az Önvalóra való feltétlen ráhagyatkozás. Fő tanításai módszere a csend volt, ritkán tanított szavakkal: a hosszú idő alatt elmondott tanításai egyetlen kötetet töltenek meg, s ezeknek ismerjük további feldolgozásait, kiadásait, szemelvényeit, valamint a követői által kiadott feljegyzéseket.

A szó szoros értelmében vett tanítványokkal nem rendelkezett, ellenben számtalan követője volt, akik önszántukból voltak mellette, s akik rövidebb-hosszabb időt töltöttek a Maharsi mellett. A nyugatiak számára egyik legismertebb követője a lakhnaúi H. W. L. Poonja (H. V. L. Púndzsa), azaz Papaji (Pápádzsí), valamint az említett Paul Brunton, illetve Robert Adams, aki a Maharsi élete utolsó három évét töltötte mestere "lábainál". További követői, akiknek a Ramana-irodalom nagy része köszönhető: Arthur Osborne, az Ashram Journal első szerkesztője; Maurice Frydnam, a Maharshi's Gospel (1939) szerkesztője; David Godman, író és az irodalmi Ramana-örökség egyik fenntartója, aki több könyvet is írt a Maharsi életéről és tanításairól, valamint részletesen beszámolt a legközelebbi követők életéről, emellett pedig ő az alkotója a "Jnani" című, 2018-ban megjelent dokumentumfilmnek, mely Maharsi és az ásram életét mutatja be.