A boldogtalan házasság rányomta bélyegét Rilke egész gyerekkorára. Édesapja előbb katonának állt, majd miután rájött, hogy ez a pálya nem neki való, vasutasnak „csapott fel". Édesanyja, Sophia (vagy ahogy a szülei nevezték Phia) egy jómódú prágai családból, az Entz-Kintzelbergers családból származott, s a Herrengasse 8 szám alatti házban éltek. Itt töltötte a kis Rainer is gyermekkorát és ifjúkori éveit. Az édesanyja és a közte levő kapcsolatot az is erősítette, hogy a szülők nem sokkal azelőtt veszítették el első gyermeküket, egy kislányt, akinek mindössze egy hét adatott meg az életből. Édesanyját ez a tény annyira megviselte, hogy Sophia a fiát évekig kislányruhába öltöztette - ezzel próbálta valamiféleképp pótolni-enyhíteni meghalt lánya hiányát. Szülei házassága végül 1884-ben pecsételődött meg.

Szülei Rainert is katonai pályára szánták, két évvel később, 1886-ban be is íratták a költészet és a művészet területén egyaránt tehetséges fiút egy katonai, tisztképző iskolába, ahová 1891-ig járt, ám Rilkének nem volt ínyére a bakaélet.

Nagybátyja segítségével, aki felismerte, hogy a fiú kivételes tehetséggel megáldott gyermek, betegségre hivatkozva otthagyta a katonai akadémiát. 1892 és 1895 között beiratkozott egy német előkészítő iskolába, amely felkészítette őt az egyetemi felvételi vizsgára, s sikeres felvételi vizsgát tett. 1895-96 táján irodalmat, művészettörténetet és filozófiát tanult Prágában és Münchenben.

1897-ben ugyanitt megismerkedett egy világjárt, nagyon művelt nővel, Lou-Andreas Saloméval (1861. február 12. - 1937. január 5.), aki iránt hamar szerelemre is lobbant, s ekkor változtatta meg keresztnevét Renéről Rainerre, ami egyébként Lou kifejezett kérése volt, mivel a hölgy azt gondolta, hogy az utóbbi név férfiasabb, erősebb és németesebb hangzású. Az asszony férjnél volt, mikor megismerkedett Rainerrel. Kapcsolatuk során két nagy kirándulást tettek Oroszországba, majd 1900-ban elváltak. De még válásukat követően is Lou volt Rilke legfőbb bizalmasa, s ez egészen Rilke haláláig végig így is maradt. 1912-től 1913-ig pszichoanalitikusnak tanult olyan óriásokkal együtt, mint Siegmund Freud, aki beavatta a költőt pszichoanalízis rejtelmeibe.

1898-ban Rilke egy hosszú hetekig tartó utazásra indult Olaszországba. 1899-ben Lou-val és férjével, Friedrich Andreassal Oroszországba utazott, ahol megismerkedett a  híres regényíróval, Lev NyikolajevicsTolsztojjal (akinek hatása tetten érhető a Das Buch von lieben Gott und anderes c. művén) és Leonid Pasternakkal, az ekkoriban még csupán 9 éves Boris, a későbbi író édesapjával.

Ekkoriban költözött Worpswedebe, egy kisvárosba, annak is  egyik művésznegyedébe. Itt ismerkedett meg Clara Westhoffal, akit később el is vett feleségül, s aki akkoriban Rodin egyik tanítványa volt. 1902-ben Párizsba költözött, ahol szoros barátságot kötött Rodinnel, akinek egy ideig titkára is volt. E tizenkét Párizsban töltött év során Rilke különösen termékeny volt. Ekkor születtek ugyanis első komolyabb művei. Felesége, Clara otthagyta szüleit és közös lányukat, s Rilkéhez költözött. Clara Westhoffal folytatott kapcsolata egész életén át végigkísérte, a közös megegyezéssel történő elválásukat ugyanis akadályozta, hogy Rilke hivatalosan katolikus vallású volt, bár valójában szíve mélyén erősen a protestánsokhoz vonzódott.

Itt, Párizsban születtek legfontosabb művei, az Új versek I. és II. része, a Requiem versek (1909) és a Malte Laurids Brigge jegyzetei c. regénye, amelyet 1904-ben kezdett el írni, és 1910 januárjában fejezett be. A Párizsban eltöltött időszakről a svéd Miriam Tapper írt egy könyvet, amelyben részletesen leírta és kommentálta azt a rengeteg különböző lakcímet, ahol akkoriban Rilke élt és megpróbált párhuzamot találni ott tartózkodásai és költeményei között. E könyv címe és kiadásának adatai: Resa med Rilke (Utazás Rilkével), Mita bokförlag 2010. A könyv  külön fejezetet szentel Rilke betegségének és halálának is.

Az évtized második felében hosszabb időszakot töltött a bikaviadalairól is híres dél-spanyolországi Rondában. Állandó szobája volt az 1906-ban épült Reina Victoriaban, amely azóta is ugyanúgy áll, ahogy a költő hagyta - ma a szoba múzeumként üzemel. Állítólag Rilke írta a hotelről: "He buscado por todas partes la ciudad soñada, y al fin la he encontrado en Ronda" és "No hay nada más inesperado en España que esta ciudad salvaje y montañera" (Mindenütt álmaim városát kerestem, s végre valahára meg is találtam azt Rondában. Egész Spanyolországban nincs még egy ilyen ijesztő, mint e vad és hegyvidéki város.)

1911 októberétől 1912 májusáig Trieszt mellett, a duinoi kastélyban, Thurn und Taxis hercegnőjének, Marie-nek az otthonában élt. Itt kezdte el írni egyik utolsó művét, a Duinoi elégiák c. versciklusát, amelyhez ezt követően egy teljes évtizedig hozzá se nyúlt, mondván: alkotói válságban szenved. Az első világháború kitörésének híre németországi tartózkodása idején érte döbbenten a költőt. Párizsba nem mehetett vissza, lakását ugyanis elkobozták tőle, majd nem sokkal később el is árverezték. A háborút nagyrészt Münchenben élte át. 1914 és 1916 között viszonyt folytatott Lou-Albert Lasard festővel, aki akkoriban nős volt. 1916 elején Rilkét behívták katonai szolgálatra. Bécsben kapta meg az alapkiképzést. Befolyásos barátai azonban közbenjártak a költő érdekében, s e fellépés eredményeképpen a háborús nyilvántartó iroda 1916. június 9-én felmentette őt a katonai szolgálat alól, mely alatt a megélt megaláztatások, és a katonai akadémián átélt borzalmak szinte teljesen elhallgattatták a költőt.

1919. június 19-én Rilke Münchenből ellátogatott Svájcba. Az utazás ürügye az volt, hogy egy előadást tartson Zürichben, valójában azonban menekülni kívánt a háború utáni zűrzavar elől, hogy végre újra nekiállhasson a Duinoi elégiáknak. Azonban nagyon nehéz volt számára olyan helyet találni, amely megfelelt elképzeléseinek és anyagilag is meg tudta engedni magának. Egyebek mellett Soglioban, Locarnoban és Berg am Irchelben is megfordult. Csupán 1921 közepén talált állandó lakóhelyet a Veyras közelében található Chateau de Muzot-ban.

Itt fejezte be a Duinoi elégiákat és a Szonettek Orfeusnak c. művét. 1926.december 29-én, leukémiában hunyt el. Halála számos vezető európai művészt mélyen megdöbbentett, de a korabeli nyilvánosság számára szinte teljesen ismeretlen volt. Halála után azonban ismertsége egyre csak nőtt, manapság pedig a líra egyik nagy mesterének tekintik világszerte.