Rose Elizabeth Cleveland urodziła się w Fayetteville, w stanie Nowy Jork, 14 czerwca 1846 roku. Znana w rodzinie jako „Libby”, Rose była najmłodszym z dziewięciorga dzieci urodzonych przez Richarda Falleya Clevelanda i Ann Neal Cleveland. We wrześniu 1853 roku rodzina przeniosła się do Holland Patent w stanie Nowy Jork, gdzie jej ojciec został właśnie mianowany pastorem kościoła prezbiteriańskiego. Zmarł on w następnym miesiącu, a Rose miała siedem lat w chwili śmierci ojca.
Rose została w Holland Patent, aby opiekować się owdowiałą matką. Grover Cleveland, starszy brat Rose, miał 16 lat w tym czasie i był zdeterminowany, aby pomóc utrzymać swoją rodzinę. Opuścił szkołę i wyjechał do Nowego Jorku, gdzie pracował jako nauczyciel w Państwowej Szkole dla Niewidomych. Rose kształciła się w Houghton Seminary w Clinton, w stanie Nowy Jork, gdzie później została nauczycielką, aby utrzymać siebie i pomóc w utrzymaniu owdowiałej matki.
Rose uczyła również w Collegiate Institute w Lafayette, w stanie Indiana, oraz w szkole dla dziewcząt w Muncy, w stanie Pensylwania, gdzie uczyła pod koniec lat 60-tych XIX wieku. W seminarium w Muncy Rose znana była ze swej silnej osobowości i niezależności.
Rose zyskała przezwisko w kręgu przyjaciół w Muncy; nazywali ją „Johnny Cleveland”, ponieważ zwykle można ją było znaleźć czytającą książkę pod starym drzewem na pobliskiej farmie. Rose przygotowała kurs wykładów historycznych; jeden z nich dotyczył altruistycznej wiary i wygłosiła go przed studentami Houghton Seminary oraz w innych szkołach.
W latach osiemdziesiątych XIX wieku Rose wróciła do Holland Patent, aby opiekować się chorą matką. W tym czasie uczyła w szkółce niedzielnej i zajmowała się literaturą. Kiedy nie była zatrudniona w ten sposób, poświęcała się swojej starej matce w zagrodzie w Holland Patent aż do jej śmierci w 1882 roku. Po śmierci Ann Neal Cleveland, Rose została sama w zagrodzie znanej jako „The Weeds.”
Rose nadal uczyła w szkółce niedzielnej i dawała wykłady. W jednym z wykładów na temat altruistycznej wiary, stwierdziła: „Nie możemy dotknąć ludzkości w ogóle, chyba że dotkniemy ludzkości w jednostce. Czynimy świat lepszym miejscem poprzez nasze konkretne relacje, a nie poprzez naszą mglistą, ogólną dobrą wolę. Każdy z nas musi znaleźć prawdziwego partnera, kogoś, kto nas rozumie i docenia, kogoś, kogo wiara w nas wydobywa nasze najlepsze wysiłki. Naszym najgłębszym pragnieniem jest uznanie – być poznanym przez drugiego człowieka takim, jakim naprawdę jesteśmy.”