Rose Elizabeth Cleveland est née à Fayetteville, dans l’État de New York, le 14 juin 1846. Connue de sa famille sous le nom de « Libby », Rose était la plus jeune des neuf enfants nés de Richard Falley Cleveland et Ann Neal Cleveland. En septembre 1853, la famille déménage à Holland Patent, New York, où son père vient d’être nommé pasteur de l’église presbytérienne. Il meurt le mois suivant, Rose ayant sept ans au moment du décès de son père.
Rose reste à Holland Patent pour s’occuper de sa mère veuve. Grover Cleveland, le frère aîné de Rose, avait 16 ans à l’époque et était déterminé à aider à soutenir sa famille. Il a quitté l’école et est allé à New York pour travailler comme enseignant à la State School for the Blind. Rose a fait ses études au Houghton Seminary de Clinton, dans l’État de New York, où elle est devenue plus tard enseignante pour subvenir à ses besoins et aussi aider à soutenir sa mère veuve.
Rose a également enseigné au Collegiate Institute de Lafayette, dans l’Indiana, et dans une école de filles à Muncy, en Pennsylvanie, où elle a enseigné à la fin des années 1860. Au séminaire de Muncy, Rose était connue pour sa forte personnalité et son indépendance.
Rose a gagné un surnom au sein de son cercle d’amis à Muncy ; ils l’appelaient » Johnny Cleveland » car on la trouvait généralement en train de lire un livre sous un vieil arbre dans une ferme voisine. Rose prépare alors un cours de conférences historiques ; une conférence, en particulier, porte sur la foi altruiste, qu’elle prononce devant les étudiants du séminaire de Houghton et dans d’autres écoles.
Dans les années 1880, Rose retourne à Holland Patent pour s’occuper de sa mère malade. Pendant cette période, elle enseigne à l’école du dimanche et fait quelques travaux de littérature. Lorsqu’elle n’est pas employée de cette manière, elle se consacre à sa mère âgée dans la propriété familiale de Holland Patent jusqu’à la mort de sa mère en 1882. Après la mort d’Ann Neal Cleveland, Rose est restée seule dans la propriété connue sous le nom de « The Weeds ».
Rose a continué à enseigner l’école du dimanche et à donner des conférences. Dans une conférence sur la foi altruiste, elle a déclaré : « Nous ne pouvons pas toucher l’humanité en général, sauf si nous touchons l’humanité dans l’individu. Nous rendons le monde meilleur grâce à nos relations concrètes, et non grâce à notre bonne volonté générale et vague. Chacun de nous doit trouver un véritable partenaire, quelqu’un qui nous comprend et nous apprécie, quelqu’un dont la foi en nous fait ressortir nos meilleurs efforts. Notre désir le plus profond est d’être reconnu – d’être connu par un autre être humain pour ce que nous sommes vraiment. «