Rahmah El Yunusiyah lahir pada 20 Desember 1900 di Bukit Surungan, Padang panjang. Ia adalah putri bungsu dari lima bersaudara. Kakaknya, Zainuddin Labay, Mariah, Muhammad Rasyad, dan Rihanah adalah tokoh-tokoh yang ikut berperan dalam mendukung perjuangan Rahmah. Ayah Rahmah adalah seorang ulama terkenal bernama Syaikh Muhammad Yunus dan ibunya, sosok yang menjadi inspirasinya, bernama Rafi’ah. Rahmah kecil belajar ilmu-ilmu agama, dan lainnya bersama ayahnya. Sementara bersama ibunya, Rahmah belajar tentang keputrian dan rumah tangga. Tidak hanya mendapatkan pembelajaran di rumah, Rahmah kecil juga kerap menimba ilmu di masjid-masjid terdekat.
Pendidikan formal pertama yang ditempuh Rahmah adalah pendidikan di Diniyah School, sekolah yang didirikan oleh kakaknya, Zainuddin Labay. Pada usia 15 tahun, ia belajar Bahasa Arab dan Latin bersama murid-murid lainnya di Diniyah School. Rahmah dikenal sebagai murid yang cerdas dan kritis semasa sekolahnya. Meskipun terkesan seperti perempuan beruntung yang mampu memperoleh pendidikan pada masa itu, sebenarnya Rahmah juga menuntut ilmu dalam batasan-batan yang sempit. Ia juga terkekang dengan ketidakmampuannya untuk belajar dengan bebas.
Diniyah School adalah sekolah dengan sistem ko-edukasi, yaitu sistem belajar secara bersamaan dalam satu kelas tanpa membedakan jenis kelamin. Kendati demikian, para siswi kesulitan mengemukakan pendapat dan pemikirannya saat kegiatan pembelajaran berlangsung dikarenakan minimnya komposisi siswi dan guru perempuan di kelas tersebut sehingga diskusi yang berlangsung lebih banyak dipengaruhi oleh laki-laki. Hal inilah yang membuat Rahmah menjadi kurang leluasa belajar di Diniyah School.
Berangkat dari hal tersebut, Rahmah bersama tiga sahabatnya, Rasuna Said, Nanisah, dan Upik Japang memutuskan membuat kelompok belajar agar bisa berdiskusi dengan bebas dan memperdalam ilmu dengan belajar di luar Diniyah School. Empat sekawan yang haus ilmu ini sangat aktif menuntut ilmu di masjid-masjid terdekat. Mereka aktif mengikuti kegiatan-kegiatan pengajian dan berguru kepada syaikh-syaikh ternama, seperti Syaikh Muhammad Jamil Jambek, Syaikh Abdul Latif Rasyidi, dan Syaikh Daud Rasyidi.
Saat berusia 23 tahun, sangatlah besar semangat dan keinginan Rahmah untuk memajukan pendidikan bagi kaum perempuan. Pada akhirnya, pada 1 November 1923, dengan dukungan kakak dan teman-temannya, Rahmah mendirikan Diniyah School Putri atau Madrasah Diniyah lil Banat yang bertempat di Masjid Pasar Usang. Murid pertama Diniyah School Putri berjumlah 71 orang yang merupakan ibu-ibu muda. Selanjutnya pada 1925 didirikan pula Sekolah Menyesal yang merupakan bagian dari Diniyah School Putri yang fokus pada pengajaran membaca dan menulis. Sekolah Menyesal diselenggarakan untuk memberantas buta aksara pada perempuan-perempuan Minang. Sekolah Menyesal hanya beroperasi selama tujuh tahun, yaitu sampai 1932.
Adapun orientasi dan pemikiran dasar dari sekolah yang didirikan Rahmah tertuang di dalam tujuannya, yaitu “Perguruan Diniyah Putri melaksanakan pendidikan dan pengajaran berdasarkan atas ajaran Islam dengan tujuan membentuk putri yang berjiwa Islam dan ibu pendidik yang cakap dan aktif serta bertanggungjawab tentang kesejahteraan masyarakat dan tanah air dalam pengabdian kepada Allah Subhanahu Wa Ta’ala”. Selaras dengan tujuan tersebut, Rahmah membangun Diniyah School Putri menjadi sekolah yang bebas, tidak terbelenggu dengan kepentingan politik apapun. Rahmah selalu menolak bantuan dalam bentuk apapun dari pemerintah Belanda, partai politik, bahkan organisasi agama. Menurut Rahmah, “Politik untuk murid-murid adalah kecintaannya kepada tanah air dan harus didasarkan kepada iman yang tebal di dada setiap dirinya. Kalau hal ini tidak ada pada dirinya ia akan menjadi bumerang, yaitu akan menentang dan menghancurkan” . Rahmah bahkan memilih bercerai dengan suaminya, H. Bahaudin Latief, disebabkan perbedaan orientasi. Di mana, suaminya memilih terjun di dunia politik, sementara Rahmah ingin fokus membangun Pendidikan bagi kaum perempuan tanpa ada sangkut pautnya dengan kepentingan politik.
Kendati demikian pada masa penjajahan Jepang, hak-hak perempuan di Sumatera sangat terancam. Tidak hanya akses belajar yang sangat terbatas, namun hak-hak perempuan sebagai manusia pun tidak dihormati. Dibangunnya “rumah kuning” di seluruh kota membuat Rahmah tidak bisa tinggal diam. Akhirnya, ia pun memilih masuk ke dunia politik agar dapat memperoleh kuasa lebih untuk menghentikan perbudakan dan pelecehan perempuan di Sumatera. Ia mengikuti organisasi-organisasi seperti Anggota Daerah Ibu dan Gyugun Ko En Kai. Demi membela hak asasi manusia perempuan-perempuan Sumatera, Rahmah berjuang melalui semua cara yang mampu ditempuhnya.
Bahkan sampai pasca kemerdekaan pun Rahmah masih teguh memperjuangkan hak-hak kaum perempuan. Ia dikenal sebagai “Ibu Pasukan Ekstrimis” dan “Pelopor Sabil Muslimat” yang berjuang pada masa agresi Belanda. Sampai akhir hayatnya, Rahmah terus memperjuangkan hak-hak kaum perempuan terutama dalam bidang Pendidikan. Hingga saat ini, hasil perjuangan Rahmah El Yunusiyah masih dapat dirasakan. Diniyah School Putri yang kini dikenal dengan Pondok Pesantren Diniyah Puteri, masih beroperasi dan ikut memajukan pendidikan, serta mencetak pemimpin-pemimpin bangsa yang cemerlang. Rahmah mendapatkan gelar “Syehkhah” dari Al-Azhar karena pembaharuannya yang juga menjadi dasar dibentuknya fakultas khusus perempuan di Universitas Al-Azhar, Mesir. Di Indonesia, ia diberi gelar Bintang Mahaputra Adipradana atas jasa-jasanya.
Terlahir pada masa yang sulit penjajahan dan tanpa kebebasan, tidak membuat Rahmah menyerah dan menerima keadaan begitu saja. Semangat dan tekadnya yang kuat untuk memperjuangkan hak-hak perempuan, khususnya di bidang pendidikan membuatnya berani mengambil risiko. Hingga pada akhirnya berhasil meningkatkan derajat pendidikan dan perempuan di Sumatera, bahkan di Indonesia. Demikianlah perjuangan Rahmah El Yunusiyah, Pelopor Pendidikan Islam Perempuan Indonesia.