Nach Einführung des Reichsvolksschulgesetztes 1869, das auch Lehrerinnen in den öffentlichen Schuldienst zulässt, wird der Verein 1870 u.a. von Amalie Erxleben, die auch erste Präsidentin ist, gegründet und fungiert in erster Linie als Plattform für die Erreichung berufsständischer Ziele der Lehrerinnen, wie z. B. Gleichstellung mit den männlichen Kollegen, Abschaffung des "Lehrerinnenzölibats" etc. Da Lehrerinnen zu den gebildeten Kreisen gehören, gelingt es ihnen, den politischen Aspekt der Rechtlosigkeit von Frauen zu erfassen und entsprechende gesellschaftliche Forderungen zu formulieren, die für breite Schichten von Frauen gleichermassen relevant sind (Frauenwahlrecht, Gleichberechtigung der Geschlechter in Bildung und Beruf). So ist der erste Vortrag, der im Rahmen des Vereins behandelt wird, die Frauenfrage, wie sie bei John Stuart Mill behandelt wird. Eine der engagiertesten Lehrerinnen ist Auguste Fickert, die sich 1889 neben Marie Schwarz und Marie Mussil im Lehrerinnenkomitee engagiert und später zentrale Gestalt des Allgemeinen österreichischen Frauenvereins wird.
1875 wird durch eine grössere Spene der Grundstock für ein Lehrerinnen-Heim gelegt und in den folgenden Jahren ein Aufruf zur Sammlung von Spenden gemacht, den u.a. auch die Schriftstellerin Betti Paoli unterzeichnet. Unter der Präsidentin Luise von Stahl-Almásy wird am 1. Dezember 1879 das "Heim für Lehrerinnen und Erzieherinnen" eröffnet.
Nach langjähriger Mitgliedschaft und Vereinstätigkeit übernimmt Marie Schwarz 1896 die Leitung des Vereins und wird diese mit besonderem Engagement bis 1920 beibehalten. Sie ist es auch, die als erste Frau in Wien die Leitung einer Bürgerschule übertragen bekommt.