Auf Initiative von Olly Schwarz wurde 1916 die Zentralstelle für weibliche Berufsberatung in Wien gemeinsam vom Bund Österreichischer Frauenvereine und Vereinigung der arbeitenden Frauen geschaffen. Beide Vereine hatten schon praktische Berufsberatung für Mädchen und Frauen geleistet sowie Vorträge dazu an Schulen und Volksbildungseirichtungen gehalten. Bereits vor dem Ersten Weltkrieg hatte Olly Schwarz sich intensiv mit Fragen der Berufsberatung für Frauen und Vorbildern dafür in anderen europäischen Ländern auseinandergesetzt.

Während des Krieges gewann die Berufstätigkeit von Frauen in allen Berufszweigen und die Arbeitsvermittlung für weibliche Kriegshinterbliebene eklatant an Bedeutung. Neben Frauenorganisationen bemühten sich im Krieg auch Regierung und Militär um eine stärkere Einbindung von Frauen in den Arbeitsprozess. Bereits 1917 organisierte Olly Schwarz eine Tagung für die Berufsinteressen der Frauen.

Nach Ende des Krieges erging 1919 ein Erlass des Ministeriums an alle Bürgermeister von Städten, in welchem die Errichtung kommunaler Ämter für Berufsberatung angeregt wurde. In Wien genehmigte 1921 der Gemeinderats-Ausschuss die Einrichtung eines Berufsberatungsamtes und die Übernahme bestehender Beratungsstellen durch die Gemeinde Wien. 1922 wurde der Verein vollständig in das Berufsberatungsamt der Stadt Wien eingegliedert und Olly Schwarz mit der Leitung der weiblichen Abteilung des Berufsberatungsamtes betraut. Während des gesamten Bestehens des Berufsberatungsamtes der Stadt Wien leitete sie diese Abteilung und führte Berufs- und Bildungsberatungen für Frauen durch. 1928 gelang es dem Amt nach langwierigen Verhandlungen eine zweite Beamtin - Helene Corradini - für die weibliche Berufsberatung zu bekommen.

Die jährlich stattfindenden Tagungen für Berufsberatung gingen ebenfalls auf die Initiative von Olly Schwarz zurück. Schon ab 1919 fanden diese statt. An diesen zweitägigen Tagungen referierten neben MitarbeiterInnen des Berufsberatungsamtes der Stadt Wien auch andere in- und ausländische ExpertInnen der Berufsberatung, Medizin, Psychologie, Pädagogik oder Politik. Die jährlichen Berufsberatungstagungen wurden auch nach der Auflösung des Berufsberatungsamtes der Stadt Wien 1933 von Olly Schwarz und der Zentralstelle für weibliche Berufsberatung fortgeführt.

1936 wurde das zwanzigjährige Jubiläum der Zentralstelle für weibliche Berufsberatung mit einer Festschrift und einer Festversammlung gefeiert und damit die Tätigkeit eingestellt.