Insbesondere hielt Josef Schmidt den Zusammenschluss der protestantischen deutschen Siedlungen mit den katholischen in einem überkonfessionellen Schutzverein für erforderlich, um so die dauerhafte Erhaltung seiner einzelnen Teile zu gewährleisten.
.
Es ist schon bemerkenswert, dass ausgerechnet ein Katholik aus dem Ausland nach kurzem Aufenthalt in Galizien zu dieser Erkenntnis gekommen war und Schluss-folgerungen, auch in kürzester Zeit, in die Tat umsetzte.
Zusammen mit seinen Gleichgesinnten Hofrat Dietrich Neubeck, deutsch-evangelischer Polizeibeamter und Julius Pernhofer, Edler von Bärenkron, ein aus Brünn in Mähren stammender pensionierter Militärbeamter, nahm Schmidt die Gründung eines Bundes aller christlichen Deutschen Galiziens in Angriff.
In der Erkenntnis, dass einem solchen Schritt die Information der Volksgenossen über den Zustand des Deutschtums in Galizien und die vorgesehenen Maßnahmen vorausgehen mussten, verteilten die „drei Przemysliden“, wie sie später ehrfurchtsvoll genannt wurden, auf eigene Kosten gefertigte Flugschriften in den deutschen Gemeinden, beriefen Vertrauensmänner aus den einzelnen Siedlungen zu einer Vorbesprechung nach Przemyśl ein und gründeten das „Deutsche Volksblatt für Galizien“, deren 1. Nummer am 18. August 1907 erschien. Damit war die erste Zeitung für die gesamte deutsche Minderheit in Galizien geschaffen. Vier Wochen später, am 21.09.1907, wurde auf Einladung von Schmidt und seinen Vertrauten auf einer Versammlung von Vertrauensleuten aus evangelischen und katholischen Siedlungen in Grabowiec bei Stryj der „Bund der christlichen Deutschen in Galizien“ gegründet. Es handelte sich um einen deutsch-völkischen Schutzverein, der das Ziel hatte, die kulturellen und wirtschaftlichen Belange der Deutschen Galiziens zu fördern und den Staats- und Landesbehörden gegenüber zu vertreten. Zu diesem Zwecke sollten in allen deutschen Dörfern und Städten Bundesortsgruppen gebildet, sog. „Deutsche Häuser“, als Mittelpunkt des kulturellen und geselligen Lebens errichtet, deutsche Privatschulen unterhalten, Büchereien und Lesehallen, Genossenschaften und Einrichtungen ähnlicher Art ins Leben gerufen werden.
Mit den bescheidensten Mitteln hatte der Bund bis zum Kriegsausbruch 1914 ein Netz von Einrichtungen geschaffen, die die friedliche Entwicklung der Deutschen des Landes gewährleisten konnte. Das bedeutendste Ergebnis war jedoch, dass er die lose neben- und miteinander lebenden Angehörigen beider Glaubensbekenntnisse zu einer Gemeinschaft zusammengeschlossen, ihrem Leben einen neuen Inhalt gegeben, ein neues Ziel gewiesen hat. Damit war der „deutsche Michel“, wie man das damals nannte, aus seinem über hundertjährigen Dornröschenschlaf erwacht und entschlossen, sein Schicksal selbst in die Hand zu nehmen.
Schmidt widmete sich dieser Aufgabe auch in den Folgejahren. Er gab von 1909 an den Bundeskalender - später „Zeitweiser“ - heraus, die eine Fülle von Beiträgen zur Heimatkunde u. a. Beiträge, z. T. aus Schmidts eigener Feder, enthielten. Es war mehr als ein Kalender oder Jahrbuch, sondern ein Volksbuch, das bislang einzige, das die Deutschen in Galizien besaßen. Bereits 1908 war Schmidts Siedlungskarte von Galizien erschienen.
1910 wurden Schmidt und Neubeck wegen „völkischer Betätigung“ von ihren Dienstherren strafversetzt, doch Schmidt schrieb noch über viele Jahre Artikel für seine von ihm gegründete Zeitung, das „Volksblatt.“ Schmidt hat sich mit seinen Leistungen große Verdienste um den Erhalt des deutschen Volkstums in Galizien erworben, dennoch wird er in der galiziendeutschen Literatur weitgehend totgeschwiegen. Die Legendenbildung um Theodor Zöckler hat dazu geführt, dass ihm auch die von Josef Schmidt erbrachten Leistungen im Zusammenhang mit der Gründung des „Bundes der Galiziendeutschen“ und der Herausgabe des „Volksblattes“ zugeschrieben werden, was definitiv nicht den Tatsachen entspricht.