Smit veröffentlichte 1931 seinen ersten Gedichtband Voorspel, dieser bildete den Anfang von etwa 30 Bänden, die von ihm in den nächsten 50 Jahren erschienen. Er war zeitlebens ein gläubiger Mensch, dessen Glaube das Hauptmotiv seiner Gedichte bildete. In seinen Werken tritt in offener Art und Weise ein Wunsch hervor Gottes Anwesenheit zu erfahren, später wandte er sich besonders Mariendichtungen und den Psalmen zu. 1933 begann er seine Arbeit als Journalist in der Lokalzeitung Gooi- en Eemlander, wo er bis 1939 tätig war. In diese Zeit (1934) fällt auch sein Übetrritt von der Alt- zur Römisch-Katholischen Kirche. Anschließend arbeitete er für das Utrechtsch Dagblad und De Linie als Literaturkritiker. 1950 stieß er zur überregionalen katholischen Tageszeitung de Volkskrant, die sich seit der Wiedergründung (sie erschien in den Jahren 1941-45 nicht) als führendes katholisches Sprachrohr in den Medien etabliert hatte. Smit wurde 1952 der Nachfolger Godfried Bomans als Kunstredakteur und von da an zu einem der wichtigsten Redakteure der Zeitung, so steuerte er zu kirchlichen Festtagen regelmäßig Gedichte bei. Zu der Zeit des Zweiten Vatikanischen Konzils berichtete Smit direkt aus Rom, der Konzil wurde dabei zu einem entscheidenden Ereignis in Smits Leben. Viele fortschrittliche Kräfte innerhalb des Katholizismus, denen sich auch de Volkskrant zugehörig fühlte, verbanden zunächst große Hoffnungen mit dem Konzil, fühlten jedoch große Enttäuschung nach dessen Ausgang. Smit brach mit seiner Kirche und trat 1969 aus, ein Schritt, der für viele Redakteure dieser Zeit steht, so auch für seinen Chefredakteur van der Pluijm. Smit blieb der Zeitung, die nun endgültig ihren katholischen Hintergrund hinter sich ließ und sich zur politischen Linken hinwandte, bis zu seiner Pensionierung im Jahr 1975 treu.