SM Zainal Abidin pernah menjadi guru di Penang Free School di Pulau Pinang. Antara muridnya ialah Tunku Abdul Rahman, perdana Menteri Malaysia yang pertama.

Beliau seorang ahli politik Melayu di Pulau Pinang melalui Persatuan Melayu Pulau Pinang yang terlibat dalam gerakan orang Melayu menentang Malayan Union.

SM Zainal Abidin merupakan salah seorang pengasas UMNO dan pernah jadi Ketua Jabatan Pelajaran UMNO tahun 1949.

Beliau pernah menjadi pengerusi tetap UMNO semasa UMNO dipimpin oleh Dato Onn Jaafar.

Beliau tetap menjadi pemimpin penting selepas UMNO diambil alih kepimpinananyua oleh Tunku Abdul Rahman akhir tahun 1951.