DATUK AZMI mula menceburi bidang perguruan pada Januari 1959 setelah tamat latihan perguruan selama 2½ tahun di Maktab Perguruan Brinsford Lodge, Wolverhampton, UK. Beliau ditempatkan mengajar di alma maternya, Kolej Sultan Abdul Hamid, Alor Setar.

Tiga tahun kemudian, pada awal 1962, beliau diberi cuti belajar tanpa gaji selama 3 tahun untuk melanjutkan pelajarannya di Universiti Malaya, Kuala Lumpur, di mana beliau berjaya dianugerahkan Ijazah BA(Hons) dalam bidang History/Sejarah pada awal 1965.

Kembali aktif dalam bidang perguruan, Datuk Azmi bertugas sebagai guru di Institut Victoria, Kuala Lumpur; kemudian sebagai pensyarah di Institut Bahasa, juga di Kuala Lumpur, sebelum dilantik sebagai Pengetua pertama Sekolah Menengah Munshi Abdullah, Melaka, pada awal 1967.

Sepanjang perkhidmatannya dalam Perkhidmatan Pelajaran selama 34 tahun, Datuk Azmi berpeluang didedahkan kepada, serta terlibat dalam, berbagai aspek perkembangan pendidikan di dalam dan di luar negara, iaitu melalui penyertaan dalam lawatan-lawatan sambil belajar serta kursus-kursus pendek di luar negara dan penglibatan dalam persidangan, seminar dan bengkel di dalam dan di luar negara.

Selepas bersara rasmi, mulai Januari 1993, Datuk Azmi dilantik sebagai Pendaftar pertama UNIMAS, Kuching, secara kontrak selama 3 tahun. Bagaimana pun, belum genap setahun kemudian beliau meletakkan jawatan untuk menumpukan perhatiannya kepada penubuhan Kolej Pendidikan Perdana (KOPEDA) yang diwujudkan pada Jun 1994.