Pada awal tahun 1900 hingga 1930an, Haji Abdullah telah membina masjid dan dinamakan masjid tok kerawat. Masjid ini pada asalnya dibina menggunakan kayu. Masjid ini dibina sendiri oleh Haji Abdullah dengan dibantu oleh beberapa orang kampung dari kawasan sekitar. Masjid ini dibina bukan sahaja dibina untuk sembahyang jumaat tapi juga untuk pendidikan agama. Dari sini wujudlah pendidikan agama berasaskan pondok di kawasan mukim Kerawang. 

Pada mulanya pembinaan masjid surau ini adalah dari kayu. Mengikut sejarah, pembinaan masjid surau ini adalah pada zaman sebelum merdeka setelah Haji Omar atau Tok Kerawat membuka penempatan. Bagi memulihara dan memelihara masjid surau ini, pembinaan masjid tersebut dibina menggunakan simen bagi mengantikan pembinaan kayu pada waktu dahulu. Tarikh pembinaan masjid menggunakan simen adalah tidak dapat dipastikan.