Selain harus dimusyawarahkan dengan para tokoh agama setempat, pembangunan masjid juga membutuhkan persetujuan dari pemerintah Kolonial Belanda pada waktu itu.
Pada awalnya, masjid dibangun dengan material seadanya, seperti daun rumbia dan batang pohon kelapa. Hampir seluruh tiangnya terbuat dari kayu kelapa, dan atapnya menggunakan daun rumbia.
Seiring berjalannya waktu, masjid ini mengalami beberapa perbaikan dan renovasi. Pada tahun 1932, bahan papan mulai digunakan untuk membangun masjid, yang diperoleh dari jamaah setempat.
Pembenahan masjid terus berlanjut pada tahun 1935, 1950, 1960, dan 1970, dengan perubahan yang semakin mempercantik masjid. Puncaknya, pada tahun 1985, renovasi masjid pun mencapai tahap yang lebih sempurna dengan penggunaan ubin keramik dan atap dari bahan eternit, seperti masjid pada umumnya.
Salah satu hal yang membuat Masjid Jami al-Barkah unik adalah keberadaan makam-makam tua di bagian belakang masjid, tepatnya di sisi barat bangunan.
Makam tersebut menjadi tempat peristirahatan bagi beberapa tokoh penting. Mereka adalah Guru Sinin, yang wafat pada tahun 1920, KH. Ridi, menantu Guru Sinin, yang meninggal pada tahun 1933, dan KH Naisin, anak KH. Ridi, yang wafat pada usia 132 tahun. Adapun KH. Naisin adalah ayah dari H. Ukib.
