Luas bangunan masjid sekitar 625 meter persegi, dan luas tanah 4000 meter persegi. Masjid ini berada di Jalan Bung Tomo, Kelurahan Masjid, Kecamatan Samarinda Seberang, Kota Samarinda.
Masjid ini memiliki arsitektur khas Indonesia. Ada teras di keempat sisinya dan berpagar kayu ulin pada bagian teras tersebut. Selain itu di bagian dalam terdapat 12 buah tiang penyangga masjid.
Bentuk dari menara masjid yang terbuat dari kayu ini juga unik dan berbeda dengan masjid-masjid lainnya.
Peninggalan sejarah di masjid ini antara lain mihrab yang dibuat sekitar tahun 1894, serta ada pula Alquran kuno berusia sekitar 400 tahun, bahkan kotak amal yang telah berusia tua.
Masjid ini pernah beberapa kali mengalami renovasi yaitu pada tahun 1970, 1989, dan 2001. Renovasi ini tidak mengubah bentuk asli masjid. Pada awal berdiri masjid ini bernama Masjid Jami, kemudian pada tahun 1960 namanya diubah menjadi Masjid Shirathal Mustaqiem.