Sebagaimana diketahui bahwa berdirinya Forum Kerukunan Umat Beragama (FKUB) didasarkan atas terbitnya Peraturan Bersama Menteri Agama dan Menteri Dalam Negeri Nomor 9 dan 8 Tahun 2006 tentang Pedoman Pelaksanaan Tugas Kepala Daerah/Wakil Kepala Daerah dalam Pemeliharaan Kerukunan Umat Beragama, dan Pendirian Rumah Ibadat, yang ditandatangani pada tanggal 21 Maret 2006.
Namun berdirinya FKUB di Kota Semarang sudah ada embrionya sejak berdirinya kota Semarang, dengan ikon budaya seekor binatang yang bernama WARAK NGENDOG, binatang rekaan ini berkepala naga (simbol kecinaan), berbadan bouroq atau onta (simbol kearaban) dan ditopang dengan 4 kaki binatang piaraan orang Jawa, menggambarkan bahwa di kota Semarang itu sejak dulunya sudah hidup bersama dari berbagai etnis, kebangsaan dan agama, namun mereka bisa hidup rukun berdampingan secara harmonis bersama-sama untuk memenuhi kebutuhan hidup masing-masing tidak memperdulikan perbedaan ras dan agama.
Upaya untuk merajut kerukunan umat beragama sudah ada sejak tahun 2000-an. Walikota Semarang sewaktu-waktu mengumpulkan para tokoh Agama untuk berdialog memecahkan persoalan-persoalan Agama yang belum terselesaikan di masyarakat, terutama kaitannya dengan pendirian rumah ibadat, ketika pada saat itu SKB Menteri Agama RI dan Menteri Dalam Negeri RI No. 01/BER/MDN–MAG/Tahun 1969 masih banyak menimbulkan persoalan yang belum tuntas.
Menjelang akhir tahun 2006, pemerintah kota Semarang lewat Kesbangpol Linmas menunjuk tim kecil (terdiri dari perwakilan agama-agama: Drs. KH. Abd. Karim Assalawi unsur Islam, Pendeta Joko Purmono dari Kristen, RBS Robby Hadi Saputro dari Katolik, I Wayan Sukarya Dilaga dari Hindu, Supardjo dari Buddha, Khong Santoso dari Khonghucu, dan Drs. HN Mustam Aji dari Departemen Agama) untuk mengadakan konsultasi dan koordinasi dengan tokoh agama dan masyarakat guna membentuk forum antar umat beragama.
Maka lahirlah Paguyuban Pemerintah Tokoh Agama dan Masyarakat (PETAMAS), yang anggotanya terdiri dari unsur Pemerintah, Tokoh Agama, dan Masyarakat. Dalam rapat yang diselenggarakan di Gereja Isa Al Masih di Jalan Condrorejo Semarang, disepakati bahwa Bapak Drs. Kyai H. Abdul Karim Assalawi, M.Ag. menjadi ketua.
Setelah terbentuknya PETAMAS, tim kecil tersebut juga diminta memberikan masukan untuk pembentukan FKUB Kota Semarang berdasarkan Peraturan Bersama Menteri Agama RI dan Menteri Dalam Negeri RI Nomor 9 dan 8 Tahun 2006. Sebagian besar anggota FKUB berasal dari PETAMAS. Hasil dari laporan tim menetapkan Prof. Dr. H. Abdullah Hadziq, MA. sebagai ketua FKUB pertama (2007–2011) dengan SK Wali Kota Semarang nomor 450/64 tanggal 28 Februari 2007.
Untuk masa bakti 2011–2015, dilakukan penjaringan usulan dari lembaga keagamaan di kota Semarang. Disepakati bahwa jabatan Ketua PETAMAS tetap dipegang Prof. Dr. H. Abdullah Hadziq, MA., dan Ketua FKUB dijabat oleh Drs. KH. Abdul Karim Assalawi, M.Ag.
Pada periode kedua masa bakti 2015–2020, Drs. KH. Abdul Karim Assalawi, M.Ag. kembali menjabat sebagai Ketua FKUB sekaligus menjabat Ketua Umum MUI Kota Semarang. Beliau sempat menyampaikan pesan-pesan kepada pengurus inti FKUB dan MUI terkait kelanjutan organisasi. Salah satu pesannya adalah agar Drs. HN. Mustam Aji, MM. melanjutkan kepemimpinan FKUB jika beliau wafat. Setelah wafatnya beliau pada Desember 2015, Kesbangpol Kota Semarang menunjuk Drs. HN. Mustam Aji, MM. sebagai ketua FKUB melanjutkan sisa periode tersebut.
Rekrutmen kepengurusan FKUB masa bakti 2020–2025 dilakukan dalam tiga tahap: pertama, pengumpulan usulan dari masing-masing lembaga agama; kedua, seleksi oleh tim yang dibentuk Kesbangpol; ketiga, pemilihan ketua dan pengurus harian oleh 17 calon anggota terpilih. Hasilnya, Drs. HN. Mustam Aji, MM. kembali dipercaya sebagai Ketua FKUB Kota Semarang.
| NO | NAMA | UNSUR AGAMA | JABATAN |
|---|---|---|---|
| 1 | Drs. KH. N. Mustam Aji, MM | Pemuka Agama Islam | Ketua |
| 2 | Y. Edy Riyanto, SE | Pemuka Agama Katholik | Wakil Ketua |
| 3 | I Nengah Wirta Darmayana, SH, MH | Pemuka Agama Hindu | Wakil Ketua |
| 4 | Syarif Hidayatulah, S.Ag, M.Si | Pemuka Agama Islam | Sekretaris |
| 5 | Ws. Indriani Hadi Sumarto | Pemuka Agama Konghucu | Wakil Sekretaris |
| 6 | Dr. H. Muhammad Sulthon, M.Ag | Pemuka Agama Islam | Anggota |
| 7 | Drs. H. Adib Fathoni, M.Si | Pemuka Agama Islam | Anggota |
| 8 | Dr. Tedi Kholiluddin, M.Si | Pemuka Agama Islam | Anggota |
| 9 | Dr. H.M. Mukhsin Jamil, M.Ag | Pemuka Agama Islam | Anggota |
| 10 | H. AM. Juma’i, SE, MM | Pemuka Agama Islam | Anggota |
| 11 | Dr. H. In’amuzzahidin, M.ag | Pemuka Agama Islam | Anggota |
| 12 | H. Sholihul Hadi, M.Pd | Pemuka Agama Islam | Anggota |
| 13 | Dr. Hj. Arikhah, M.Ag | Pemuka Agama Islam | Anggota |
| 14 | Prof. Drs. YL Sukestiyarno, MS,Ph.D | Pemuka Agama Katholik | Anggota |
| 15 | Pdt. Sediyoko, M.Si | Pemuka Agama Kristen | Anggota |
| 16 | Pdt.Bambang Mulyono, S.Th, MA | Pemuka Agama Kristen | Anggota |
| 17 | Pandita Edy Tjan | Pemuka Agama Buddha | Anggota |
| NO | NAMA | UNSUR AGAMA | JABATAN |
|---|---|---|---|
| 1 | Drs. KH. N. Mustam Aji, MM | Pemuka Agama Islam | Ketua |
| 2 | Syarif Hidayatulloh, S.Ag, M.Si | Pemuka Agama Islam | Wakil Ketua |
| 3 | Y. Edy Riyanto, SE | Pemuka Agama Katholik | Wakil Ketua |
| 4 | Dr. H. Muhammad Sulthon, M.Ag | Pemuka Agama Islam | Sekretaris |
| 5 | Ws. Indriani Hadisumarto | Pemuka Agama Konghucu | Wakil Sekretaris |
| 6 | Prof. Dr. H. Muslih Sobir, MA | Pemuka Agama Islam | Anggota |
| 7 | Drs. Rustam Dahar Karnadi Apollo, M.Ag | Pemuka Agama Islam | Anggota |
| 8 | Drs. H. Nurbini, M.Si | Pemuka Agama Islam | Anggota |
| 9 | Drs. H. Abdoel Kholiq, M.Pd | Pemuka Agama Islam | Anggota |
| 10 | H. Zumroni, S.HI | Pemuka Agama Islam | Anggota |
| 11 | Drs. H. Andis Syahrudin Patirsa, M.Ag | Pemuka Agama Islam | Anggota |
| 12 | Hj. Arikhah, M.Ag | Pemuka Agama Islam | Anggota |
| 13 | GM Siranto | Pemuka Agama Katholik | Anggota |
| 14 | St. Ir. Wesly T.P. Manurung | Pemuka Agama Kristen | Anggota |
| 15 | Diah Putri Cendrawati, ST | Pemuka Agama Buddha | Anggota |
| 16 | Dr. Ir. I. Wayan Sukarya Dilaga, M.Si | Pemuka Agama Hindu | Anggota |
| 17 | Pdt. Rahmat P. Rajagukguk, S.Th | Pemuka Agama Kristen | Anggota |
| NO | NAMA | UNSUR AGAMA | JABATAN |
|---|---|---|---|
| 1 | Drs. KH. Abdul Karim Assalawi, M.Ag | Pemuka Agama Islam | Ketua |
| 2 | Drs. KH. N. Mustam Aji, MM | Pemuka Agama Islam | Wakil Ketua |
| 3 | Y. Edy Riyanto, SE | Pemuka Agama Katholik | Wakil Ketua |
| 4 | Dr. H. Muhammad Sulthon, M.Ag | Pemuka Agama Islam | Sekretaris |
| 5 | Ws. Indriani Hadisumarto | Pemuka Agama Konghucu | Wakil Sekretaris |
| 6 | H. Zumroni, S.HI, M.SI | Pemuka Agama Islam | Anggota |
| 7 | Prof. Dr. H. Muslih Sobir, MA | Pemuka Agama Islam | Anggota |
| 8 | Drs. Rustam Dahar Karnadi Apollo, M.Ag | Pemuka Agama Islam | Anggota |
| 9 | Drs. H. Nurbini, M.Si | Pemuka Agama Islam | Anggota |
| 10 | Drs. H. Abdoel Kholiq, M.Pd | Pemuka Agama Islam | Anggota |
| 11 | Syarif Hidayatulloh, S.Ag, M.Si | Pemuka Agama Islam | Anggota |
| 12 | Pdt. Rahmat P. Rajagukguk, S.Th | Pemuka Agama Kristen | Anggota |
| 13 | Drs. H. Andis Syahrudin Patirsa, M.Ag | Pemuka Agama Islam | Anggota |
| 14 | GM Siranto | Pemuka Agama Katholik | Anggota |
| 15 | St. Ir. Wesly T.P. Manurung | Pemuka Agama Kristen | Anggota |
| 16 | Diah Putri Cendrawati, ST | Pemuka Agama Buddha | Anggota |
| 17 | Dr. Ir. I. Wayan Sukarya Dilaga, M.Si | Pemuka Agama Hindu | Anggota |
| NO | NAMA | UNSUR AGAMA | JABATAN |
|---|---|---|---|
| 1 | Drs. KH. Abd Karim Assalawy, Mag | Pemuka Agama Islam | Ketua |
| 2 | Drs. HN. Mustam Aji,MM | Pemuka Agama Islam | Wakil Ketua |
| 3 | Y. Edy, Riyanto, SE. | Pemuka Agama Katholik | Wakil Ketua |
| 4 | H. Zumroni, S.HI | Pemuka Agama Islam | Sekretaris |
| 5 | Pdt. Rahmat P Rajagukguk, S.Th | Pemuka Agama Kristen | Wakil Sekretaris |
| 6 | Syarif Hidayatullah, S.Ag, M.Si | Pemuka Agama Islam | Anggota |
| 7 | Prof. Dr. H. Muslih Shobir, MA | Pemuka Agama Islam | Anggota |
| 8 | Drs. H. Ahmad Shodli, M.Ag | Pemuka Agama Islam | Anggota |
| 9 | Drs. H. Nurbini, M.SI | Pemuka Agama Islam | Anggota |
| 10 | Drs. H. Abdoel Kholiq, M.Pd | Pemuka Agama Islam | Anggota |
| 11 | Drs. KH. M. Tauhid, M.Si | Pemuka Agama Islam | Anggota |
| 12 | Drs. H. Andis Syahrudin Patirsa, M.Ag | Pemuka Agama Islam | Anggota |
| 13 | GM Siranto | Pemuka Agama Katholik | Anggota |
| 14 | St. Ir. Wesly T.P. Manurung | Pemuka Agama Kristen | Anggota |
| 15 | Diah Putri Cendrawati, ST | Pemuka Agama Buddha | Anggota |
| 16 | Dr. Ir. I. Wayan Sukarya Dilaga, M.Si | Pemuka Agama Hindu | Anggota |
| 17 | Ws. Indriani HS | Pemuka Agama Khonghucu | Anggota |
| NO | NAMA | UNSUR AGAMA | JABATAN |
|---|---|---|---|
| 1 | Prof. Dr. H. Abdullah Hadziq, MA | Pemuka Agama Islam | Ketua |
| 2 | Dr. Yusuf Suyono, MA. | Pemuka Agama Islam | Wakil Ketua |
| 3 | RBS. Haryo Seputro ( Robby HS ) | Pemuka Agama Katholik | Wakil Ketua |
| 4 | Drs. H. Arifin | Pemuka Agama Islam | Sekretaris |
| 5 | Ir. Eko Wahyu Suryaningsih, M.Div | Pemuka Agama Kristen | Wakil Sekretaris |
| 6 | HM. Kabul Supriyadie, SH, M.Hum | Pemuka Agama Islam | Anggota |
| 7 | Prof. Dr. HM. Ali Mansur, SH, SpN,M.Hum | Pemuka Agama Islam | Anggota |
| 8 | Drs. HN. Mustam Aji, MM | Pemuka Agama Islam | Anggota |
| 9 | Drs. H. Ahmad Shodli, M.Ag | Pemuka Agama Islam | Anggota |
| 10 | H. Joko Slamet Utomo | Pemuka Agama Islam | Anggota |
| 11 | Drs. KH. M. Tauhid, M.Si | Pemuka Agama Islam | Anggota |
| 12 | Drs. Ali Imron, M.Ag | Pemuka Agama Islam | Anggota |
| 13 | Th. Haryanto | Pemuka Agama Islam | Anggota |
| 14 | Pdt. Joko Purnomo, S.Th | Pemuka Agama Kristen | Anggota |
| 15 | Supardjo | Pemuka Agama Buddha | Anggota |
| 16 | Dr. Ir. I. Wayan Sukarya Dilaga, M.Si | Pemuka Agama Hindu | Anggota |
| 17 | Khong Santoso. | Pemuka Agama Khonghucu | Anggota |