Sebuah dinding granit tertulis autobiografi Laksamana Cheng Hoo. Dalam sejarahnya pada tahun 1401 Laksamana Cheng Hoo alias Sam Poo Tay Djien dari China merapatkan kapalnya di Pulau Jawa, tepatnya di pantai Semarang. Konon, Laksamana Hoo memerintahkan anak buahnya untuk mendirikan bangunan ini.
Bangunan ini memiliki perbedaan dengan klenteng lainnya, awalnya bangunan ini dijadikan sebagai masjid. Klenteng Sam Poo Kong merupakan bangunan tunggal beratap susun.
Patung Sam Poo Tay Djien menghiasi halaman tengah klenteng. Patung setinggi 2 meter yang merupakan sumbangan dari pemerintah China itu baru dipugar dan diresmikan Juli 2011 lalu.
Meski Cheng Ho sebenarnya adalah muslim, masyarakat Tionghoa tetap menghormatinya sebagai orang Tionghoa dan selalu memperingati kedatangannya setiap tahun.
Di salah satu bangunan klenteng juga terlihat patung-patung para prajurit Cheng Ho lengkap dengan senjatanya.
Salah satu ornamen yang terdapat di pintu gerbang klenteng.
Klenteng besar dan megah ini sudah berdiri sejak 611 tahun lalu dan sudah beberapa kali dipugar atas bantuan dari para pengusaha keturunan Tionghoa di nusantara. Bahkan bantuan juga datang dari pemerintah China.