Bangunan SMPN 2 Bandung merupakan salah satu bangunan pendidikan peninggalan kolonial Belanda. Sekolah ini menempati bangunan bekas sekolah Belanda, yaitu Hollandsch Inlandsche School yang didirikan pada tahun 1913 oleh Pemerintah Hindia Belanda dan diambil alih oleh Pemerintah Indonesia hingga sekarang. Bentuk bangunan kolonial tersebut adalah linier memanjang dan simetris. Bangunan terdiri dari bagian pusat, bagian sayap utara dan bagian sayap selatan. Orientasi bangunan kolonial SMPN 2 Bandung menghadap ke arah barat-timur dengan pintu masuk bangunan utama pada bagian tengah di sisi barat. Arah orientasi bangunan dicirikan dengan adanya selasar depan dan gerbang masuk menuju area tapak bangunan di sisi barat dan tengah bangunan. Orientasi bangunan menghadap ke arah Jalan Sumatera yang berada di sisi barat.
SMP Negeri 2 Bandung dimulai sekitar tahun 1948 dengan nama Indofuropese Vereneging Kubbk School dan berlokasi di Jalan Kalipah Apo. Kemudian berturut-turut pindah ke Jalan Kasatriaan, Jalan Papandayan, dan Jalan Babatan. Pemindahan terakhir SMP Negeri 2 Bandung adalah ke lokasi saat ini, yaitu di Jalan Sumatera, dan pada tahun 1950 berubah nama menjadi SMP Negeri 2 Bandung.
SMP Negeri 2 Bandung menempati bangunan bekas sekolah Belanda, yaitu Europeesche Lagere School (sekolah rendah diperuntukkan bagi warga Eropa - setingkat Sekolah Dasar pada masa kini) yang dibangun pada tahun 1913 oleh Pemerintah Hindia Belanda dan diambil alih oleh pemerintah Indonesia hingga sekarang. Posisinya kira-kira 400 meter di sebelah selatan Kantor Wali Kota Bandung.