Secara historis, SMPN 2 Kota Cilegon didirikan oleh Ir. Ariwibowo direktur utama PT. Krakatau Steel pada tahun 1976, kemudian pada tahun 1978 Ir. Ariwibowo menghibahkan ke Gubernur Provinsi Jawa Barat yaitu H. Aang Kunaefi, yang pada akhirnya Gubernur Propinsi Jawa barat menghibahkan ke Departemen pendidikan dan Kebudayaan Kabupaten Serang, yang pada awalnya SMPN 2 Kota Cilegon merupakan program filial dari SMPN 1 Kota Cilegon dan kegiatan belajar mengajar menginduk di SMPN 1 Kota Cilegon selama 6 tahun dari tahun 1976 sampai dengan 1982, kemudian pada tahun 1982 sampai sekarang SMPN 2 Kota Cilegon berdiri sendiri sudah dapat menggunakan gedung sendiri. Pada tahun 2009 SMP Negeri 2 Cilegon ditetapkan sebagai SMP Rintisan Bertaraf Internasional. Dan pada tahun 2013 SMPN 2 ditetapkan sebagai salah satu sekolah percontohan yang menggunakan kurikulum 2013.
SMPN 2 Kota Cilegon terletak di Kelurahan Ciwaduk Kecamatan Cilegon Kota Cilegon Provinsi Banten tepatnya di jalan Rinjani no. 13 Kavling Blok F. Cilegon. SMPN 2 Kota Cilegon berbatasan dengan beberapa wilayah, yaitu:
- Batas Utara : Komplek Perumahan BBS
- Batas Selatan : Jalan Raya menuju pasar kelapa
- Batas Timur : Kompleks perumahan PT KS
- Batas Barat : Pasar Kelapa