GKPI lahir sebagai hasil reformasi dari gereja yang besar (Huria Na Boloni), HKBP. Ketika itu dalam tubuh organisasi HKBP telah terjadi banyak penyimpangan, baik administrasi, organisasi, kepemimpinan, juga teologia. Hidup gereja sudah lebih mengarah kepada keduniawian, mengejar prestasi dunia, dengan mengesampingkan ajaran-ajaran Kristus. Beberapa tokoh dan warga jemaat sepakat untuk mendirikan gereja baru sebagai "pembayar hutang" akan kesalahan-kesalahan yang dilakukan oleh gereja yang sebelumnya.