Burton pun mencoba mempelajari bahasa Batak Toba dan mencoba menerjemahkan fasal 1 dari Alkitab. Ia menyadari bahwa usaha Pekabaran Injil di Sumatera mustahil berkembang jika dilakukan hanya di daerah pantai saja. Apalagi didaerah pantai tersebut masih besar pengaruh-pengaruh dari pihak Islam atas suku-suku yang masih dalam kekafiran. Burton dan Ward memutuskan untuk masuk kedaerah pedalaman. Pada tahun 1824 mereka sampai di Silindung, yaitu daerah pedalaman yang diduduki oleh suku Batak Toba.
Meskipun disambut dengan baik namun kedua perintis ini pulang dengan tidak memperoleh hasil dari pemberitaan Injil yang untuk pertama kalinya dilakukan diantara suku Batak itu.
Kemudian berubahlah suatu keadaan politik. Di sumatera Barat pemereintah Inggris diganti lagi dengan pemerintahana Belanda. Berhubung dengan peristiwa ini berakhir pula usaha pekabaran Injil dari pihak Inggris di Sumatera. Akan tetapi pada pihak lain, Sumatera mendapat perhatian dari perhimpunan Pekabaran Injil Belanda saat itu. Namun mengalami kendala karena pada saat itu berkobarnya perang Bonjol di daerah itu.
Baru pada tahun 1834 pekabar injil dari America (Boston) melakukan suatu percobaan membawa Injil yaitu Munson dan Lyman. Mereka berangkat dari Sibolga kepedalaman yang sebelumnya sudah dikunjungi oleh Ward dan Burton. Mereka menjadi korban keganasan suku-suku kafir yang membunuh serta memakan mereka. Peristiwa itu terjadi di Lobu Pining, 20 km jauhnya dari Silindung, tempat dimana Gereja Batak mendirikan satu batu peringatan 75 tahun kemudian. Pada batu itu tertulis ungkapan Augustinus: "Darah para Martir merupakan bibit Gereja". Kebenaran ungkapan itu terbukti didalam Gereja tersebut. Percobaan yang lain dari pihak Baptis Amerika dimulai didaerah Batak sebelah selatan pada tahun 1837. Tetapi kemudian gagal karena penyakit yang menimpanya.
Makin lama semakin matanglah saat mengkristenkan pedalaman Sumatera dikarenakan beberapa faktor antara lain telah berakhirnya peperangan Bonjol. Imam Bonjol bukan saja mengusir pihak Belanda dari daerah nya Minangkabau tetapi tentaranya juga menindas suku-suku kafir yang diam didaerah sebelah utara Minangkabau. Mereka sering mengadakan serangan-serangan sampai ke daerah Angkola, malahan sampai ke Silindung dan Toba sampai melakukan rampasan-rampasan, menangkap orang-orang untuk diperhambakan dan mengislamkan mereka dengan paksaan. Penduduk daerah itu selalu ketakutan, jikalau mereka mengenang peristiwa-peristiwa yang dasyat dari perang Bonjol atau disebut juga perang padri.
Akan tetapi setelah perang Bonjol berakhir, Pemerintah Belanda pun memelihara keamananan didaerah itu, termasuk tapanuli Selatan (Daerah Mandailing dan Angkola), sehingga ada kemungkinan pekabaran Injil dapat dilakukan didaerah itu.
Keadaan yang damai tersebut memberi kesempatan untuk menyelidiki pedalaman Sumatera untuk pertama kali. Seorang ahli, yaiut Dr. Junghuhn yang berkebangsaan Jerman ditugasakan untuk melakukan ekspedisi penyelidikan ke pedalaman itu. Bukunya mengenai "Daerah Batak di Sumatra" membuktikan hasil penyelidikan itu. Dikarenakan pengetahuan yang baru maka Lembaga Alkitab Belanda mengutus seorang ahli bahasa, Neubronner Van Der Tuuk untuk menyelidiki bahasa Batak serta menerjemahkan Alkitab ke dalama bahasa itu. Dia menetap di Barus, di pantai barat. Dengan keahliannya dia menghasilkan beberapa buku penyelidikan mengenai bahasa Batak serta menerjemahkan sebuah kamus dan beberapa fasla perjanjian lama. Buku tersebut di terbitkan oleh Lembaga Alkitab Belanda.
Peristiwa yang menyebabkan terjadinya sejarah pengkristenan pada suku-suku Batak adalah keputusan yang diambil oleh "Rheinische Missionsgesellschaft" (RMG) untuk menyebarkan Injil di daerah Batak. Dia merupakan seorang Pekabar Injil yang selama 25 tahun bekerja didaerah Kalimantan sebelum terjadi pemberontakan dan pelarangan Pekabaran Injil didaerah Kalimantan oleh Pemerintah. Dia kembali ke Belanda membicarakan Pekabaran Injil di indonesia dan secara tidak sengaja membaca buku dari Neubronner van der Tuuk yang baru diterbitkan yang merupakan petunjuk baginya untuk mengabarkan Injil di Sumatera. Kemudian dia pun mengutus empat orang rekannya sesama Pekabar Injil berangkat ke Sumatera Utara. Pada tanggal 7 Oktober 1861 maka ke-4 pekabar Injil itu sudah dapat mengadakan konperensi yang pertama di Sipirok untuk merencanakan pekerjaan bersama. Tanggal ini kemudian ditetapkan oleh HKBP sebagai tanggal kelahiran Awal Mula Terbentuknya HKBP.
Selanjutnya hadirnya misonaris-misionari seperti DR. I.L. Nommensen membuka desa baru yang disebut Godung Huta Dame, Saitnihuta dan mencoba menerjemahkan menerjemahkan Alkitab yaitu Perjanjian Baru ke bahasa Batak Toba dengan huruf latin menjadi awal mula perkembangan HKBP di Sumatera Utara.
Sejarah HKBP (Huria Kristen Batak Protestan) yang telah 100 tahun lamanya merupakan suatu bagian yang paling menarik dari sejarah Gereja di Indonesia pada umumnya. Disini hanya sebagian garis besar yang di terangkan penulis.
