녹스가 노예선에 감금되었을 때 그의 석방을 위해 애를 쓴 영국의 서머셋 공작의 영향으로 인해 녹스의 첫 망명지는 영국이 되었다. 영국에서 목회를 하는 동안 녹스는 주교들과 심한 논쟁을 벌이는데 녹스의 일관된 주장은 “교회예배와 교리에 인간의 마음이나 생각을 적용하는 것이 신을 모독하는 것이며 우상 숭배를 하는 것”이라는 지적이었다.

그러나 영국의 왕 메리가 신교도들을 이단으로 단정하며 종교탄압을 감행하자 녹스는 1554년부터 프랑스의 디에페, 스위스의 제네바, 독일의 프랑크푸르트 등지로 망명생활을 했다. 녹스가 개신교도들에게 설교한 내용의 핵심은 두 가지로 볼 수 있는데, 하나는 하나님의 말씀인 성경의 권위만을 최고로 인정하며 다른 하나는 인간이 의에 이르는 수단은 오직 믿음에 의한다는 것이었다.

녹스는 피난민들을 위한 자신의 설교를 통해 가톨릭교회의 정면으로 비판하고 나섰다. 이 당시 그의 이러한 비판은 죽음을 예견하는 위험스런 것이었지만 녹스의 각오는 대단했다. 녹스는 장모에게 보내는 글에서 “내가 빈곤이나 망명생활에서 당하는 고통이 크다 해도 하나님의 자비로운 섭리가 저를 복음의 증인으로, 주님의 군병으로 만든다”라고 하면서 자신은 이미 하나님으로부터 소명을 받은 주의 사자임을 느끼고 있었다.

이후 녹스는 망명생활을 마치고 자신의 조국 스코틀랜드로 1559년 귀국했다. 이 당시 스코틀랜드는 대내외적으로 영국과 프랑스의 이권다툼의 장이었다. 영국과 프랑스는 자신들의 입지를 유리하게 하려고 스코틀랜드를 정략적으로 이용하고 있었으며 스코틀랜드의 귀족들과 의회도 이들의 하수인이 되어 있었으므로 불안 한 시기였다.

녹스는 귀국한 후 세인트 앤드류시를 개혁하려고 하자 대주교는 병력을 동원하여 녹스에게 “당신이 만일 앞으로 교회에서 가톨릭교회를 비판하는 설교를 하면 당신을 죽을 것”이라고 위협했다. 그러나 녹스는 어느 누구도 나를 방해할 수는 없다고 단호히 주교의 위협을 무시하면서 “내가 주님의 영광을 위해 서 산다면 주님께서 내 생명의 피난처가 되시므로 나는 아무 것도 염려하지 않는다”고 대답했다.