‘벽보들’의 사건 이후, 종교적 관용 조처가 내려지자, 파리로 돌아와 신변을 정리하고 공부를 더하기 위해 그의 동생 앙뜨앙느와 이복 여동생 마리를 데리고 스트라스부르로 출발하였습니다. 그러나 프랑스와 독일의 제3차 합스브르그-발로아 전쟁으로 스트라스부르로 가는 길이 막혀 제네바를 거쳐서 돌아갈 수밖에 없었습니다.
이때 제네바의 종교개혁자 프랑스인 파렐은 칼뱅을 찾아와서 종교개혁을 도와 달라고 요청했습니다. 그는 칼뱅이 제네바에 있다는 소식을 듣고 같이 종교개혁의 지도자로 서자고 제안하였습니다.
그렇지만 칼뱅이 처음에는 거절합니다. 자기는 그냥 평생을 학자로 지내고 싶다고 했습니다. 그러자 파렐은 “요나가 하나님 명령을 어기고 도망하다가 물고기 배속에 들어갔는데 너도 하나님의 저주를 받고 싶으냐?” 하고 소리를 질렀습니다. 칼뱅은 그 말에 공포를 느끼고 제네바에 가서 종교개혁을 돕게 되었습니다. 이와 같이 칼뱅은 파렐의 강권에 의하여 제네바에 정착하였고, 1536년 9월 1일 제네바 교회에 부임하였는데 이때 칼뱅의 나이가 27세였습니다.
제네바의 행정은 200인의 귀족으로 구성된 대의회와 25인으로 구성된 소위원회가 관할하였고, 시민들로 구성된 총회는 4인의 평의원과 재정관을 선출하여 시정을 행사하였습니다. 제네바 시의회가 로마 가톨릭교회 신앙을 옹호하는 사보이에 대하여 정치적인 반란을 시도한 것과는 달리, 시민들은 성경에 대하여 무지하였고, 교황제의 노예 상태에 매여 있었습니다. 이러한 상황에서 파렐의 설교를 통하여 제네바 개혁 운동이 시작되었습니다.
파렐은 1485년 프랑스 도피네 지방의 가프에서 태어나, 파리에서 공부하던 중 인문주의자 르페브르의 영향을 받아 종교개혁 운동에 동참하였습니다. 그는 1521년 온건한 개혁자인 브리소네의 비호 아래 설교를 시작하였으나, 얼마 후 프랑스에서 추방되어 유랑 생활을 하다가 스트라스부르에서 부처를 만나 교제하였습니다. 그는 1532년경부터 제네바에 와서 개혁 운동을 전개하였습니다.
파렐은 퇴거했다가 베른에 있는 친구 프로망을 제네바 시에 파송하였으나 그도 실패하고 말았습니다. 이와 같은 실패의 원인은 당시 제네바 시민들이 개혁 신앙의 참 뜻을 체득하지 못했기 때문이었습니다. 그럼에도 희망적인 것은 파렐의 설교에 공감하는 사람들의 수가 점점 많아지고 있다는 것이었습니다. 파렐은 이에 힘을 얻어 프로만과 함께 다시 제네바로 향하였고, 1534년 3월 1일 제네바 시 당국으로부터 설교권을 얻기에 이르렀습니다.
1535년 6월 장기간 계속된 교리논쟁을 통해 파렐은 무능한 가톨릭측의 대변자들을 물리치고, 중앙 성당을 비롯한 여러 교회들을 과감하게 차지하였습니다. 성상 파괴론자들은 교회당의 스테인드글라스 유리창을 부수고 성자들의 조각들을 우물 속에 빠뜨려 버렸습니다.
그해 8월 대의회에서는 미사집전을 중지시켰으며, 그 후 수개월 간 가톨릭 성직자들은 이곳을 떠나게 되니, 프로테스탄트측 지도자들이 그 자리를 메우게 되었습니다. 바로 이 시기에 파렐은 제네바에 들른 칼뱅을 강권하여 이 도시의 개혁에 참여하도록 붙잡은 것입니다.
평안교회 담임
