Se puede rastrear con bastante certeza el origen del anabaptismo en la ciudad de Zurich, en medio de la comunidad de reformadores que seguían a Ulrico Zuinglio. Un grupo de creyentes que analizaban las Escrituras y que encontraban puntos de divergencia entre lo que pedía la Biblia y la práctica de la iglesia que se estaba reformando, trató de instar a Zuinglio de aplicar reformas más estrictas. 

Ante la imposibilidad de Zuinglio de adelantar reformas más profundas, probablemente por las limitaciones políticas del reformador, este grupo se organizó en una especie de hermandad, entre quienes conformaban este grupo estaban Wilhelm Reublin (1484–1559), Felix Manz (1498–1527), John Brotli (1494–1528), Georg Blaurock (1492–1529) y Conrad Grebel (1498–1526). 

Lo primero que hicieron al iniciar la comunidad fue aplicar el bautismo. Georg Blaurock, un ex sacerdote católico, le pidió a Conrad Grebel, un joven humanista de familia noble que hacía poco había vuelto de la Universidad de París, que lo bautizara. Una vez que Blaurock fue bautizado, hizo lo mismo con otros hermanos. 

Pronto se le dio el apelativo a este grupo de "anabaptistas" o "rebautizadores". Este apelativo fue impuesto por aquellos que veían con escepticismo el hecho de que el grupo no considerara el bautismo infantil como válido.

Mientras el grupo de anabaptistas crecía, empezaba a despertar una gran oposición tanto por católicos como por los reformadores. El pacifismo extremo que practicaban los anabaptistas se convirtió también en una molestia para quienes querían mantener el orden social y político.

Las posturas iniciales que diferenciaban a los anabaptistas de los protestantes y católicos era el hecho de que creían que las autoridades seculares no debían gobernar o interferir en los asuntos de la iglesia.

Pero la persecución oficialmente empezó en 1525, cuando los cantones suizos católicos empezaron a condenar a los anabaptistas con la pena capital. A esto le siguieron los cantones protestantes. En 1521, Carlos V decretó pena de muerte contra los anabaptistas y en 1529 se promulgó un decreto imperial contra el grupo.

La cantidad de anabaptistas que murieron en este periodo fue enorme. Fueron quemados, torturados y ahogados, como una especie de condena por el hecho de “rebautizar”.

Pero no todos los anabaptistas fueron pacifistas. Después de que la primera generación del movimiento pereció en la persecución, los anabaptistas se hicieron cada vez más radicales.

Thomas Müntzer (1489–1525) unificó varias doctrinas anabaptistas con las ansias de justicia de los campesinos y lideró un movimiento que fue suprimido por los príncipes alemanes en 1525\. Muchos anabaptistas siguieron su ejemplo, entre ellos Melchior Hoffman (1495–1544). Hoffman empezó a anunciar en Estrasburgo que la venida del Señor estaba cerca, que él sería encarcelado durante seis meses, que vendría el fin y que Estrasburgo sería la Nueva Jerusalén. Abandonó el pacifismo e instó a sus seguidores a luchar contra sus oponentes. Finalmente Hoffman es encarcelado, lo que incrementó su popularidad.

Luego Hoffman dijo que la Nueva Jerusalén no sería ya Estrasburgo sino Munster. Pronto llegaron la suficiente cantidad de anabaptistas para tomar el control de la ciudad. Una de sus primeras medidas fue expulsar a los católicos.

Pero finalmente las fuerzas católicas lograron retomar el control de la ciudad y los líderes anabaptistas fueron arrestados y ejecutados. Así concluyó el principal brote de anabaptismo revolucionario.

Pronto, dentro del movimiento se empezó a considerar que el fracaso del movimiento estaría en el abandono de sus posturas pacifistas.