L'hérésie donatiste, très violente, naît suite aux persécutions de Dèce. Un premier schisme avait déjà eu lieu (Novatien) lorsque le pape avait décidé de réadmettre les lapsi (apostats) de la persécution de Dèce. Les violentes luttes que le donatisme va entraîner vont sévèrement freiner l'élan missionnaire en Afrique du Nord.
L'hérésie naît d'un ressentiment de ceux qui se sentent proches des martyrs contre ceux qui ont apostasié (renié leur foi) pour échapper au martyre, ou contre les évêques qui auraient laissé détruire des livres saints des églises (on les appelles les traditores). L'évêque Donat, particulièrement virulent, va donner son nom au mouvement. Lors de l'ordination de l'évêque Cécilien, les schismatiques vont élire Donat à sa place, considérant l'ordination de Cécilien comme non valide car l'un des trois évêques qui l'ont ordonné était présumé "apostat".
Le mouvement prend une telle ampleur, avec des doubles nominations d'évêques, des rebaptisassions (les Donatistes considèrent les sacrements comme non valides si l'évêque qui les a donnés est soupçonné de traîtrise), et des actes de violence, que l'empereur Constantin va édicter une loi contre les schismatiques en 317. La répression sera sévère jusqu'en 321 et leur vaudra de nombreux "martyrs".
Deux violences vont devoir ici s'affronter :
Les bagarres vont durer tout le siècle. Saint Augustin lui même va entrer dans la controverse (394-420).
Ce qui est nous resté, c'est que l'Église a du préciser que les sacrements donnés par un prêtre étaient valides "ex opere operanto", c'est à dire quelle que soit l'indignité du ministre en question. Également, Saint Augustin a du définir la notion d'Église (par rapport aux donatistes) par sa communion aux évêques et spécialement à l'évêque de Rome.