Depuis la fin du premier millénaire, la plaine de la Thielle, qui n'est pas boisée, constitue un terrain de pâture convoité. La Thielle s'écoule lentement à travers les terres et forme, juste avant l'embouchure du lac de Bienne, l'île de Saint Jean (Insula Sancti Joannis). Les comtes de Fenis, ancêtres des comtes de Neuchâtel, choisissent cette île, recouverte d'une forêt de roseaux, pour bâtir une abbaye. À la fin du XIe siècle, Conon de Fenis, évêque de Lausanne, y fonde une abbaye bénédictine.
L'abbaye reçoit d'importantes donations de la famille qui l'a fondée, ce qui lui permet de prospérer. Longtemps, elle dispose de la fortune la plus importante entre le Seeland et le Rhin. Ses biens, ses droits et ses prélèvements de dîmes ne se limitent pas au Seeland, au comté de Neuchâtel et à l'évêché de Bâle mais s'étendent jusqu'aux frontières de Soleure, de l'Argovie et de Lucerne. L'abbaye revêt également une grande importance religieuse et spirituelle. Les évêques de Lausanne soutiennent ses projets, et même des papes reconnaissent régulièrement son statut depuis la fin du XIIe siècle. Une bulle pontificale atteste par ailleurs de son importance; il y est écrit qu'Egilulf, second abbé de St-Jean (1130-1160), avait le droit de porter l'ornement pontifical, un privilège accordé exclusivement aux abbés de renommée tels que ceux de Canterbury, Cluny, Monte Cassino et Reichnau.
Lorsque les relations entre Berne et Neuchâtel s'enveniment au XIVe siècle, l'abbaye est endommagée à plusieurs reprises. En 1324, Le Landeron est assiégé deux fois par Berne et un demi-siècle plus tard, des mercenaires anglais et français entrent dans le pays et détruisent Gottstatt, Fontaine-André et Anet, et probablement par la même occasion, Cerlier et St-Jean.
En 1388, Berne assiège la ville de Nidau et la conquiert. La ville se considère à l'époque comme l'héritière des comtes de Nidau et tient absolument à exercer son droit de patronage sur l'abbaye. Enfin, en 1413, le patronage de Berne est finalement accepté.
Malgré des perspectives d'avenir défavorables, un patronage restrictif, une baisse des dons et un nombre important de victimes de la peste, l'église et le couvent sont complètement reconstruits à la fin du XIVe siècle. Ces travaux sont nécessaires, car les édifices se sont enfoncés de plus d'un mètre dans le sol marécageux et le risque d'inondation est de plus en plus grand. Progressivement, les murs sont démolis et de nouveaux édifices, construits. Bien que l'église se soit agrandie, l'abbaye n'héberge plus 30 à 60 moines mais huit à douze. Seul le cloître est légèrement réduit; l'abbaye est protégée par des fortifications.