Sehr ärgerlich!
Wirklich weiterhelfen kann ich Dir leider auch nicht, denn das Verlagsrecht in Deutschland hat seine Eigenheiten, die mit irgendwelchen anderen Verträgen nicht ohne weiteres vergleichbar sind.
Wesentliche Teile sind im
Verlagsgesetz geregelt, die genannte Antwort scheint sich auf § 35 VerlG zu beziehen. Es gibt allerdings gerade im wissenschaftlichen Bereich auch andere Vertragsmodelle (mehr dazu beim Börsenverein des Deutschen Buchhandels) - da kommt es auf den exakt von Dir unterschriebenen Wortlaut an.
Wenn Du allerdings Pflichtverletzungen des Verlages nachweisen kannst, dürfte sich ein Rücktrittsrecht auch anderweitig herleiten lassen. Dabei mußt Du wohl auch damit rechnen, dass die Gegenseite es einkalkuliert, dass Dir der Aufwand und das zusätzliche wirtschaftliche Risiko zu hoch sind, um es durchzuziehen.
An anderer Stelle habe ich gelesen, dass der
Börsenverein des deutschen Buchhandels bei Streitigkeiten dieser Art beraten könnte - ob das stimmt, weiß ich aber nicht.
All jenen, die die Unterschrift unter einen Verlagsvertrag noch vor sich haben, sei z.B.
dieser Artikel zur Lektüre empfohlen, auch wenn ich nicht ganz verstanden habe, um was es auf der Webseite inhaltlich sonst geht

.
Gruß
Sebastian
P.S.: Der Verlag hat am 23.09.2011 seine Firma (also seinen Namen) geändert un heißt jetzt nicht mehr VDM Verlag Dr. Müller GmbH & Co. KG, sondern
AV Akademikerverlag GmbH & Co. KG. Das ist für Autoren vielleicht weniger ein Thema, wohl aber für Bibliotheken, die sich nun wieder ein bißchen schwerer tun werden, zweifelhafte Qualitäten zu erkennen (die
taz hatte dazu geschrieben).
P.P.S. 25.09.2013: Das Thema wurde aufgrund des Namenswechsels geteilt.
Weiter geht es im Thread "AV Akademikerverlag"