Un contratto ha sempre una natura in una "causa" (termine latino) in cui qualcuno si impegna a cederla (dante causa) e l'altro a riceverla (avente causa).
In questo caso la situazione è complessa in quanto un singolo contratto ne sottointende diversi incrociati.
Dal mio punto di vista avresti dovuto preoccuparti di più dell'opera di "diffusione" del libro più che del suo formato fisico (la pubblicità è l'anima del commercio), si fa sempre tempo a fare un'edizione più curata.

Detto questo si può prospettare che il primo anno avesse diritto l'editore a rivalersi su di te (che eri inadempiente alla tua causa), adesso non penso tu possa avere nessun appiglio in merito a questa situazione, anzi ritengo che l'editore possa volere da te un secondo titolo da pubblicare.

Visto che il mondo editoriale lo conosco, mi permetto di consigliarti di contrattare una riduzione dei tuoi diritti e compensi per un importo X (che valuto non superiore ai 500 euro per una tiratura di 3000 copie) così da dare spazio all'editore di uscire con la carta più costosa e la copertina a colori (non rigida). In cambio pretendi un aumento dei tuoi diritti in caso di seconda ristampa.
Il formato è anche influenzato dalle tecnologie di stampa. in genere si stampa in sedicesimi (quindi il libro deve avere pagine multiple
di 16, in genere si tente a restringerlo alle 16 "precedenti").
Su un libro questa differenza si valuta in pochissimi soldi, appunto 20/30 centesimi di euro a libro dal più economico al migliore (ho immaginato un libro di 200-300 pagine).