La fascinazione per la grandezza perduta dell'antica Roma attirò Joseph Mallord William Turner sulle coste vulcaniche della Baia di Baiae, ma la vera intrigante di Costa con Rovine, probabilmente la Baia di Baiae risiede nella sua identità incerta. Gli studiosi hanno a lungo dibattuto se le rovine rappresentate siano un sito reale che Turner ha visitato durante i suoi viaggi in Italia o un'invenzione poetica ispirata dall'antichità febbrile della regione. Il titolo stesso del dipinto è un cenno a questa ambiguità: Turner non ha lasciato alcun documento che confermi la posizione precisa, e il medium dell'opera rimane non registrato, aggiungendo un ulteriore strato di mistero alla sua creazione. Turner cattura il momento in cui i resti del mondo antico incontrano il mare inquieto, con archi in rovina e colonne rotte mezzo inghiottite dalle onde.

Le rovine, probabilmente ispirate dai leggendari palazzi di piacere di Baiae—un tempo il parco giochi degli imperatori romani—si ergono precariamente sulla riva, battute dalle onde e illuminate da un cielo che vortica con nuvole e luce dorata. Figure, ridotte dalla grandezza del paesaggio, vagano tra le pietre, la loro presenza è un silenzioso promemoria del passare del tempo. L'interazione di luce e atmosfera ricorda i paesaggi marini mediterranei di Claude Lorrain, ma l'approccio di Turner è più drammatico: le rovine sono meno un palcoscenico, più un testimone logorato dell'erosione della storia. Come per molte delle scene italiane di Turner, la storia precoce del dipinto è oscura.

Non è legata a un incarico specifico, e la sua provenienza prima di entrare nelle collezioni museali rimane incerta. Negli anni '20 dell'Ottocento, Turner era al culmine della sua fascinazione per l'Italia, producendo una serie di opere che sfumavano il confine tra osservazione e immaginazione. Oggi, Costa con Rovine, probabilmente la Baia di Baiae si erge come un testamento dell'impegno di tutta la vita di Turner con le rovine dell'antichità e l'energia inquieta della natura—un dipinto tanto enigmatico nelle sue origini quanto le antiche pietre che rappresenta.