Celeste består av Remi André Pernell Nordby (gitar), Espen Skjærlund (bass) og Øystein Indrevær (trommer). Bandet ble dannet 14. september 2006, samme dag som Bjørn Thomas Andreassen valgte å forlate bandet Blend.

Medlemmene i Blend spilte sammen i over ti år, og da Bjørn sluttet hadde de tre gjenværende medlemmene lyst til å fortsette med musikk. De valgte å starte helt på nytt, og musikken har et ganske annet preg nå enn den hadde i Blend-perioden.

Celeste har base i Lillestrøm-området, og alle de tre medlemmene er barndomsvenner fra Skjetten.

Celeste brukte slutten av 2006 og nesten hele 2007 til lage nye sanger, men rakk også å spille litt live. I 2008 ble det også en del live-spilling, i tillegg til innspilling av EP'en "Bring It Back EP".

EP'en ble gitt ut på Nordic Records 27. april 2009, og låta "Panic Attack" som er førstesporet gikk inn på 13. plass på VG-lista uke 21, 2009. Dette førte til en del spilling på P3, som igjen førte til en ganske aktiv live-vår i 2009.

Høsten 2009 gikk Celeste i studio med produsent Lars-Erik Westby (Surferosa, Autopulver m.m.) for å spille inn debutalbumet "Sunsational". Albumet kom ut 28. februar 2011, og første smakebit var singelen "(Standing Together) In Grief" som kom ut på H10 Productions 16. august 2010.

Alle salgsinntektene fra denne sangen går til Kreftforeningen.

Andre singel fra albumet, "Could I?", kom ut 31. januar 2011.