The Caves entstanden im August 2014 bei einem Spontanauftritt am Kellerfest in Grächen. Michelle wurde für jenen Anlass angefragt, woraus sich innert drei Tagen die Band mit Noah Schmid (Drums), Matteo Biner (Bass) und Pascal Zenklusen (Guitar) entwickelte. Ohne Probe und mit diversen technischen, sowie logistischen Schwierigkeiten ging der erste Auftritt mit Erfolg über die Bühne.
Das Musizieren beigeisterte alle vier derart, dass die Band bestehen blieb. Es folgten Auftritte am Season End und Beach Event in Grächen, Perron 1 und Britannia in Brig, sowie im Zeughaus Kultur in Glis und auch am Waldfest in Randa.
Einziger Wechsel in der Formation war im Frühling 2015 die Position des Drummers. Noah ging seinen eigenen Weg und wurde durch Aaron Hutter bestens ersetzt.