Toutefois, immédiatement raprochés par leurs passions et leurs obsessions communes, les trois hommes fondent rapidement Thee More Shallows et s’enferment dans un sous-sol de San Francisco pour enregistrer, avec l’aide de Tadas Kisielius, le lumineux premier album du groupe, The History Of Sport Fishing .

Influencé par le slowcore de Low ou du Come On Die Young de Mogwai, nourri d’influences classiques (Debussy) ou électronica, ce premier essai enregistré sur une période de deux semaines entre minuit et 9 heures du matin, sonne comme la bande originale d’un film imaginaire, les chansons s’effaçant devant le lyrisme de l’ensemble.

Son successeur, More Deep Cuts , sera beaucoup plus long à enregistrer (près de deux ans) et s’orientera davantage vers la poptronica vibrante de The Notwist et l’americana cosmique du Grandaddy des débuts, sans rien perdre en beauté ni en virtuosité, ou si peu.

Installés dans leur propre studio à Oakland depuis le début de son enregistrement, le trio découvre alors finalement que leur voisin hirsute n’est autre qu’Odd Nosdam, musicien et producteur phare du label Anticon. Dès lors, les collaborations s’enchaînent. Les TMS mettent la main à la patte sur son album Burner et sur le Elephant Eyelash de Why ? en 2005, et tous deux le leur rendent bien en remixant ensemble, l’année suivante, un morceau de More Deep Cuts pour leur EP Monkey Vs. Shark , qui approfondit encore les textures électro de la musique du groupe au travers d’une poignée de chansons aux mélodies mouvantes dont la splendeur demeure toujours inégalée dans la discographie du groupe.

Thee More Shallows rejoint donc logiquement l’équipe d’Anticon, label sur lesquel sort début 2007 leur troisième album, Book Of Bad Breaks  : un véritable ovni d’à peine 36 minutes qui conjugue sans temps mort dans un mélange foutraque poptronica, americana et post-punk, convoque le Bowie de Space Oddity et permet enfin au trio californien, notamment grâce au formidable single Night At The Knight School, de sortir brillament de la confidentialité.