Le groupe a réalisé cinq albums, dont Source Tags & Codes, un des rares disques à avoir obtenu la note de 10/10 du magazine musical Pitchfork. Le groupe, qui compte deux chanteurs, se distingue sur disque par une instrumentation variée et de nombreux changements de tempo, et par son habileté à passer d'un instrument à l'autre sur scène. Il est aussi célèbre pour son habitude de détruire ses instruments à la fin de ses concerts, un peu comme le faisaient autrefois The Who.