Il gruppo nasce nel marzo del 2000 dall'incontro di Valeria De Martini e Enrico Brunoldi, provenienti da una comune esperienza nel noise. Nei primi mesi il suono del gruppo è composto solamente da due chitarre, volendo cercare atmosfere più scarne possibili e dando estrema importanza all'improvvisazione anche nei concerti e in fase di registrazione. Nel giugno dello stesso anno viene autoprodotto un primo demo su cassetta. I pezzi sono il risultato di una composizione tendente a eliminare strutture e arrangiamenti e a rendere atmosfere tristi ma assai rarefatte. Se bisogna indicare qualche nome di riferimento, si possono citare Magnog, Labradford, Rothko.
Fra il 2001 e il 2002 il gruppo registra alcuni pezzi per il primo mini cd che esce per la PK Records. Col tempo lo stile si è arricchito con ulteriori strumenti e l'uso di suoni elettronici, rimanendo comunque dentro immagini crepuscolari.
Nei due anni e mezzo dalla loro nascita gli One by One hanno suonato dal vivo due volte a Genova di spalla a Orso (perishable rec. USA), tre volte alla manifestazione Alessandria Wave, una al L'ax di Alessandria di spalla ai Deep End (Love Boat rec. ITA), una a Fastwebb Caffè di Milano per la presentazione del disco dei Polis (PK Rec. ITA), due volte al csa Subbuglio di Alessandria come commento sonoro alla mostra di una giovane pittrice piemontese, e diverse altre volte in manifestazioni minori.
Il gruppo è tuttora formato da Valeria ed Enrico, anche se si avvale spesso della collaborazione di altri musicisti. Enrico inoltre suona la tastiera e cura i campionamenti nei Deep End, emergente gruppo post-rock italiano.