Originaires de Brooklyn, le duo sort un premier album chez XL Recordings sobrement intitulé Ratatat, enregistré dans l'appartement de Mike Stroud sur un simple Powerbook. La musique de Ratatat se résume à trois instruments : guitare, basse et synthétiseur. En effet, aucune partie vocale n'est présente sur ce premier album. Ils semblent habités par une étrange mélancolie, qui évoque l'agréable douceur lente de certains morceaux de New Order, ou encore les premiers disques de techno viscérale, comme ceux de Black Dog, joués au ralenti.