Er verdankt seinen Namen der Bibel des schwarzen Mannes (Rastas), wobei Holy Piby die Grundlage der Rastafari-Religion ist. Die Band wurde 2003 in Lanus, Argentinien, gegründet. Sie besteht aus Musikern, die Reggae, Rock, Funk und Dub fusionieren. Ihre Einflüsse stammen von schwarzen Wurzeln wie Steel Pulse, Ziggy Marley, James Brown und Ben Harper. Nach 3 Monaten Auftritten an verschiedenen Orten in Buenos Aires teilten sie die Bühne mit anderen argentinischen Bands wie Sinsemilla, Riddim, Dancing Mood, Los cafres, Nonpalidece und Resistencia Suburbana.
Holy Piby wurde zum Gewinner des Radiowettbewerbs für neue Bands (bei Day tripper, Rock and Pop) unter 130 Teilnehmern gewählt. Im August 2004 erreichte es Platz eins in der Chart von "La de Dios" (Reggae-Radioprogramm) und blieb 5 Monate in den Top Acht. Es nahm am Festival "Quilmes Rock 2004" teil, wo die Hauptattraktion die legendäre Band The Wailers war. Es spielte auch mit der brasilianischen Band Tribo de Jah bei deren Auftritt in Buenos Aires.
Ihre CD "Neighborhood" wurde im Afro Estudio aufgenommen und von den Musikern Federico Ariztegui und Hernán Sforzini gemischt. Sie wurde in Argentinien unabhängig veröffentlicht, in Spanien von Liquidator Music und in den Vereinigten Staaten von Ras Records.