Két csődeljárás után Hilly Kristal 1973-ban megvásárolja a New York-i Palace bárt. Az álma az volt, hogy egy színpadon hozza össze a country, a bluegrass és a blues műfaj - rövidítve CBGB legjobbjait akik eredeti zenét játszanak. Amikor nehézségekbe ütközött a zenekarok egyeztetése Kristal megnyitotta a bár kapuit más műfajok előtt is. A CBGB végül így vált a földalatti rock 'n' roll és punkzene szülőhelyévé. Többek között olyan együttesek indultak innen, mint a Blondie, a Talking Heads és a The Police.