Elevé à Big Stone Gap, il apprend le piano à onze ans auprès d'un bluesman, Smith Carson. Adolescent, il chante des chansons de Broadway comme "Stardust" et "Sentimental Journey". En 1943, il fonde les Cohutta Mountain Boys, avec qui il enregistre quatre simples en 1949 à Detroit (Michigan) pour Fortune, dont "Dirty Boogie". Il accompagne aussi Skeeter Davis. Etabli à Nashville en 1950, il grave pour Bullet puis Tennessee. Il se produit régulièrement au "Grand Ole Opry" et enregistre des séances pour Marty Robbins et Hawkshaw Hawkins. Au Musicians Hideaway, dont il est propriétaire, le jeune Jerry Lee Lewis, qui y joue parfois, a l'occasion de se familiariser avec "Whole Lotta Shakin' Goin' On", une chanson que Hall a composée, sous le pseudonyme de Sonny David, avec le musicien noir Dave Curly Williams. L'histoire de cette chanson est peu banale. Hall a raconté au musicologue canadien Craig Morrison ( Go Cat Go !, 1996) que, parti en expédition avec Williams dans les marais de Floride à la recherche de serpents pour en vendre le venin à des préparateurs en pharmacie, il aurait bu abondamment du whisky avec son compagnon, ce qui aurait attisé leur imagination. Big Maybelle en chante la première version en mars 1955, puis Jerry Lee Lewis en février 1957.

Sa rencontre avec Webb Pierce tire alors son style hillbilly vers le boogie, ce qui lui vaut un contrat avec Decca, pour qui il interprète une douzaine d'excellents rockabilly : "All By Myself", "Whole Lotta Shakin' Goin' On", "See You Later Alligator" (avant Bill Haley), "Blue Suede Shoes (un mois après Carl Perkins), "Offbeat Boogie', "Diggin' The Boogie", "Three Alley Cats"... Lâché par Decca, il enregistre pour le label éphémère Pierce ("One Monkey Don't Stop No Show" sous le nom de "Roy The Hound"), puis pour Hi Q (sous-label de Fortune, Quatercash, Strate-8). En 1958, il enregistre pour Sun à Memphis "Christine", en compagnie du guitariste Reggie Young, des titres restés longtemps inédits. Il monte ensuite l'agence Roy Hall Attractions et rachète les disques Judd, pour qui il chante du gospel, remerciant Dieu de l'avoir éloigné de la bouteille. Dans les années 70, ses 45 tours de la période Decca étaient très recherchés pour les spécialistes. La compilation Rare Rockabilly a permis de les retrouver groupés. En 1980, il grave l'album Rockabilly Or Else où il chante "Flat Foot Sam" et une reprise de son "Bedsprings Motel", et Hank & The Hound, consacré à Hank Williams. A la fin de sa vie, il chantait pour des croisières du troisième âge. Sa mauvaise santé l'empêchait de répondre aux invitations à participer à des festivals rockabilly. IL déclarait à Morrison, peu de temps avant sa mort : "J'ai un bon groupe, le meilleur, même. On pourrait tous les aplatir, tout vieux que je suis. Parce que j'ai l'expérience."