Брати Олмани росли и виховувались у Дейтона-Біч, що у Флориді; Вони займались музикою з початку 1960 років. В 1963 році Джейн та Брегг зібрали «гаражну» группу The Escorts, яка згодом змінила назву на The Allman Joys. Потім виник склад The Hour Glass: з ним брати переїхали у Лос-Анджелос.

Ця група випустила аж два альбоми на лейблі Liberty Records, але успіху не досягла.

Ще гастролюючи як The Allman Joys, брати Оллмани познайомились с Бутчем Траксом, учасником групи, яка носила назву „31 Лютого”. Невдовзі, у вересні 1968 року, вони вирішили співробітничати. Записаний в ті дні альбом вийшов лише у 1972 році під заголовком Duane & Greg Allman на лейблі Bold Records.

Власне The Allman Brothers Band утворились у Джексонвілі, штат Флорида, 26 березня 1969 року у складі: Дуейн та Грег Оллмани, Діккі Беттс, Беррі Оклі, Батч Тракс и Джей Джохани Йоханссон. Музики дали серію концертів й після (у 1969-ому) випустили дебютний альбом The Allman Brothers Band (1969), високо оцінений критикою.

Група The Allman Brothers Band проіснувала 40 років і 13 разів змінювала свій склад.

І ввесь цей час незмінним лідером групи був Грег Оллман.

Його брат Дуейн розбився на мотоциклі у штаті Джорджія ще 21жовтня 1971 року.