Роден на 4 март 1929 г. в Клагенфурт, Холега израства в Щирия. От 1947 до 1954 г. учи в Академията за изящни изкуства във Виена в майсторската класа на Йозеф Добровски. Още в края на 50-те години той получава голямо признание в Ню Йорк – в центъра на онова художествено авангардно движение, което променя живописта завинаги. Подкрепен от влиятелния американски изкуствовед Клемент Грийнбърг, той излага заедно с protagonisti на абстрактния експресионизъм, сред които Фридел Дзубас, Морис Луис и Жул Олицки.

И той дори не беше навършил 30 години, когато през 1958 г. беше удостоен с наградата „Гугенхайм“ за Австрия – като най-младият лауреат и едновременно с Алберто Джакомети, който получи наградата за Швейцария, и Марк Ротко за САЩ. 

Въпреки успеха си в метрополиса Ню Йорк, Холега избра друг път: през 1961 г. той придоби ферма от 17-ти век в Рехберг, северно от Грац, която преустрои според собствените си планове. Лятното ателие е особено забележително само с височината си от около 15 метра. Тук, разположен сред природата, в самоналожена усамотеност, той създава в продължение на повече от шест десетилетия радикално самостоятелно, често монументално творчество – концентрирано, безкомпромисно и с изключителна живописна интензивност благодарение на своята редукция и уплътнение.

Особено при сравнението на рисунките – които той разглеждаше като материал и в повечето случаи изхвърляше – става ясно как е работил: за мотиви му служеха детски играчки, кошница, дървени трупи или шапката му. В няколко етапа той ги абстрахираше до такава степен, че създаваше напълно самостоятелно визуално преживяване.

При това той работеше по занаятчийски начин: винаги на разстояние само една ръка от творбата си, той изсипваше боята върху платното с помощта на купички, нанасяше я директно с ръка или я размазваше с парцал. Верен спътник на художника при това беше музиката на Йохан Себастиан Бах. За да провери ефекта от своите творби, той постоянно се качваше на единадесетметрова галерия, която имаше височина, подобна на тази на „Катедралата“ – залитата със светлина зала в музея „Райнхард Ернст“. 

Особена атракция на изложбата е съпоставката на творчеството на Холега с произведенията на негови американски съвременници като Джаксън Полок, Хелън Франкенталер, Фридел Дзубас, Морис Луис, Жул Олицки и Лари Пунс.

За първи път се показва необичайното произведение на Джаксън Полок „Eye-Scape“ (1952), в което той използва техниката „Soak-and-Stain“ (напояване и просмукване), която Хелън Франкенталер доведе до съвършенство. С подход, наподобяващ калиграфията, Полок капе разредената боя върху необработеното платно. Маркировки, петна и преливания напомнят тотемни животни, символи от фолклора и легендите на коренните народи, за които Джаксън Полок се е увличал още от ранното си детство.