直到19世紀，超過6層樓的建築物仍相當罕見。人們不願爬太多的階梯，而水壓式垂直升降機僅能提昇約15米的高度。發達的鋼鐵技術、鋼筋混凝土與抽水泵讓建築極高的大樓成為可能，那些極高的建築物中有些超過300公尺高。實際上摩天大樓的發展，主要的因素源於升降機的發明。
摩天大樓首次興起於19世紀末美國紐約市與芝加哥地價昂貴用地不足的區域。為了城市商業發展，增加更多營業面積而興建摩天大樓。
1871年10月8日美國芝加哥發生大火，災後重建時為了節約市中心用地，高層建築應運而生。城市的重建計劃廣泛地採用新的建築技術與新的建材，包含電梯的使用。隨之誕生的密斯·凡德罗模式探討了新技術在高層建築上的應用，也探討了高層建築的造型問題。
威廉·勒巴隆·詹尼設計的芝加哥家庭保險大樓被世界公認為第一幢摩天建築。這座10層樓的大樓建造於1884年至1885年，毀於1931年。
第一次世界大戰之後，世界經濟重心從歐洲移轉至美國，至1929年經濟大恐慌是美國建築的繁榮期，摩天大樓也隨著美國經濟而快速發展。1931年，102層的帝國大廈於紐約落成，此後長達40年的時間帝國大廈雄踞世界第一高樓的地位，帝國大廈成為摩天大樓甚至是紐約的象徵。
1974年芝加哥西爾斯大廈竣工，取代紐約世界貿易中心雙塔世界最高大樓的地位，也讓世界第一的光榮重回芝加哥——這座被稱為摩天大樓發源地的城市。近年來，亞洲新興國家的經濟實力逐漸抬頭，超高摩天大樓的排行榜，也從原來的美洲獨霸，轉移到亞美爭鋒。香港在首栋摩天大楼（中环怡和大厦）在1973年落成后，随著经济在1960年代至1990年代高速发展，在中环、金钟及湾仔等商业区内陆续興建了大量摩天大楼，使香港成爲現時世界上擁有最大摩天大樓的城市[8]。1998年完工的吉隆坡雙峰塔將原來世界第一高樓的頭銜美洲大陸轉移到亞洲。2004年底，臺灣台北101大樓取代雙峰塔成為2004年~2010年之世界最高樓。位于杜拜、2010年启用的哈利法塔，超越台北101大樓，成為目前世界最高的摩天大樓。