有关气象史的记载和气象科学家的考证，一致认为北极阁山与我国气象科学有着近1600年历史渊源。中国近代气象科学的兴起和发展都源自于南京北极阁，因此它被海内外气象学界公认为中国近代气象科学的发祥地。
1928年2月，国立中央研究院气象研究所在南京北极阁成立，竺可桢为研究所第一任所长。两年后，在原北极阁遗址上新建了一座气象观测台。气象研究所是中国历史上第一个研究近代气象科学的最高学术机构。它的成立，开创了我国近代气象科学研究的先河，标志着我国气象科学事业迈出了时代的新步伐。
气象研究所建立之初，竺可桢就提出了《全国设立气象测候所计划书》，详细阐述了气象观测站网对农业、水利、航海、航空等各方面的重要作用，制定了10年内在全国建设10个气象台、30个头等测候所、150个二等测候所和1000个雨量测候所的规划。气象研究所还多次呈请中央研究院，并由该院出面，先后3次召开全国气象会议，讨论研究全国共同关心的有关测站建设、统一业务技术规定、统一管理全国气象事业等重大问题，并筹建了全国气象观测台站网，开展了多项气象业务工作，培养了一批气象科学人才，取得了不少重大科研成果。北极阁因此也被誉为中国气象人才的“摇篮”。
抗日战争期间，气象研究所几经搬迁，最后撤到重庆北碚，业务工作基本处于半暂停状态。直到1946年8月，气象研究所迁回南京北极阁，各项工作重新恢复。1950年,气象研究所改名为中国科学院地球物理研究所，并于1951年迁往北京。
北极阁气象台因其特殊的历史地位和地理条件，在新中国成立后一直是江苏省气象部门所在地。
