' est le 30 octobre 1936 que l'arrêté de Jean Zay, alors Ministre de l'Education nationale, crée le Service de recherche d'astrophysique, composé d'une station d'observation en Haute-Provence et d'un laboratoire situé à Paris pour le traitement et l'étude des documents d'observation. Le Comité de direction du Service, présidé par Jean Perrin, sous-secrétaire d'Etat à la Recherche scientifique, se réunit dès le 9 novembre et décide, le 23 janvier 1937, que le laboratoire parisien sera construit sur le site de l'Observatoire de Paris, côté boulevard Arago. En mai 1937, il organise une conférence internationale sur "l'absorption de la lumière dans l'espace interstellaire" et, en octobre, crée les Annales d'astrophysique. Le Service de recherche d'astrophysique est d'abord rattaché à la Caisse nationale de la recherche scientifique, puis au Centre national de la recherche scientifique (CNRS) lorsqu'il est créé, en 1939.

Le 6 janvier 1938 est donné le premier coup de pioche du bâtiment CNRS du boulevard Arago. Le laboratoire parisien, dont la direction est confiée le 15 juin 1939 à Henri Mineur, fonctionne sous le nom de Laboratoire d'astrophysique ; il est d'abord hébergé dans les locaux de l'Observatoire de Paris, puis dans ceux de l'Ecole normale supérieure et de l'Institut Henri Poincaré. Interrompue pendant la guerre, la construction du bâtiment ne sera terminée qu'en 1952, et ce Laboratoire propre du CNRS prendra alors le nom d'Institut d'astrophysique de Paris ; la station d'observation, quant à elle, deviendra autonome, l' Observatoire de Haute-Provence.

Les premiers chercheurs de l'Institut se consacrent à l'astrophysique stellaire et à l'optique. Les thèmes sont : la statistique stellaire (H. Mineur), la dynamique stellaire avec l'étude des Céphéides et de la rotation galactique (H. Mineur), la spectrophotométrie stellaire (D. Barbier, D. Chalonge, N. Morguleff, A. Arnulf et J. Berger) et l'élaboration de la classification stellaire à trois dimensions connue sous le nom de " classification de l'IAP " (D. Barbier et D. Chalonge à partir de 1938, L. Divan à partir de 1948), l'optique et la photographie (F. Holweck).

En 1946 commencent les recherches en spectrophotométrie solaire (D. Chalonge, J.C. Pecker, R. Michard) et celles sur la diffusion de la lumière (G. de Vaucouleurs). La géophysique est alors présente avec les études sur l'ozone atmosphérique, les aurores, la lumière zodiacale, le ciel nocturne (D. Barbier, E. Vigroux). Un important bureau de calcul, où sont élaborées de nouvelles méthodes de calcul numérique, est créé, ainsi que des ateliers de mécanique, d'optique et d'aluminure de miroirs pour la fabrication de nouvelles générations d'instruments d'observation et pour le perfectionnement des instruments de dépouillement.

Les recherches théoriques se développent en parallèle : théorie des atmosphères stellaires et solaires (V. Kourganoff à partir de 1945, J.C. Pecker à partir de 1946), intérieur des étoiles et évolution (E. Schatzman et ses élèves ). L'astrophysique théorique prend une place de plus en plus importante au fil des années avec pour objectif prioritaire la compréhension de la nature et de l'évolution des astres.

Après la mort de Henri Mineur en 1954, l'IAP est dirigé par André Danjon (de 1954 à 1960), puis par André Lallemand (de 1960 à 1971), dont les activités de recherche restent localisées à l' Observatoire de Paris.

De nombreux thèmes viennent s'ajouter aux précédents : physique des plasmas, transfert de rayonnement, matière interstellaire et régions HII, astrophysique de laboratoire (arc à plasma, physique atomique), problèmes stochastiques, physique des planètes et de l'atmosphère terrestre.

L'astrophysique fait son entrée dans les programmes universitaires, aux côtés de l'astronomie fondamentale et de la mécanique céleste, et attire de nombreux passionnés de cette science nouvelle. La réputation internationale de l'IAP va se construire, au début des années soixante, avec les remarquables contributions scientifiques d'Evry Schatzman et de ses nombreux étudiants, qui constituent un groupe d'astrophysique théorique particulièrement vivant et productif.

Après les événements de mai 1968 et une période de restructuration liée à la création à Meudon d'un département d'astrophysique fondamentale animé par Evry Schatzman, c'est Jean-Claude Pecker, Professeur au Collège de France , titulaire de la chaire d'astrophysique théorique, qui succède à André Lallemand. Les travaux de laboratoire continuent mais les développements instrumentaux sont progressivement abandonnés au profit de l'utilisation des données spatiales. Au plan théorique, l'accent est mis sur l'étude des atmosphères et de l'environnement stellaire, puis, plus tard, sur celle de notre Galaxie et des galaxies en général.

Cette évolution se confirme sous la direction de Jean Audouze de 1978 à 1989. Les thématiques de l'IAP sont alors profondément renouvelées (nucléosynthèse des éléments légers, physique du milieu interstellaire, cosmologie physique, évolution galactique, astroparticules), tandis que la géophysique est définitivement abandonnée. C'est en 1985, qu'est mise en place la prestigieuse série des colloques internationaux de l'IAP par Jean Audouze et Daniel Kunth.

En 1990, Alain Omont prend les rênes de l'IAP. Les orientations précédentes sont maintenues, avec un accent particulier sur la cosmologie, l'astrophysique extragalactique et le traitement de données. Une véritable dynamique internationale s'instaure : l'IAP obtient, en 1991, le statut de Laboratoire européen et développe les collaborations internationales, avec une politique très active d'accueil de visiteurs. Le volet enseignement prend de l'importance avec l'hébergement du DEA de l' Université Paris6 . C'est à cette époque que l'IAP commence à jouer un rôle de pôle d'astrophysique "Paris intra-muros", particulièrement ouvert aux manifestations scientifiques de la communauté nationale et internationale. L'IAP met en place un statut de chercheur associé qui permet à des chercheurs d'autres organismes d'y travailler après une cooptation par son conseil scientifique. Une grande partie de la dynamique de recherche vient de cette ouverture interdisciplinaire et internationale.

En 1998, Bernard Fort devient directeur de l'Institut d'astrophysique, qui a encore le statut de Laboratoire propre du Centre national de la recherche scientifique (CNRS).

Les équipes se structurent autour de quatre groupes de recherche (Cosmologie, structures et galaxies ; Cosmologie et nucléosynthèse ; Magnétisme et transfert ; Milieux stellaires et planétaires, objets compacts).

Le traitement massif de données - et la simulation numérique afférente - sont renforcés avec la mise en place dune plate-forme technique « POLARIS » (POLe Astrophysique de Recherche en traitement de l'Information et Simulation numérique), soutenue par la Région Ile-de-France.

Une équipe de physiciens théoriciens du secteur Sciences physiques et mathématiques (SPM) rejoint le laboratoire en 2001. Il constitue un groupe de recherche, le « GReCO » (Gravitation et cosmologie). Ces physiciens travaillent sur les théories de la cosmologie primordiale et de la gravitation, ouvrant des angles de recherche complémentaires de ceux de l'astrophysique et de la cosmologie observationnelle, traditionnellement étudiées dans le laboratoire au sein du secteur Sciences de l'Univers (INSU).

En 2001, l'IAP rejoint l'Université Pierre et Marie Curie (Paris 6) et devient UMR7095.