Les deux frères durent continuer seuls leur voyage dans l'Amérique du Sud. Pendant les années 1858 et 1859, ils franchirent cinq fois les Cordillères et explorèrent, non sans de nombreux dangers, à la fois en géographes et en naturalistes, les régions minières du Pérou, du Chili, de la Bolivie, les sources de la Madre de Dios, les passages entre Santiago et Buenos-Aires et diverses contrées du Brésil. Plusieurs collections importantes furent rapportées de ce voyage, dont la relation a été publiée, en 1860, par Ernest Grandidier. Ce premier voyage, malgré ses difficultés, n'était que comme un noviciat pour des explorations encore plus importantes.

Les deux frères se séparèrent : Ernest Grandidier devait s'occuper surtout de la Chine et faire profiter la France de ses études en fondant le musée qui, au palais du Louvre, porte son nom.

En 1863, Alfred Grandidier s'embarquait seul pour les Indes. Il visita d'abord l'île de Ceylan (Sri lanka) et en a publié une intéressante description. Mais son but était l'exploration des hauts plateaux du Tibet; il voulait se préparer à ce difficile voyage par l'étude du bouddhisme, de sa langue et de ses moeurs; il résolut même pour cela de s'enfermer quelque temps dans un monastère bouddhiste. Mais une terrible fièvre paludéenne vint bouleverser ses projets et lui fit sentir très longtemps ses atteintes. Pour se remettre dans un climat meilleur, il alla d'abord, en 1864; dans l'île de Zanzibar, et y resta assez longtemps pour y recueillir d'importantes collections et publier les résultats principaux de ses observations. Il se rendit ensuite dans l'île de la Réunion. C'est de là qu'il alla pour la première fois, en 1865, à Madagascar.

Madagascar devint dès lors l'objet à peu près unique de ses études. Il n'y avait été précédé que par un très petit nombre de voyageurs et par des missionnaires : on sait, en particulier, que le R. P. Colin, correspondant de l'Académie des Sciences, y a dirigé  l'Observatoire astronomique et météorologique de Tananarive qui était encouragé de toutes manières par Mgr. de Saune, évêque de cette région, ancien élève de l'École Polytechnique.

Grandidier arrivé à Madagascar en 1865, y retourna en 1866, puis en 1868. Ce dernier voyage ne dura pas moins de trente mois. Il fut interrompu par la guerre de 1870 qui le rappela en France : il ne devait plus la quitter.

C'est à Grandidier que l'on doit la première connaissance approfondie de la grande île. Il la traversa trois fois dans sa largeur et y fit de nombreuses excursions, malgré des difficultés et des dangers extraordinaires. Au milieu de climats très variés, depuis le Nord jusqu'au Sud, ses itinéraires atteignirent un développement de plus de 5500 km (3000 dans l'intérieur, 2500 sur la côte). Il y fit environ 1500 relevés géodésiques. On lui doit en particulier la détermination exacte de Tananarive. Ces nombreuses observations géodésiques aboutirent en 1871 à une Carte générale de l'île, base de toutes les explorations ultérieures. De nombreuses études de minéralogie et de zoologie y étaient jointes, Grandidier s'intéressait à tout, même à la linguistique et à l'anthropologie. On lui doit ainsi la première proposition que le peuplement de Madagascar avait été fait par des populations d'origine malayo-polynésienne. De très belles collections furent le résultat de ses importantes expéditions. La Société de Géographie décerna, en 1872, à Grandidier sa grande médaille d'or.

Installé définitivement en France après la guerre de 1870 et marié à Mlle Vergé, Grandidier n'eut plus qu'à coordonner et publier les innombrables matériaux recueillis pendant ses expéditions lointaines. Ce fut une entreprise formidable. L'histoire politique, physique et naturelle de Madagascar, qu'il commença de publier à son retour avec, des collaborateurs éminents, parmi lesquels Alphonse Milne-Edwards et Vaillant, devait comprendre environ 40 volumes; les deux tiers seulement ont paru de son vivant, admirables par leur exécution comme textes et comme dessins, relatifs aux sujets les plus variés. Cette oeuvre colossale s'est ensuite poursuivie grâce à Guillaume Grandidier, collaborateur très dévoué et très éclairé de son père.

C'est aussi à Alfred Grandidier qu'on doit la formation, en 1896, du Comité de Madagascar dont Charles Roux et Alphonse Milne-Edwards faisaient partie et dont Dehérain était le secrétaire. Grandidier publia dans ce Bulletin  plusieurs articles pour intéresser le public à Madagascar.

Les explorations de  Grandidier à Madagascar ne sont pas restées un simple objet de curiosité. Elles ont puissamment servi à l'installation définitive de la France à Madagascar lorsque, en 1895 et 1896, le  demi protectorat de 1885 s'y transforma en une annexion définitive, après l'expédition dirigée par le général Duchesne. La pacification complète, due au général Galiéni, a dû certainement beaucoup aux données de toutes sortes recueillies par le voyageur.

Alfred Grandidier avait été élu à l'Académie des sciences en 1885, comme membre titulaire dans la section de géographie et navigation. (Notice nécrologique, 1921).