A. J. Greimas gimė 1917 m. kovo 9 d. Tuloje. Baigė Marijampolės Rygiškių Jono gimnaziją. Vytauto Didžiojo universitete studijavo teisę, vėliau, gavęs Švietimo ministerijos stipendiją, – prancūzų kalbą, dialektologiją Grenoblio universitete (1936–1939). Po studijų grįžo į Lietuvą atlikti karinės tarnybos. 1940–1944 m. gyveno Šiauliuose, dėstė lietuvių ir prancūzų kalbas mergaičių ir suaugusiųjų gimnazijose. Karo metu dalyvavo antinacinio pasipriešinimo judėjime, redagavo laikraštį „Laisvės kovotojas“. Šiauliuose Greimas organizavo kultūrinio almanacho „Varpai“ leidimą. Čia paskelbė savo pirmuosius literatūrinės kritikos straipsnius „Binkis – vėliauninkas“ ir „Cervantes ir jo Don Kichotas“. Recenzijoje apie M. Servanteso „Don Kichoto“ vertimą Greimas lygino Don Kichoto kovas su Lietuvos situacija Antrajame pasauliniame kare. Vėliau yra sakęs, kad rašė „apie beviltiškas mūsų kovas, – mes kovojom prieš vokiečius, kad sugrįžtų rusai: Kokia prasmė kovoti? Tai aš pristačiau Don Kichotą kaip beviltiško herojaus tipą“. Ši karo metų patirtis sudarė psichologines Greimo semiotikos prielaidas. Jis rašė: „Būti semiotiku – tai kelti prasmės klausimą. Karas, jo absurdiškumas skatina susirūpinti prasme visų tų baisybių, kurios vyksta prieš jūsų akis“.
Po karo A. J. Greimas pasitraukė į Vakarus ir nuo 1945-ųjų vėl apsigyveno Prancūzijoje. Sorbonoje apsigynė daktaro disertaciją tema „Mada 1830-aisiais“. 1950–1958 m. dėstė Aleksandrijos (Egiptas), 1958–1962 m. Ankaros ir Stambulo (Turkija) universitetuose prancūzų filologiją. Nuo 1962 m. A. J. Greimas buvo Puatjė (Poitiers, Prancūzija) universiteto kalbotyros profesorius. 1965-aisiais Paryžiuje pradėjo vadovauti semiolingvistinių tyrimų seminarui, kurio pagrindu susiformavo Paryžiaus semiotikos mokykla.
Daugumą kalbinių ir semiotinių darbų prof. A. J. Greimas parašė prancūzų kalba. Mitologijos studijas ir eseistiką rašė lietuviškai. Nesvetima jam buvo ir lietuvių literatūra. Yra paskelbęs straipsnių apie H. Radausko, J. Kėkšto, J. Aisčio, Bern. Brazdžionio, A. Nykos-Niliūno, H. Nagio, A. Mackaus, T. Venclovos ir kt. kūrybą. Apie savo literatūros kritikos darbus yra sakęs: „a) tikslas buvo atrinkti grūdus nuo pelų ir duoti lyg ir istorinės evoliucijos (pažangos?) gaires; pagal vaižgantišką deimančiukų ieškojimo principą aš esu kalbėjęs tik apie gerus poetus. Binkį (kaip judėjimo vadą), Kossu (kaip jo mokinį), o po to „atrandamus poetus“ – Radauską, Mackų, T. Venclovą; mano kriterijus – europietiškumas: nuo kada mūsų poezija iš tautiškos virsta „eksportuojama“, galima parduoti tarptautinėje rinkoje; b) tai daugumoje prieš-semiotiniai straipsniai, aš norėjau įvairinti metodinius literatūros kritikos priėjimus, įvesti naują žanrą – essais (bandymai)“.
Maironio lietuvių literatūros muziejuje saugomas A. J. Greimo archyvas negausus. Tai lietuvių kalba išleistos jo knygos, keletas šeimos nuotraukų, giminėms į Lietuvą rašyti jo ir žmonos Onos Bagdonaitės-Greimienės laiškai. Po keletą nuotraukų yra jo bičiulių, išeivių rašytojų Bronio Railos ir Jono Aisčio archyvuose. Visi trys gyveno ir bendravo Prancūzijoje. Su J. Aisčiu Greimas kartu studijavo Grenoblio universitete. Po vieną kitą Greimo laišką yra ir kitų rašytojų archyvuose.
Parengė Išeivių literatūros skyriaus muziejininkė Elvyra Brazaitienė