Jean Arp werd als Hans Peter Wilhelm Arp geboren. Zijn moeder kwam uit deElzas en zijn vader was Duits. Hij werd geboren tijdens de periode na deFrans-Pruisische Oorlog, toen het gebied bekend was alsElzas-Lotharingen, nadat het door Frankrijk aan Duitsland was teruggegeven.
Na zijn opleiding kunstnijverheid bij de Kunstgewerbeschule in Straatsburg, ging Arp naar Parijs, waar hij voor het eerst gedichten publiceerde. Tussen 1905 en 1907 studeerde Arp aan de Kunstschule inWeimar in Duitsland. In 1908 ging hij terug naar Parijs om deAcadémie Julian te bezoeken. Vanaf 1909 woonde Arp in Zwitserland. In 1912 deed hij met een serie half-figuratieve, half-abstracte tekeningen mee met de tentoonstelling van de groepDer Blaue Reiter inMünchen en in 1913 was hij betrokken bij activiteiten vanDer Sturm vanHerwarth Walden inBerlijn. Van het werk uit de periode tot ongeveer 1914 is niets meer over, omdat Arp het zelf heeft vernietigd. Naar het schijnt was ditexpressionistisch van aard. In 1915 ontmoette hij zijn latere echtgenoteSophie Taeuber, met wie hij samenwerkte aan papiercollages. Dat jaar exposeerde hij in Zwitserland ook zijn eerste abstracte werk.
In 1926 verhuisde hij naar de Parijse voorstadMeudon en later dat jaar naar zijn geboortestad Straatsburg. In dat jaar nam hij ook de Franse nationaliteit aan. Hier hielp hij zijn vrouw bij de herinrichting van amusementscentrum deAubette. Het project was echter zo omvangrijk, dat ze de hulp van hun vriend Van Doesburg inriepen, die vervolgens ook de leiding op zich nam. Arps aandeel bestond uit twee kelderruimten, deAmerican Bar en deCaveau-dancing, eencabaret- annex danszaal, die hij decoreerde in zijn kenmerkende abstract-biomorfische stijl. Ook moet hij het raam in het trappenhuis ontworpen hebben. De 'elementaire en premorfische' interieurs vielen echter niet in de smaak bij de clientèle van de Aubette en werden in nog geen tien jaar verwijderd. Zijn raam is met de rest van het trappenhuis in 2004-2006 gereconstrueerd.[6]
In juni 1926 ontstond ook het idee om met Theo en Nelly van Doesburg ergens bij Parijs een dubbelhuis te bouwen. In maart-juni 1927 kochten ze een stuk grond op de Rue des Châtaigniers 33 in Meudon, maar dit dubbelhuis Arp-Van Doesburg kwam er niet. De Arps namen het deel van de Van Doesburgs over en bouwden er in 1928 een eigen huis, dat nu in gebruik is alsFondation Arp, musée et jardin de sculpteurs.[7]
In 1931 brak hij met het surrealisme om een andere groep te vormen,Abstraction-Création, die het periodiekTransition uitgaf. Gedurende de 30 jaren tot het eind van zijn leven ging hij ook door met het schrijven vanessays enpoëzie. In 1942 vluchtte hij uit zijn huis in Meudon voor de Duitse bezetting. Hij woonde in Zürich tot het eind van de oorlog.
In 1949 had Jean Arp een solotentoonstelling in New York, bij de Buchholz Gallery. In 1950 werd hij uitgenodigd om een reliëf uit te voeren voor een centrum van de Harvard University in Cambridge, Massachusetts. Verder kreeg hij net alsKarel Appel opdracht voor een muurschildering in hetUNESCO-gebouw in Parijs. In 1954 won Arp de Grote Prijs voor de Sculptuur op deBiënnale van Venetië.
In 1958 werd een overzichtstentoonstelling gehouden van zijn werk in hetMuseum of Modern Art in New York, gevolgd door een tentoonstelling in het Parijse Musée National d'Art Moderne in 1962. Arp overleed in 1966.
De schilderstijl van Arp wordt gerekend tot hetdadaïsme ensurrealisme. Hij was een van de wegbereiders van deabstracte kunst, waarvan gezegd wordt dat hij het maakte met behulp van toeval en automatisme. Hij maakte organische vormen die gedaantes suggereren. Zijn gedichten maakte hij soms ook met behulp van het toeval. Hij knipte bijvoorbeeld zinnen in stukken, gooide ze op de grond en stelde daaruit willekeurig een gedicht samen.