愛媛県宇和島市生まれ、福岡県福岡市在住。愛媛県立宇和島東高等学校、九州大学農学部農政経済学科卒業。同大学院修士課程を経て、博士課程中退。父は宇和島市役所の職員で観光課の仕事が長かった。多趣味の父に連れられ休日は山歩きや魚釣りなど自然の中で遊ぶ少年時代を送る。高校2年の時に脳腫瘍の疑いで倒れたことがあり、この頃触れた万葉集の解説書が文学を目指した原点だという。

高樹のぶ子も所属していた福岡の文芸同人誌『らむぷ』で活動。大学院在学中の1986年、『気配』で文学界新人賞を受賞しデビュー。しかしその後1995年の『きみの知らないところで世界は動く』まで作品が単行本化されない不遇の時期を過ごす。

代表作は、故郷の宇和島市を舞台にした『世界の中心で、愛をさけぶ』。2001年4月に出版され、2004年5月には発行部数が国内単行本最多記録の306万部となった。

また2012年1月25日発売の大石昌良のアルバム『31 マイスクリーム』では、片山自身初の作詞を手がけた。