Арье Сегельсон родился в 1923 году в Литве. После захвата нацистами Прибалтики Арье оказался в еврейском гетто в Ковне (Каунас), а затем попал в концентрационный лагерь Дахау, но чудом выжил. Удалось спастись также его отцу и брату.

В 1946 году он репатриировался в Израиль, а сразу же после провозглашения независимости государства мобилизовался в Армию обороны Израиля (ЦАХАЛ).

В ходе Войны за независимость погиб его родной брат Эльханан. В 1957 году Арье Сегельсон завершил учебу на юридическом факультете Тель-Авивского университета, а затем 14 лет занимался частной юридической практикой.

С 1972 по 1981 год работал судьей в мировом суде Нетании, а затем перевелся в окружной суд Тель-Авива. На пенсию ушел в 1993 году.

На протяжении всей своей карьеры Сегельсона называли выдающимся юристом. В частности, несколько судей с ним во главе вынесли вердикт Махмуду Халаби из Газы, который в 1989 году убил семерых евреев из Газы, — семь пожизненных заключений и еще 40 лет тюрьмы.

"Неужели не пришло время выносить смертные приговоры? — написал в тексте вердикта Арье Сегельсон. — Если бы это было в моих силах и это допускал бы закон, то я не колеблясь и не задумываясь вынес бы обвиняемому именно такой приговор".

В 1988 году он единолично вынес самый суровый на тот момент приговор камнеметателю, атаковавшему проезжавшие мимо автомобили в районе Ришон ле-Циона. Судья отправил 16-летнего подростка из Рафиаха на полтора года в тюрьму.

Он также в свое время не колеблясь вынес приговор депутату Кнессета от партии ШАС Яиру Леви. При этом он был другом бывшего спикера Кнессета Дова Шиланского, с которым прошел через нацистские концлагеря.

Зять Сегельсона, мэр Рамле Йоэль Леви, называл его "человеком-легендой".