W czasie II wojny światowej był żołnierzem Szarych Szeregów, jako łącznik brał udział w Powstaniu Warszawskim. W latach 1946-1947 działał w młodzieżowym kole Polskiego Stronnictwa Ludowego Stanisława Mikołaczyka.
W 1953 r. ukończył wydział prawa Uniwersytetu Warszawskiego.
W latach 1956-1957 był członkiem zespołu redakcyjnego tygodnika „Po prostu”, w swoich artykułach wskazywał nadużycia w sądownictwie i wymiarze sprawiedliwości. W latach 1956-1962 należał do klubu Krzywego Koła.
W latach 60. był obrońcą w procesach politycznych m.in. Melchiora Wańkowicza, Jacka Kuronia i Karola Modzelewskiego, Adama Michnika. W związku z obroną studentów po wydarzeniach marca 1968 został zawieszony w prawie do wykonywania zawodu. W 1970 powrócił do pracy i ponownie podjął się obron politycznych, tym razem działaczy niepodległościowej organizacji RUCH.
Był inicjatorem i współautorem „Listu 59” do Sejmu zawierającego protest przeciwko projektowanym zmianom w Konstytucji PRL. W styczniu 1976 r. był sygnatariuszem „Listu 14” przeciwko wprowadzeniu do konstytucji zapisu o nienaruszalności sojuszu z ZSRR oraz oświadczenia z 1976 r, w którym intelektualiści wyrazili solidarność z protestującymi w Radomiu robotnikami.
W 1976 był współzałożycielem Polskiego Porozumienia Niepodległościowego. Uczestniczył również w zakładaniu Komitetu Obrony Robotników. W 1980 włączył się w organizowanie niezależnego związku zawodowego w Warszawie. Był doradcą Krajowej Komisji Porozumiewawczej, Niezależnego Samorządnego Związku Zawodowego „Solidarność” oraz zarządu Regionu Mazowsze. Był też jednym z autorów pierwszego statutu „Solidarności”. W grudniu 1980 współtworzył Komitet Obrony Więzionych za Przekonania. Po wprowadzeniu stanu wojennego z ramienia sekretarza episkopatu – abp. Bronisława Dąbrowskiego prowadził rozmowy z przedstawicielami władzy w sprawie zwolnienia z więzień i obozów internowania osób chorych. Brał udział w procesach organizatorów strajków i podziemnych wydawców. Był obrońcą m.in. Lecha Wałęsy, Zbigniewa Romaszewskiego, Zbigniewa Bujaka. Wiosną 1983 był inicjatorem wspólnego oświadczenia podziemnego NSZZ „Solidarność”, związków branżowych i autonomicznych, zawierającego protest przeciwko delegalizacji wszystkich związków zawodowych w Polsce. Został wówczas zatrzymany na 48 godzin, po czym – prosto z aresztu – pojawił się na sali sądowej jako obrońca w procesie podziemnego Międzyzakładowego Robotniczego Komitetu „Solidarności”.
W procesie zabójców ks. Jerzego Popiełuszki występował z upoważnienia prymasa Józefa Glempa jako oskarżyciel posiłkowy oraz jako pełnomocnik rodziny księdza. W mowie końcowej adw. Olszewski mówił: „Nad tą salą ciąży żądanie urzędu prokuratorskiego orzeczenia najwyższej, wyjątkowej w naszym ustawodawstwie kary – kary śmierci. Jako oskarżyciel posiłkowy nie mam uprawnień do wypowiadania się w tej kwestii. Ale zdaję sobie sprawę, że ten, który był ofiarą tej zbrodni, byłby temu żądaniu przeciwny”.
W 1988 r. w związku z planowanymi rozmowami Okrągłego Stołu współtworzył Komitet Obywatelski przy przewodniczącym NSZZ „Solidarność”. Podejmował działania wyjaśniające okoliczności zabójstw z 1989 księży Stefana Niedzielaka, Stanisława Suchowolca i Sylwestra Zycha.
Był uczestnikiem obrad Okrągłego Stołu. Pracował w podzespole ds. reformy prawa i sądów. W 1989 r. został członkiem Niezależnego Komitetu Historycznego Badania Zbrodni Katyńskiej. Rok później był współzałożycielem i fundatorem Polskiej Fundacji Katyńskiej.
Od 1990 r. należał do Porozumienia Centrum. Wspierał w wyborach prezydenckich Lecha Wałęsę. Został członkiem Komitetu Doradczego przy Prezydencie RP Lechu Wałęsie.
Startował w wyborach parlamentarnych w 1991 r. uzyskał mandat posła na Sejm I kadencji z listy Porozumienia Obywatelskiego Centrum.
6 grudnia 1991 r. został prezesem rady ministrów. W związku z działaniami ministra spraw wewnętrznych Antoniego Macierewicza dotyczącymi wykonywania lustracyjnej uchwały Sejmu i sporządzenia „listy Macierewicza”, 5 czerwca 1992 Sejm wyraził wotum nieufności wobec rządu Olszewskiego.
W 1992 wystąpił z Porozumienia Centrum i założył Ruch dla Rzeczypospolitej. W 1995 założył partę Ruch Odbudowy Polski. Ponownie został posłem na Sejm w 1997 r. i w 2001 r.
Kilkukrotnie startował na urząd prezydenta RP.
W latach 2005-2006 był zastępcą przewodniczącego Trybunału Stanu. Od 2006 r. był doradcą prezydenta RP Lecha Kaczyńskiego ds. politycznych. W 2007 r. objął stanowisko szefa komisji weryfikacyjnej Wojskowych Służb Informacyjnych.
Był kawalerem Orderu Orła Białego oraz honorowym obywatelem m.st. Warszawy. W 1993 r. otrzymał odznakę Adwokatura Zasłużonym.
Pogrzeb odbędzie się w sobotę 16.02.2019 w Warszawie. Pochówek będzie miał miejsce na Powązkach Wojskowych.