Lise eğitimini Robert Kolej’de, lisans derecesini Newcastle-upon-Tyne Üniversitesi’nde (İngiltere, 1965), doktora derecesini Matematik dalında Frankfurt Üniversitesi’nde 1968 yılında aldı. Daha önce çalıştığı üniversiteler Wuppertal Üniversitesi, Michigan Üniversitesi ve ODTÜ’dür. Michigan Üniversitesi ve Wuppertal Üniversitesi’nde araştırmacı olarak bulundu.
1992-1997 yılları arasında TÜBİTAK Başkanlığı, 1993-1997 yıllarında NATO Bilim Komitesi Türkiye temsilciliği, 1996-1997 yıllarında Bilimsel ve Teknik Araştırma Vakfı Yönetim Kurulu Başkanlığı yaptı. 1997 yılından beri TÜBİTAK Marmara Araştırma Merkezi Yönetim Kurulu Başkanlığı’nı ve 1989 yılından itibaren Türk Matematik Derneği Başkanlığı’nı yapmaktadır. TÜBİTAK Bilim Ödülü sahibidir. Araştırma alanı fonksiyonel analizdir. Türkiye Bilimler Akademisi, Türk Matematik Derneği, TESEV, Türkiye Bilişim Vakfı, Tarih Vakfı, Bilimsel ve Teknik Araştırmalar Vakfı, BITAV ve Türkiye Zeka Vakfı üyesidir.
Babası Nazım Terzioğlu’da matematikçidir.
Tosun Terzioğlu 24 Şubat 2016 tarihinde hayatını kaybetmiştir.