درس محمد بوضياف تعليمه الابتدائي في مدرسة "شالون" بمدينة بوسعادة ثم اشتغل بمصالح تحصيل الضرائب بمدينة جيجل وخلال الحرب العالمية الثانية قاتل في صفوف القوات الفرنسية.
انضم إلى صفوف حزب الشعب الجزائري وبعدها أصبح عضوا في المنظمة السرية وفي أواخر عام 1947 كلف بتكوين خلية تابعة للمنظمة الخاصة في قسنطينة.
في 1950 حوكم غيابيا مرتين وصدر عليه حكم بثماني سنوات سجنا وتعرض للسجن في فرنسا مع عدد من رفاقه وفي عام 1953 أصبح عضوا في حركة انتصار الحريات الديمقراطية.

بعد عودته إلى الجزائر ساهم محمد بوضياف في تنظيم اللجنة الثورية للوحدة والعمل التي ترأسها وكانت تضم اثنين وعشرين عضوا وهي التي قامت بتفجير الثورة الجزائرية.
في 22 أكتوبر 1956 كان رفقة كل من أحمد بن بلة ومحمد خيضر ومحمد بوضياف والكاتب مصطفى الأشرف الذين كانوا على متن الطائرة المتوجهة من العاصمة المغربية الرباط إلى تونس والذين اختطفتهم السلطات الاستعمارية الفرنسية في الجو وقد عين عام 1961 نائب رئيس الحكومة المؤقتة للجمهورية الجزائرية.

بعد حصول الجزائر على استقلالها في 5 جويلية 1962 انتخب في سبتمبر من نفس العام في انتخابات المجلس التأسيسي عن دائرة سطيف  لكن ما لبثت أن حدثت خلافات بين القادة الجزائريين وكان موقف بوضياف أن مهمة جبهة التحرير الوطني قد انتهت بالحصول على الاستقلال وأنه يجب فتح المجال أمام التعددية السياسية.
في سبتمبر 1962 أسس محمد بوضياف حزب الثورة الاشتراكية وفي جوان 1963 تم توقيفه وحكم عليه بالإعدام بتهمة التآمر على أمن الدولة ولكن لم ينفذ فيه الحكم نظراً لتدخل عدد من الوسطاء ونظراً لسجله الوطني فتم إطلاق سراحه بعد ثلاثة شهور قضاها في أحد السجون بجنوب الجزائر انتقل بعد ذلك إلى باريس وسويسرا ومنها إلى المغرب.
من عام 1972 عاش متنقلا بين فرنسا والمغرب في إطار نشاطه السياسي إضافة إلى تنشيط مجلة الجريدة.

في عام 1979 وبعد وفاة الرئيس هواري بومدين قام بحل حزب الثورة الاشتراكية وتفرغ لأعماله الصناعية إذ كان يدير مصنعا للآجر بمدينة القنيطرة في المملكة المغربية.
بعد إيقاف المسار الانتخابي وإجبار الرئيس الشاذلي بن جديد على الاستقالة في جانفي 1992 استدعي إلى الجزائر من قبل الانقلابيين الذين لا يريدون أن يظهروا في مقدمة الركح وأرسل إليه صديقه علي هارون واقتنع بالعرض ليعود بعد 27 عاما من الغياب عن الساحة الجزائرية وعندما نزل بالجزائر صرح قائلا: "جئتكم اليوم لإنقاذكم وإنقاذ الجزائر وأستعد بكل ما أوتيت من قوة وصلاحية أن ألغي الفساد وأحارب الرشوة والمحسوبية وأهلها وأحقق العدالة الاجتماعية من خلال مساعدتكم ومساندتكم التي هي سرّ وجودي بينكم اليوم وغايتي التي تمنيّتها دائما".

وقع تنصيبه رئيسا للمجلس الأعلى للدولة في 16 جانفي 1992 لمجابهة الأزمة التي دخلتها البلاد غداة الانقلاب العسكري الذي آذن بدخول الجزائر في حرب أهلية.
وجد نفسه محاصرا من قبل كبار العسكريين وبينما كان يلقي خطابا بدار الثقافة بمدينة عنابة يوم 29 جوان من نفس العام رميت عليه قنبلة من قبل أحد حراسه المسمى مبارك بومعرافي وهو ملازم في القوات الخاصة الجزائرية.

ظلت ملابسات الاغتيال غامضة ويتهم فيها البعض المؤسسة العسكرية في البلاد نظراً لنية بوضياف مكافحة الفساد.
بعد أقل من أسبوع على اغتياله تشكلت لجنة تحقيق في تلك الجريمة السياسية يوم 4 جويلية لكنها لم تظهر إلا في مناسبة واحدة عندما عرضت شريطا يصور ما حدث لحظة الاغتيال ثم اختفت بعد ذلك. تم اتهام بومعرافي رسميا بالاغتيال واعتبر ذلك منه تصرفا فرديا معزولا وقدم للمحاكمة وحكم عليه بالإعدام لكنه لم ينفذ فيه.