استخدم الصينيون والفرس والهنود الجبر قبل آلاف السنين، ومن المحتمل أيضا أن يكون البابليون قد عرفوا شيئًا من الجبر. وأول دليل على استخدام الجبر يعود للرياضي المصري أحمس الذي عاش نحو عام 170IMG ق.م، أو قبل ذلك. وبعد ذلك بقرون طويلة ساهم الإغريق في تطور الجبر، حيث استخدم الرياضي الإغريقي ديوفانتوس الذي عاش في القرن الثالث الميلادي معادلات الدرجة الثانية ورموزاً لكميات غير معلومة. ولقد أطلق على ديوفانتوس لقب أبي الجبر.

لقد كان للعرب مساهمة كبيرة في تطور الجبر، حيث استخدموا الإشارات الموجبة والسالبة، وطوروا الكسور بصورة مقاربة جداً لما هي عليه الآن. فقد اخترع العرب الصفر في القرن التاسع الميلادي، ويعتبر ذلك من أعظـم التطورات في تاريخ الرياضيات. وبين عامي 813 و 833م جمع العالم الرياضي الخوارزمي الذي كان مدرساً للرياضيات في بغداد أعمال الرياضيين الهنود والعرب في مادة الجبر وطورها. وقد أخذت كلمة الجبر التي تعني التعويض بمفهوم حل المعادلات من عنوان كتاب الخوارزمي المشهور الجبر والمقابلة. وقدم الخوارزمي في هذا الكتاب حلولاً هندسية وجبرية لمسائل طرحها الإغريق، وقد قصد الخوارزمي بالجبر ¸نقل الحدود من أحد طرفي المعادلة إلى الطرف الآخر، وقصد بالمقابلة اختصار ما يمكن اختصاره بعد عملية الجبر ثم إيجاد نتيجة المعادلة·. وقد أطلق على المجهول س اسم الجذر وعلى س² اسم مال وعلى س§ اسم كعاب وعلى س4 مال المال.
وقد كتب عمر الخيام الشاعر والعالم الفلكي الفارسي الذي عاش في الفترة بين 1050 م و 1123 م كتاباً في الجبر.
وخلال العصور الوسطى كان التقدم في الجبر بطيئاً. وبدأ اهتمام الأوروبيين بالجبر في القرن السادس عشر الميلادي حين بدأ العلماء يقتنعون بأهميته. وقد ساهم بعد ذلك كثير من علماء الرياضيات في تطور الجبر.

ونتج عن اكتشاف الحاسوب تغيرات مهمة في دراسة واستخدامات الجبر؛ لأنّ بإمكان برامج الحاسوب القيام بمعظم خطوات حل المسائل الجبرية. فمثلا نستطيع استخدام هذه البرامج لحل المعادلات الخطية ومعادلات الدرجة الثانية بسهولة تامة. ونتيجة لذلك فمن المتوقع أن يتغبر أسلوب تدريس مادة الجبر؛ فبدلاً من تدريس المهارات الأساسية التي تساعد على حل المسألة الجبرية فمن الممكن التركيز على مفاهيم مادة الجبر.