В начале 20 в. были расшифрованы многочисленные математические тексты (клинописи) и другой из древнейших культур — вавилонской (см. Клинописные математические тексты ). Это открыло миру высоту математической культуры, существовавшей уже за 4000 лет до наших дней. Вавилоняне с помощью обширных специальных таблиц умели решать разнообразные задачи; некоторые из них равносильны решению квадратных уравнений и даже одного вида уравнения 3-й степени. Среди учёных, разрабатывающих историю математики, возник спор о том, в какой мере математику вавилонян можно считать А. Нельзя, однако, забывать, что древняя математика едина. Разделение произошло гораздо позднее.
В Древней Греции была отчётливо выделена геометрия. У древнегреческих геометров впервые сознательно поставлено исследование, каждый шаг которого оправдан логическим доказательством. Мощь этого метода так велика, что и чисто арифметические или алгебраические вопросы переводились на язык геометрии: величины трактовались как длины, произведение двух величин — как площадь прямоугольника и т. д. И в современном математическом языке сохранилось, например, название «квадрат» для произведения величины на самоё себя. Характерное для более древних культур единство научных знаний и практических приложений было в древнегреческой математике разорвано: геометрию считали логической дисциплиной, необходимой школой для философского ума, а всякого рода исчисления, т. е. вопросы арифметики и А., идеалистическая философия Платона не считала достойным предметом науки. Несомненно, эти отрасли также продолжали развиваться (на основе вавилонских и египетских традиций), но до нашего времени дошёл только трактат Диофанта Александрийского «Арифметика» (вероятно, 3 в.), в котором он уже довольно свободно оперирует с уравнениями 1-й и 2-й степеней; в зачаточной форме у него можно найти и употребление отрицательных чисел.
Наследие древнегреческой науки восприняли учёные средневекового Востока — Средней Азии, Месопотамии, Северной Африки. Международным научным языком служил для них арабский язык (подобно тому как для учёных средневекового Запада таким языком был латинский), поэтому этот период в истории математики иногда называют «арабским». В действительности же одним из крупнейших научных центров этого времени (9—15 вв.) была Средняя Азия. Среди многих примеров достаточно назвать деятельность узбекского математика и астронома 9 в., уроженца Хорезма Мухаммеда аль-Хорезми и великого учёного-энциклопедиста Бируни , создание в 15 в. обсерватории Улугбека в Самарканде, Учёные средневекового Востока передали Европе математику греков и индийцев в оригинальной переработке, причём особенно много они занимались именно А. Само слово «алгебра» — арабское (аль-джебр) и является началом названия одного из сочинений Хорезми (аль-джебр означало один из приёмов преобразования уравнений). Со времени Хорезми А. можно рассматривать как отдельную отрасль математики.
Математики средневекового Востока все действия излагали словами. Дальнейший прогресс А. стал возможным только после появления во всеобщем употреблении удобных символов для обозначения действий (см. Знаки математические ). Этот процесс шёл медленно и зигзагами, Выше упоминалось о знаке дроби у древних египтян. У Диофанта буква i (начало слова isos, т. е. равный) применялась как знак равенства, были подобные сокращения и у индийцев (5—7 вв.), но затем эта зарождавшаяся символика снова терялась. Дальнейшее развитие А. принадлежит итальянцам, перенявшим в 12 в. математику средневекового Востока. Леонардо Пизанский (13 в.) — наиболее выдающийся математик этой эпохи, занимавшийся алгебраическими проблемами. Постепенно алгебраические методы проникают в вычислительную практику, в первое время ожесточённо конкурируя с арифметическими. Приспособляясь к практике, итальянские учёные вновь переходят к удобным сокращениям, например вместо слов «плюс» и «минус» стали употреблять латинские буквы p и t с особой чёрточкой сверху. В конце 15 в. в математических сочинениях появляются принятые теперь знаки + и —, причём есть указания, что эти знаки задолго до этого употреблялись в торговой практике для обозначения избытка и недостатка в весе.
Быстро следует введение и всеобщее признание остальных знаков (степени, корня, скобок и т. д.). К середине 17 в. полностью сложился аппарат символов современной А. — употребление букв для обозначения не только искомого неизвестного, но и всех вообще входящих в задачу величин. До этой реформы, окончательно закрепленной Ф. Виетом (конец 16 в.), в А. и арифметике как бы нет общих правил и доказательств; рассматриваются исключительно численные примеры. Почти невозможно было высказать какие-либо общие суждения. Даже элементарные учебники этого времени очень трудны, т. к. дают десятки частных правил вместо одного общего, Виет первый начал писать свои задачи в общем виде, обозначая неизвестные величины гласными А, Е, I, ..., а известные — согласными В, С, D, .... Эти буквы он соединяет введёнными уже в то время знаками математических операций. Т. о. впервые возникают буквально формулы, столь характерные для современной А. Начиная с Р. Декарта (17 в.) для неизвестных употребляют преимущественно последние буквы алфавита (х, у, z ).
Введение символических обозначений и операций над буквами, заменяющими какие угодно конкретные числа, имело исключительно важное значение. Без этого орудия — языка формул — были бы немыслимы блестящее развитие высшей математики начиная с 17 в., создание математического анализа, математического выражения законов механики и физики и т. д.
Содержание А. охватывало во время Диофанта уравнения 1-й и 2-й степеней. К уравнениям 2-й степени (т. н. квадратным) древнегреческие математики пришли, по-видимому, геометрическим путём, т. к. задачи, приводящие к этим уравнениям, естественно, возникают при определении площадей и построении окружности по различным данным. Однако в одном, очень существенном отношении решение уравнений у древних математиков отличалось от современного: они не употребляли отрицательных чисел. Поэтому даже уравнение 1-й степени (с точки зрения древних)не всегда имело решение. При рассмотрении уравнений 2-й степени приходилось различать много частных случаев (по знакам коэффициентов). Решающий шаг — применение отрицательных чисел — был сделан индийскими математиками (10 в.), но ученые средневекового Востока не пошли по этому пути. С отрицательными числами свыклись постепенно; этому особенно способствовали коммерческие вычисления, в которых отрицательные числа имеют наглядный смысл убытка, расхода, недостатка и т. д. Окончательно же отрицательные числа были приняты только в 17 в., после того как Декарт воспользовался их наглядным геометрическим представлением для построения аналитической геометрии.