В степях не было найдено никаких сарматских поселений, за исключением следов временных стоянок. Только на периферии сарматской территории в лесостепной зоне, в районе Самары и на Южном Урале, были найдены останки поселений с сарматскими находками. Люди, жившие в этих поселениях, занимались земледелием и происходили от сарматов, которые смешались с местным населением. Сами сарматы, как прирожденные кочевники, питали отвращение к земледелию, что хорошо описано у Страбона (VII, 4, 6).
Подобная же ситуация сложилась на западе Северного Кавказа и между Доном и северным побережьем Азовского моря. Страбон (XI, 2, 2, 1) пишет об аорсах и сираках, двух больших сарматских племенах того времени, и говорит, что среди них были как кочевники, так и земледельцы. То же самое относится и к более поздним аланам. Этот факт подтверждается результатами археологических исследований.
Согласно описаниям древних авторов, по своим обычаям и одежде сарматы почти не отличались от скифов: они тоже носили длинные штаны, сапоги из мягкой кожи и остроконечные или закругленные войлочные шапки (хотя некоторые обходились вообще без головного убора, как скифы). Тем не менее между ираноязычными кочевниками — скифами, сарматами и саками Центральной Азии — есть определенные различия. Они отчетливо видны, если сравнить изображения скифов на табличках, золотых и серебряных вазах и чеканке из богато украшенных мавзолеев с изображениями сарматов (на гробницах Пантикапея) и саков (на персидских барельефах). Археологические исследования выявили различия в материальной культуре, похоронных обрядах и типах погребений даже среди основных сарматских племен, чей образ жизни и известные нам обычаи и ритуалы были полностью идентичны. Как будет показано позднее, различия существовали даже среди групп внутри племени.
Страбон (VII, 4, 6) сообщает, что у роксоланов «юношей приучают ездить верхом с самого раннего возраста, а хождение пешком считается достойным презрения. Благодаря такой подготовке они вырастают в искусных воинов». Это можно с тем же успехом отнести и к другим сарматским племенам, что подтверждается данными раскопок детских могил, найденных в различных районах: во всех них было найдено оружие, из чего мы можем сделать вывод, что детей с раннего возраста учили им пользоваться. В этом отношении обычаи различных сарматских племен были одинаковы и не менялись веками. Согласно Аммиану Марцелину (IV век н. э.), «почти все аланы высоки ростом и красивы видом; свирепостью своих взглядов они внушают страх… Они находят удовольствие в войне и опасности».
Сарматы сражались как верхом, так и в пешем строю. Их вооружение состояло из короткого изогнутого лука, который на раннем этапе был их главным оружием; колчана, полного стрел; железного меча-акинака, который был длиннее скифского, достигая иногда 130 см в длину; реже — легкого копья или пики с железным наконечником и, совсем уж редко, боевого топора. Если мы опять обратимся к описанию роксоланов Страбона, то прочтем, что «они использовали шлемы и латы из сыромятной бычьей кожи, носили плетеные шиты, а в качестве оружия использовали копья, лук и меч». Также у них в ходу были лассо и пращи.
Сарматские методы ведения войны мало отличались от военной тактики скифов и других степных народов. В начальный период своей истории они нападали на врага большими группами всадников, которые в совершенстве владели искусством стрельбы из лука на всем скаку. Во II веке до н. э. вооружение сарматских племен полностью изменилось. Особенно это относится к роксоланам, которые к тому времени заняли ведущее положение среди сарматских племен Северного Причерноморья. Главным оружием стали тяжелые длинные копья с железными наконечниками и длинные мечи с деревянными ручками. Согласно Страбону, мечи были «огромных размеров, так что держать их приходилось обеими руками». Луки и стрелы к тому времени отошли на второй план. На воинах были доспехи из железных пластин, пришитых к толстой коже, и точно такие же доспехи защищали лошадей. Шлемы делались преимущественно из шкур. Поначалу такие доспехи были только у вождей.