Внешне мицелий разных грибов сходен, однако по строению существенно отличается у разных их групп. У более примитивных грибов он неклеточный (ценоцитный). Такой мицелий представляет собой как бы одну гигантскую клетку с огромным числом ядер. Иногда в нем образуются перегородки, отделяющие поврежденные его участки и органы размножения. Ценоцитный мицелий известен у многих водных (сапролегнии и др.) и наземных грибов (мукора, ризопуса и др.).
У более высокоорганизованных грибов, которые часто называют высшими, мицелий имеет характерное строение — разделен перегородками на отдельные клетки, содержащие от одного до нескольких (их может быть много) ядер. Перегородка (септа) у этих грибов развивается от стенки гифы к ее центру (центрипетально), напоминая закрывающуюся ирисовую диафрагму у фотоаппарата, а в центре ее всегда остается отверстие — пора. Это очень важно для функционирования мицелия, так как поры обеспечивают перемещение в клеточном мицелии веществ и даже клеточных органелл.
У некоторых грибов, например дрожжей, мицелий отсутствует, а их вегетативное тело представлено одиночными почкующимися или делящимися клетками. Образование дрожжеподобной фазы наблюдается иногда и у мицелиальных грибов, поэтому предполагают, что такой тип вегетативного тела у грибов — это адаптация к обитанию в определенных условиях, например в сахаристых жидкостях: истечениях, деревьев, соке плодов и т. д.
В процессе эволюции грибов мицелий появился не сразу. У наиболее примитивных из ныне живущих грибов сохранилось вегетативное тело в виде голого протопласта, лишенного собственной клеточной стенки и развивающегося внутри клетки хозяина. Вероятно, в далеком прошлом, на заре происхождения грибов организмы с таким вегетативным телом были и свободноживущими, однако сейчас оно сохранилось только у внутриклеточных паразитов. Некоторые микологи считают его вторично упрощенным в связи с внутриклеточным паразитизмом. Такое вегетативное тело обычно недолговечно, через несколько дней оно превращается в зооспорангий с подвижными спорами, которые снова заражают подходящего хозяина.
В эволюционном отношении одноклеточное вегетативное тело у грибов — осмотрофных организмов — оказалось малоперспективным. Его рост не может происходить неограниченно, так как по мере увеличения размеров клетки ее объем возрастает значительно быстрее, чем поверхность, а это затрудняет обмен веществ с окружающей средой. Кроме того, развитие одноклеточных организмов ограничено небольшим пространством, обычно одной клеткой хозяина, поэтому их существование кратковременно и завершается после исчерпания питания, которое может дать одна клетка. Поэтому в процессе эволюции грибов увеличение размеров их вехетативного тела пошло по пути образования нитчатых — мицелиальных форм. В этом случае поверхность тела и его объем увеличиваются параллельно и становится возможным практически неограниченный рост и наиболее эффективное использование субстрата организмом. Образование нитчатых форм имеет, таким образом, большие преимущества и наблюдается не только у грибов, но и у других групп организмов — водорослей и актиномицетов.
Хорошо развитый мицелий появляется у грибов, уже достаточно высокоразвитых.
А первичный мицелий, существующий и у некоторых современных грибов, это, вероятно, зачаточный мицелий, или ризомицелий, он лишен собственных ядер и не может развиваться самостоятельно и регенерировать, как настоящий. Однако он уже обеспечивает, пусть еще очень примитивную, дифференциацию вегетативного тела и возможность существования части ею вне питающего субстрата: в субстрат проникает только ризомицелий, который выполняет некоторые функции мицелия — прикрепление к субстрату, поглощение питательных веществ и транспортировку их в основную часть тела.
Преимущества мицелия несомненны: он способен распространяться на большие расстояния и захватывать большие участки субстрата, особенно у грибов с большой скоростью роста или с многолетним мицелием. Имея максимально возможную поверхность по отношению к объему, он представляет оптимальную структуру для осмотрофных организмов. Мицелий, кроме того, дает большие возможности для дифференциации тела грибов, что особенно важно в наземных условиях существования, где они подвергаются многочисленным неблагоприятным воздействиям внешней среды — сильной инсоляции, влиянию сухого воздуха и т. п. Очень часто мы встречаем дифференциацию мицелия на две функционально различные части: субстратный мицелий, служащий для прикрепления к субстрату, его заселения, поглощения и транспортировки питательных веществ и воды, и воздушный мицелий, поднимающийся над субстратом и образующий органы размножения. Наконец, мицелий дает грибам необыкновенно широкие морфогенетические (формообразовательные) возможности. На его основе у грибов возникают многочисленные приспособления, связанные с условиями их обитания и образом жизни. Это и образование различных видоизменений мицелия, и таких сложных структур, как плодовые тела, нередко, как мы уже видели, достигающих крупных размеров и сложного строения. Все эти структуры образуются у грибов только из мицелия, так как настоящие ткани, образующиеся в результате деления клеток в трех взаимно перпендикулярных направлениях, встречаются у грибов крайне редко, а их функции выполняют так называемые ложные ткани, или плектенхимы, представляющие собой переплетения гиф.