В феврале 1943 года Гиммлер приказ начать набор добровольцев из числа боснийских мусульман и сформировать из них 13-ю горно-егерскую дивизию Войск СС «Хандшар». Надо отметить, такая политика рейхсфюрера вызвала серьезную обеспокоенность руководства Независимого Государства Хорватия (НГХ). Пришедшие к власти в Хорватии националисты из партии «Усташа» («Восстание») еще в 1941 году объявили боснийских мусульман частью хорватской нации (т. н. «кара-хорваты»). Заместителем председателя правительства НГХ назначался исключительно мусульманин, который должен был представлять на этом посту интересы всех хорватских мусульман. Действительно, в этническом плане хорваты, боснийцы и сербы принадлежат к одному народу и отличаются только принадлежностью к разным вероисповеданиям (католичеству, исламу и православию соответственно). Тем не менее сербы «не удостоились чести» быть причисленным к гражданам нового государства.
Руководитель Хорватии Анте Павелич посчитал, что политика Гиммлера направлена на поощрение мусульманского сепаратизма и дестабилизацию обстановки в НГХ. Отчасти это мнение подтвердилось — были зафиксированы случаи дезертирства мусульман из рядов хорватских вооруженных сил (1/3 личного состава которых исповедывала ислам) с целью попасть в «свою» дивизию. Все протесты Павелича Гиммлер, однако, оставил без внимания.
Дивизия «Хандшар» была сформирована к июлю 1943 года. Военнослужащих дивизии отличал оригинальный головной убор — феска с германским орлом и «Мертвой головой», нарукавные нашивки с хорватской «шашечницей» и петлицы со свастикой и рукой, сжимающей кривой кинжал. К слову, один из батальонов соединения был полностью укомплектован косовскими албанцами. Одно время Гиммлер вынашивал идею перевести в «Хандшар» всех мусульман из Индийского легиона вермахта. Но начальник Главного управления СС Готлоб Бергер предупредил его, что индийские мусульмане осознают себя в первую очередь индийцами, а боснийские мусульмане — европейцами, и плодотворного сотрудничества у них не получится. Гиммлер согласился с этими аргументами485.
Еще одним боснийско-мусульманским соединением Войск СС стала 23-я горно-егерская дивизия «Кама», созданная 17 июня 1944 года. А еще в апреле того же года Гиммлер отдал приказ о формировании 21-й горно-егерской дивизии Войск СС «Скандербег», состоящей из албанских добровольцев. Все три соединения балканских мусульман предполагалось использовать в горной местности против югославских партизан Й.Б. Тито.
В идеологической подготовке личного состава этих дивизий важную роль играло религиозное воспитание (сами наименования «Хандшар» и «Кама» имели религиозный оттенок — это названия холодного оружия, использовавшегося турками в период завоевания ими Балкан). После организации дивизий в каждом батальоне имелась должность имама, а в каждой роте — муллы. Военнослужащие получили и привилегии, связанные с постами и отправлением мусульманских обрядов. Большую роль в деле вербовки добровольцев-мусульман сыграл пронацистски настроенный великий муфтий Иерусалима Хаджи Мухаммед Амин аль-Хуссейни.
Надо сказать, что три указанные мусульманские дивизии Войск СС совершенно не оправдали возлагавшихся на них надежд. Историк Ник Уорвол отмечает, что мусульмане «откровенно мытарились в тренировочных лагерях во Франции, стоически противостояли усилиям привить им элементарные навыки гигиены и воинской дисциплины. Потребовались жесткие репрессии с немецкой стороны и вмешательство муфтия, чтобы хоть немного привести их в чувство»486. В 1944 году Гиммлер так говорил о солдатах-мусульманах: «Мои инструкторы приложили немало усилий, чтобы выбить из них природную лень и тупость, а также отучить от патологического воровства»487. В этих дивизиях был высокий уровень дезертирства и «разложенческих настроений», к тому же титовские партизаны сумели внедрить в соединения своих агентов. «Хандшар», «Кама» и «Скандербег» практически не принимали участия в боевых действиях и были расформированы.
На оккупированных советских территориях также были попытки сформировать под эгидой СС мусульманские части. С декабря 1943 года инициатива по созданию мусульманских формирований из граждан СССР перешла из ведения вермахта к руководству СС. 4 января 1944 года Гиммлером было принято решение создать 1-й Восточно-мусульманский полк СС (с перспективой переформирования в дивизию СС «Новый Туркестан»). К октябрю удалось набрать только 4 тысячи человек, которые были объединены в три батальона. Кадровый состав был объединен по национальному признаку (туркестанский, азербайджанский, волжско-татарский батальоны по 6 рот в каждом). В итоге было создано Восточно-тюркское соединение СС. К концу 1944 — началу 1945 года было организовано также Кавказское соединение СС, насчитывавшее всего лишь 2400 человек.