После окончания войны Судного дня 1973 года Саламе был назначен Арафатом на пост руководителя «Отряда» и главы службы внутренней безопасности ФАТХ. Он непосредственно отвечал за охрану первых лиц ООП и возглавлял личную охрану Арафата. Существуют также неопровержимые данные о том, что Саламе долгие годы являлся двойным агентом ЦРУ, чем-то вроде подпольного канала связи между Белым домом и Арафатом.
Саламе любил красивую жизнь, шикарные автомобили и красивых женщин. У него были две жены и два дома в Бейруте. Его вторая жена, ливанка Джорджия Ризак, получила в свое время титул Мисс Вселенная. В перерывах между «работой» он прожигал жизнь в бейрутских ночных клубах, где проводил время с многочисленными любовницами.
После трагических событий сентября 1970 года Саламе стал одним из инициаторов создания боевого крыла ФАТХ получившего название «Айлул эль-Асвуад» («Черный сентябрь»). Именно Саламе планировал и разрабатывал почти все террористические операции «Черного сентября».
Первые террористические акции «Черного сентября» были направлены в первую очередь против иорданских дипломатов и политической элиты. Впервые «Черный оентябрь» громко заявил о себе 28 ноября 1971 года, когда боевики организации совершили удачное покушение на жизнь иорданского премьер-министра Васфи ат-Таля.
Спустя, чуть более двух недель, 15 декабря 1971 года мишенью «Черного сентября» стал посол Иордании в Великобритании Заид аль-Рифаи. Его машина была обстреляна с близкого расстояния двумя палестинцами. К счастью, Заид аль-Рифаи остался в живых, получив лишь легкое ранение.
8 мая 1972 года воздушные пираты из «Черного сентября» захватили бельгийский авиалайнер компании «Сабена» Благодаря действиям израильского спецназа, боевиков удалось быстро обезвредить, избежав жертв среди заложников.
Однако наибольшую известность «Черный сентябрь» получил в результате кровавой бойни, учиненной во время XX Летней Олимпиады в Мюнхене. День 5 сентября 1972 года можно считать кульминацией террористической деятельности «Черного сентября». Мюнхенская трагедия явилась плодом «коллективного творчества» нескольких террористических организаций. При подготовке операции Саламе использовал инфраструктуру европейского терроризма, в частности помощь западногерманской левоанархистекой террористической организации РАФ.
Зная, что в Олимпийских играх примет участие команда Израиля, Саламе приступил к тщательной разработке плана захвата израильских спортсменов. В середине лета 1972 года двое палестинцев через Болгарию, Югославию и Венгрию тайно провезли оружие, предназначавшееся боевикам «Черного сентября». В машинах с двойным дном они доставили в Мюнхен восемь автоматов Калашникова, несколько пистолетов и большое количество осколочных гранат. В конце августа в Мюнхен из Италии и Болгарии прибыли две группы боевиков «Черного сентября», по четыре человека в каждой. Одной из групп командовал террорист, известный под кличкой Исса, второй группой руководил его заместитель по кличке Тони. Подлинные имена террористов оставались неизвестными, в Западную Германию они прибыли по фальшивым паспортам. Целью террористов было пробраться на территорию Олимпийской деревни и захватить олимпийскую сборную Израиля.
Для начала террористы установили круглосуточное слежение за Олимпийской деревней. Под пристальное наблюдение были взяты не только подходы к деревне и система ее охраны, но и работа городского общественного транспорта и деятельность местной (баварской) полиции. Очень скоро террористы обладали исчерпывающей информацией о жизни Олимпийской деревни и прилегающих территорий. Израильская сборная разместилась в трехэтажном корпусе, вход в который находился в восточной, плохо освещенной части деревни. Здание опоясывала двухметровая ограда, преодолеть которую террористы могли быстро и без труда.
Изучив полученную информацию, Али Хасан Саламе отдал приказ о начале операции. Захват израильской сборной было решено провести в ночь с 4 на 5 сентября. В 3.20 утра недалеко от Конноли-штрассе остановился микроавтобус, из которого быстро выскочили восемь человек с большими сумками и спортивными рюкзаками за плечами. Перебравшись через металлическую сетку, террористы обогнули здание и вбежали в первый подъезд. Примерно в 3.40 террористы ворвались в комнату, застав врасплох спящих израильтян. Дав автоматную очередь террористы заставили спортсменов лечь на пол лицом вниз, чтобы сделать невозможным какое-либо сопротивление. То же произошло и в другом конце корпуса. Исса предупредил израильтян, что их будут расстреливать при малейшем неповиновении.