Вскоре для команды настали трудные времена. «Канониры» постепенно превращались в посредственную команду, для которой попадание в пятерку становилось великим и редким счастьем. 05.05.1966 домашний поединок «Арсенала» с «Лидсом» посетили всего 4544 зрителя, а финишировала команда на 14-м месте, в четырёх очках от зоны вылета.
Летом 1966 года, когда уже появились болельщики, которые о победах «Арсенала» могли знать только от старших товарищей, менеджером клуба был назначен 46-летний физиотерапевт команды Берти Ми, который имел неоспоримый авторитет среди игроков. В сезоне 1967/1968 «Арсенал» дошел до финала Кубка Английской лиги, но со счетом 0:1 проиграл «Лидсу». В следующем году «канониры» могли со второй попытки завоевать этот трофей, но вновь проиграли – на сей раз с позором, клубу третьего дивизиона «Суиндон Таун» (1:3).
При Ми, которому помогали Дэйв Секстон и Дон Хоу, стиль игры «Арсенала» не возывал восхищения эстетов, но команда брала игрой по принципу «один за всех и все за одного». Ядро «Арсенал» тогда составляли Боб Уилсон (по профессии этот голкипер был школьным учителем), Фрэнк Маклинток, Терри Нил, Питер Симпсон, Пат Райс, Питер Стори, Джордж Грэм, Джордж Армстронг, Чарли Джордж, Рэй Кеннеди, Джон Рэдфорд.
Весной 1970 года «Арсенал» пробился в финал Кубка ярмарок (в полуфинале был повержен набиравший силы «Аякс» – 3:0, 0:1), где по итогам двух матчей переиграл бельгийский «Андерлехт». 22 апреля в Брюсселе англичане проиграли хозяевам поля со счетом 1:3 (лишь незадолго до финального свистка вышедший на замену Рэй Кеннеди размочил счёт), после чего мало кто верил в успех «канониров».
Однако, в ответном матче 28 апреля футболисты «Арсенала» показали такой настрой на победу, такую жажду борьбы и самоотверженность, что смогли трижды поразить ворота Жан-Мари Траппонье, сохранив при этом свои в неприкосновенности. В первом тайме отличился молодой полузащитник Эдди Келли, а во втором тайме, в течение минуты Рэдфорд и Сэммелс забили два эффектных гола. Так «Арсенал» добыл свой первый трофей с 1953 года.
За победителей в финальных матчах играли: Боб Уилсон, Питер Стори, Боб Макнаб, Эдди Келли, Фрэнк Маклинток (капитан), Питер Симпсон, Джордж Армстронг, Джон Сэммелс, Джон Рэдфорд, Чарли Джордж, Джордж Грэм, Рэй Кеннеди.
В сезоне 1970/1971 «Арсенал» впервые стал лучшей командой Англии в двух основных номинациях – выиграл и чемпионат, и Кубок ФА. До этого, единственным клубом, сделавшим в XX веке золотой «дубль», был «Тоттенхэм Хотспур» в сезоне 1960/1961. В чемпионате «Арсенал» одержал 29 побед, 6 проиграл и 7 свел к ничейному результату. 71 мяч был забит и только 29 пропущено. В итоге «канониры» на одно очко смогли опередить «Лидс Юнайтед».
В финале Кубка Англии «Арсенал» 08.05.1971 встречался на «Уэмбли» с «Ливерпулем». Основное время матча победителя не выявило – 0:0. В овертайме Стив Хейвэй из «Ливерпуля» открыл счет, но через десять минуь Эдди Келли смог сравнять результат, а на 111-й минуте Чарли Джордж забил победный гол, навечно вписав свое имя в историю клуба.
В составе победителей в тот день играли: Боб Уилсон, Пат Райс, Боб Макнаб, Питер Стори (Эдди Келли), Фрэнк Маклинток, Питер Симпсон, Джордж Армстронг, Джордж Грэм, Джон Рэдфорд, Рэй Кеннеди, Чарли Джордж.
В чемпионате показатели «канониров» были такими: Боб Уилсон (42 матча), Джордж Армстронг (42 матча, 7 голов), Чарли Джордж (17/5), Джордж Грэм (38/11), Эдди Келли (23/4), Рэй Кеннеди (41/19), Фрэнк Маклинток (42/5), Джон Рэдфорд (41/15), Пат Райс (41), Питер Стори (40/2), Боб Макнаб (40), Питер Симпсон (25), Джон Робертс (18), Джон Сэммелс (15/1), Сэмми Нельсон (4), Питер Маринелло (3).
В следующем году «Арсенал» мог повторить свой кубковый успех, но в финале Кубка Англии со счетом 1:0 проиграл «Лидсу». Не помог «канонирам» и чемпион мира 1966 года Алан Болл, приобретенный у «Эвертона» за рекордные 220 тысяч фунтов. В сезоне 1972/1973 «Арсенал», потерявший в декабре 1972 года Джорджа Грэма, перешедшего в «Манчестер Юнайтед», боролся за чемпионство, но в итоге уступил три очка «Ливерпулю» и стал только вторым. Это был один из последних успехов команды Берти Ми, который летом 1976 подал в отставку. Его место занял 34-летний Терри Нил – самый юный менеджер в истории «Арсенала». Именно Нил дал дорогу талантливой молодёжи: Лиаму Брейди, Дэвиду О’Лири, Фрэнку Стэплтону, купил Пата Дженнингса, Малкольма Макдональда, Алана Хадсона, Уилли Янга и др.
В 1978 году «Арсенал» сумел дойти до финала Кубка Англии, где уступил «Ипсвич Тауну» со счетом 0:1. После этого «канониры» еще дважды выходили в финал Кубка ФА, став третьим в истории клубом после «Уондерерса» (1876–1878) и «Блэкберн Роверса» (1884–1886), а также первым в истории «Уэмбли» участником трех подряд решающих поединков за Кубок Англии. Но лишь раз, в 1979 году, «канониры» обыграли «Манчестер Юнайтед» со счетом 3:2 и стали обладателями заветного трофея.