Свої перші роки після заснування «Арсенал» провів без тренера. Офіційно першим головним тренером вважається Томас Мітчелл. який зайняв свій пост в 1897 році. Хоча до цього з 1894 року тренером команди був Сем Холліс, він не вважається повноцінним головним тренером, так як займався лише фізичною підготовкою футболістів. В ті часи посаду головного тренера іменувалася як «менеджер-секретар», його обов'язки виходили далеко за рамки роботи безпосередньо з командою. Пізніше в 1956 році після смерті Уіттакера головний тренер команди перестав відповідати за фінансову частину, більше концентруючись на першій команді. [2]
Перші 7 тренерів не змогли завоювати з клубом жоден трофей. Це був період становлення, розвитку клубу, який змінив за цей час місце прописки і побудував стадіон.
Крім навколофутбольні діяльності Чепмен зробив великий внесок в розвиток безпосередньо футболу. Його схема WM часто критикувалася за використання додаткового захисника. Однак з часом більшість команд Англії стали використовувати подобу WM, так і за межами Англії ця схема набула великого поширення.
Незважаючи на смерть Чепмена, «Арсенал» не зменшив обертів. Новим головним тренером став Джордж Еллісон. але тренерський штаб при цьому залишився незмінним. У той час як Еллісон підписав деяких висококласних виконавців і серйозно модернізував Хайбері. команда тричі поспіль в період з 1933 по 1935 ставала чемпіоном Англії. Після цього був узятий кубок Англії в 1936 і чемпіонат в 1938. Однак потім почалася війна, і великі турніри були припинені.
У першому післявоєнному сезоні «Арсенал» зайняв тринадцяте місце в чемпіонаті. З колишнього кістяка вціліли деякі, виникла необхідність створення нової команди, а Еллісон не був на це здатний. Влітку 1947 року головним тренером «Арсеналу» був призначений Том Уіттакер, який раніше входив в тренерський штаб. При ньому «Арсенал» завоював титул чемпіона країни в 1948 і 1953 роках, а також кубок в 1950 році. У 1956 році Уіттакер помер від серцевого нападу, і це було початком серйозного спаду.
Після Уіттакера «Арсенал» очолювали Джек Крейстон, Джордж Свіндін і Біллі Райт. однак у жодного з них не вийшло досягти чогось з «Арсеналом». Останній для Райта сезон «каноніри» закінчили на чотирнадцятому місці з рекордно низькою відвідуваністю домашнього матчу - 4554 на матчі проти Лідса 5 травня 1966 року.
Прийшовши влітку 1966 року Берті Мі вдихнув в «Арсенал» нове життя. З ним лондонці виграли 2 кубка Ліги в 1968 і 1969 роках. У 1970 «Арсенал» став переможцем Кубка Ярмарків, а вже в наступному сезоні взяв свій перший «дубль» - взяв кубок і здобув перемогу в чемпіонаті. Однак після цього результати різко погіршилися. У 1975 році «Арсенал» фінішував 16-м, рік по тому - 17-м. Ми був звільнений, замість нього прийшов колишній гравець «канонірів» Террі Ніл, який став наймолодшим тренером в історії «Арсеналу». Ніл вивів команду в три фіналу кубка Англії поспіль (1978, 1979, 1980), проте зміг здобути перемогу лише в одному з них. У 1983 році на зміну Нілу прийшов Дональд Хоуі, проте не зміг домогтися значних результатів.