Родился в Эллисмер Порт 9 августа 1914 года.
Джо Мерсер провел длинную и успешную карьера в футболе, причем, ему удалось достичь высоких достижений как в качестве действующего футболиста, так и на посту тренера.Еще мальчишкой Джо начал свою поступь в футболе с команды "Чеширс Кет", где он выступал на левом фланге вместе с Франком Су и Стэном Куллисом. Уже в 18-летнем возрасте, подающий большие надежды Мерсер, был замечен скаутами ливерпульского «Эвертона», и в 1932-м году Джо подписал свой первый профессиональный контракт. А спустя 6 лет он завоевал с «Эвертоном» свой первый чемпионский титул. Однако довольно успешная карьера Мерсера была прервана мировой войной на семь лет, но даже в военное время Джо выступал на международной арене за сборную Англии вместе со своим старым другом Стэном Куллисом.Сразу же после завершения войны, в 1946-м, потерявший ряд ключевых исполнителей лондонский «Арсенал» перекупил Джо за 7 000 фунтов. Перед тем, как подписать контракт с «канонирами», Мерсер выдвинул боссам клуба одно единственное условие - позволить ему и дальше тренироваться и жить в Ливерпуле. Несмотря на столь удивительное требование, руководство лондонского клуба согласилось исполнить просьбу футболиста, - так Джо стал «канониром» с ливерпульской пропиской. А самая удивительная ситуация в карьере Мерсера произошла в 1950 году, когда «Арсенал» добился права встретиться в финале английского кубка с «Ливерпулем». Дело в том, что Джо не только проживал в родном городе «Биттлз» - он еще и тренировался в составе «Ливерпуля»! Перед финальным поединком за столь почетный в Англии трофей руководство «мерсисайдцев» запретило Мерсеру проводить подготовку к предстоящему матчу на «Энфилде», поскольку считало, что это может повредить тактическим замыслам клуба. Так или иначе, а «Арсенал» в той игре оказался сильнее и победил со счетом 2:0. Когда же футболисты обеих команд получали медали из рук его величества, короля Джорджа VI, Мерсеру по ошибке вручили медаль финалиста кубка Англии, а не его обладателя. К счастью, эта нелепая оплошность была вскоре исправлена, и награда нашла своего владельца.Все в том же 1950-м Джо был признан футболистом года в Англии. Еще одним достижением Мерсера-игрока стали чемпионские титулы 1948 и 1953 годов, когда он с капитанской повязкой приводил свой «Арсенал» к вершине британского футбола. Именно Джо стал первым и единственным футболистом, которому удалось стать чемпионом страны в до и послевоенное время. В 1953 году он объявил о завершении своей игроцкой карьеры, однако решил остаться и отыграть еще один сезон. Но время давало о себе знать. В 1954-м Джо сломал ногу на «Хайбери» в матче против «Блэкпула». Свидетели того происшествия вспоминали, что хруст ломающейся кости был слышен по всему стадиону.Так Мерсер был вынужден покончить со своей карьерой футболиста. Но уже вскоре он возглавил «Шеффилд Юнайтед» в качестве главного тренера. Своего первого достижения на тренерском поприще Мерсер добился руководя бирмингемской «Астон Виллой», с которой он стал обладателем Кубка Английской Лиги, обыграв в двуматчевом противостоянии «Роверхэм». Однако спустя 3 года, в июле 1964-го, Джо был уволен. Стоит отметить, что незадолго до этого у него случился сердечный приступ.Недолго Джо оставался вне футбола - уже через год он возглавил «Манчестер Сити». Родственники сильно опасались за его здоровье, однако их переживания оказались беспочвенными. В Манчестере Мерсер создал прекрасный тренерский тандем, совместивший в себе мудрость и дерзкое начинание, в паре с Малькольмом Эллисоном. Этот союз уже в первом своем сезоне вывел «Сити» в первый дивизион английского первенства, а в 1968 году «Манчестер Сити» завоевал чемпионское звание. Но на этом триумфаторская поступь в новом клубе не закончилась. В 1969-м Мерсер привел команду к победе в кубке страны, а спустя год завоевал и европейский Кубок Обладателей Кубков.В 1972 году Джо сменил обстановку и отправился в Ковентри, где в конечном счете стал президентом клуба. А в 1974-м ему даже удалось поруководить национальной сборной Англии в семи матчах, выступая в качестве и.о. главного тренера. До 1981 года Мерсер оставался директором «Ковентри Сити», после чего ушел в отставку и решил вернуться в свой любимый Мерсисайд, где и дожил свои последние годы.
Умер 9 августа 1990 года.
Карьера игрока: «Эвертон» - 1932-1946 гг., провел за клуб 184 игры.
«Арсенал» - 1946-1953гг., провел за клуб 293 игры.
За сборную Англии сыграл 5 матчей. Провел 27 матчей во время второй мировой войны.
Титулы: чемпион Англии 1939, 1948, 1953. Выиграл в составе «Арсенала» Кубок Англии в 1950 году.
Тренерская карьера: руководил клубами «Шеффилд Юнайтед» с 1955-1958 гг., «Астон Вилла» - 1958-1964 гг., «Манчестер Сити» - 1965-1972 гг., «Ковентри Сити» - 1972-1974 гг. (главный тренер), «Ковентри Сити» - 1975-1981 гг. (президент клуба). Руководил сборной Англии с мая 1974 по июль 1974 года в качестве и.о. главного тренера.
Тренерские титулы: чемпион Англии 1968 года, чемпион второго дивизиона 1960, 1966 годов, победитель Кубка Англии 1969 года, финалист Кубка Английской Лиги - 1963 года, победитель Кубка Английской Лиги - 1961, 1970 гг., финалист Кубка обладателей Кубков - 1971 г., победитель Кубка обладателей Кубков - 1970 г.
1946 - 1953