Syrjän vanhemmat olivat maanviljelijä, karjakauppias Juho Nestori Syrjä ja Martta Syrjä os. Niemiö. Syrjän perhe muutti Korkeakoskelle hänen ollessaan 7-vuotias.
Käytyään kansakoulun Syrjä muutti sota-aikana Tampereelle ja työskenteli Lokomolla varastoapulaisena ja jyrsijäoppilaana, sitten kenkätehtaalla varastoapulaisena ja vuodesta 1947 lähtien palomiehenä. Vuonna 1953 Syrjä voitti Tampereen kaupunginkirjaston kirjoituskilpailun novellillaan 'Sinne tuli karhu'. Voittonsa jälkeen Syrjästä tuli kirjastonjohtaja Mikko Mäkelän vetämän kirjallisen piirin jäsen ja hän tutustui tällöin myös kirjailija Väinö Linnaan josta tuli hänen pitkäaikainen ystävänsä.
Syrjän esikoisromaani Lumpeenkylässä syntyi Linnalta ja Mäkelän piiristä saatujen vaikutteiden perusteella. Syrjä käytti myös Alex Matsonin kirjaa Romaanitaide apuna teoksen rakenteen suunnittelussa.
Jaakko Syrjä toimi pitkään WSOY:n ja Gummeruksennn kustannustoimittajana, mainospäällikkönä ja kotimaisen kirjallisuuden osaston johtajana. Hän toimi myös Kalle Päätalo kanssa yhteistyössä muokaten tämän teoksia julkaisukuntoon. Vuodesta 1973 saakka Syrjä on ollut vapaa kirjailija.
Syrjä on toiminut Suomen kirjailijaliiton puheenjohtajana 1975–1980, Pirkkalaiskirjailijoiden puheenjohtajana 1973–1975 ja johtokunnan jäsenenä molemmissa edellisissä sekä Väinö Linna-seurassa vuodesta 1978 alkaen.
Jaakko Syrjä on ollut naimisissa kirjailija Kirsi Kunnaksen kanssa vuodesta 1957 ja heillä on kaksi poikaa, Eppu Normaali -yhtyeen perustajat Mikko Syrjä s. 1957 ja Martti Syrjä s. 1959. Kirjailija Juhani Syrjä sekä pilapiirtäjä Seppo Syrjä ovat Jaakon veljiä, jälkimmäinen Eppujen rumpalin Aku Syrjän isä.
