Pályafutását a László Kórház labdarúgócsapatában kezdte, majd 1959-ben leigazolta a fiatal csatárt a Budapesti Vasas. Gyorsan bekerült a kezdőcsapatba. Tagja volt az 1960-ban az UEFA-ifjúsági tornán győztes csapatnak. 1961-ben nyerte első bajnokságát a Vasassal, majd 1962-ben a csapattal megvédte azt. Bár tagja volt az 1962-es labdarúgó-világbajnokság magyar keretének, pályára nem lépett.
Az 1964-es labdarúgó-Európa-bajnokságon a magyar válogatottal bronzérmet szerzett. Az 1964-es tokiói olimpián a győztes magyar válogatott tagja volt, majd 1965-ben és 1966-ban újra magyar bajnok lett. Az angliai1966-os labdarúgó-világbajnokságon a magyar válogatott tagja volt. A Brazília ellen megnyert mérkőzésen (3-1) szerzett szenzációs gólja, "kapásgól az örökkévalóságnak".[3] 1966 őszén, a Franciaország ellen megnyert mérkőzésen (4-2), és az Ausztria ellen megnyert mérkőzésen (3-1), a magyar válogatottnak mindegyik gólját ő szerezte. A franciák elleni mérkőzés utáni héten, a "France Football" címoldalát, teljes egészében, Farkas János fényképe foglalta el, ő lett "Monsieur But", a "Gól Úr".[4]1967-ben (február), a Vasas SC veretlenül megnyerte Chilében a nagyhírű Hexagonal Tornát, a Pelével játszó Santos FC és a Libertadores Kupát, valamint a Világkupát védő CA Peñarol előtt; Farkas János lett a torna gólkirálya (öt mérkőzésen hét gólt szerzett).[5]1968-ban a világválogatott tagjaként játszott Brazília ellen is.
Az 1966-os magyar labdarúgó-bajnokság gólkirálya volt. 1974-ben vonult vissza az aktív játéktól a Vasas két másik legendás játékosával, Mészöly Kálmánnal és Ihász Kálmánnal együtt. Pályafutása során 290 élvonalbeli mérkőzésen 169 gólt szerzett, valamint 33 válogatott mérkőzésen szerepelt, ahol 19 találata volt.
Aktív pályafutásának befejezése után a vendéglátóiparban helyezkedett el, ahol gebinesként több üzlet vezetője volt. Negyvenhét éves korában hunyt el szívroham következtében. Halála után a Vasas utánpótlás emléktornát szervezett tiszteletére.
