Op vijfjarige leeftijd besloot Huntelaar net als zijn broers lid te worden van het plaatselijke v.v. H&K, voetbalvereniging Hummelo en Keppel.[3] Bij H&K kwam Klaas-Jan onder de hoede van Erik Dreteler en André Nijman.[4] Vervolgens kwam hij te spelen onder coach Jacco Beerthuizen, een voormalig keeper van De Graafschap, Go Ahead Eagles en Heracles Almelo. Hij zag het talent bij de jonge speler en tipte Henk ten Cate, trainer van Go Ahead Eagles, over zijn pupil. Vanaf dat moment mocht Klaas-Jan iedere woensdagmiddag meetrainen bij de club uit Deventer. Na verloop van tijd bleek echter dat de afstand te groot was, waarna er werd besloten om Huntelaar onder te brengen bij het nabijgelegen De Graafschap.
Op 6 mei 1994 tekende Klaas-Jan Huntelaar met tienjarige leeftijd een jeugdcontract bij De Superboeren. Hij begon daar in de C1, ondanks dat hij op dat moment nog D-speler was. Hierdoor kende hij een lichte achterstand op fysiek gebied. Toch wist hij zich in de groep te spelen en bleek hij een vaste invalwaarde te hebben. Hij kwam in totaal tot zes competitiewedstrijden (waarvan drie als invaller) en twaalf oefenduels (waarvan vier als invaller). Op dat moment speelde hij nog vooral op de linksachter en linkshalf positie. In zijn tweede seizoen kwam hij vaker in actie op het middenveld en speelde hij regelmatig op de nummer 10-positie achter de spitsen. Uiteindelijk kwam hij vijftien duels in actie. Ook was hij nog een korte periode keeper als gevolg van een blessure bij de vaste doelman. Hij stond vijf toernooiwedstrijden onder de lat en moest daarbij zeven doelpunten incasseren. Vanaf zijn derde seizoen bij De Graafschap speelde Huntelaar op de nummer 9-positie en werkte hij zijn duels alleen nog maar af als centrumspits.[5]
In 2000 maakte Huntelaar de overstap naar de jeugdopleiding van PSV. Hij verhuisde naar Veldhoven waar hij werd ondergebracht bij het gastgezin Jorna. Dagelijks moest Klaas-Jan anderhalf uur fietsen om te gaan trainen op het jeugdcomplex De Herdgang. Bij PSV kreeg hij individuele training van Willy van der Kuijlen, de topscorer aller tijden in de Eredivisie met 311 doelpunten. Huntelaar kende een succesvol eerste seizoen, hij scoorde 26 doelpunten in 23 duels en werd met dit aantal topscorer. PSV b