De bouw van Het Jonge Schaap begon in 2005 met het dempen van een stuk Zaanwater bij het oude erf van oliemolen De Queen of Star, die ooit ten noorden van oliemolen De Wind stond. Op het erf van deze molen werd in 1964 De Zoeker geplaatst, die daarvoor in het Guisveld bij Zaandijk stond.
Het Jonge Schaap was tot 1941 een bovenkruier balkenzager in Westzaandam. Hij stond daar achter het station, precies in het verlengde van de Stationstraat. Voor de molen gesloopt werd, werd hij volledig opgemeten door molenkenner en bouwkundige A. Sipman.
De aantekeningen en tekening, die Sipman van de molen maakte, bleven bewaard in het Molenmuseum in Koog aan de Zaan. Daardoor werd het mogelijk meer dan zestig jaar later een replica te bouwen aan de Kalverringdijk bij de Zaanse Schans. Het was voor het eerst in meer dan 140 jaar dat er weer een industriemolen in de Zaanstreek werd gebouwd. Molenmaker Saendijck klaarde de klus in samenwerking met bouwbedrijf Hillen & Roosen.
In november 1997 besloot het college van B & W van Zaanstad er een onderzoek moest komen naar de mogelijkheden van financiering van dit unieke bouwproject, waarvan de kosten door de Rijksdienst voor de Monumentenzorg voorlopig op drie miljoen gulden werden geschat.
Als eerste bouwlokatie dachten de gemeentelijke ambtenaren aan een plaats middenin de Kalverpolder, maar nadat ze er door de deskundigen van de Zaanse Molen op waren gewezen, dat balkenzagers altijd aan open water stonden, omdat anders de balken niet konden worden aangevoerd, werd gekozen voor het erf tussen de molens De Os en De Zoeker aan de Zaansche Schans.
De stichting Het Jonge Schaap kreeg financiĆ«le steun van provincie en gemeente en zal binnenkort een nieuwe actie starten om de herbouw te financiĆ«ren. Daartoe zullen zogenaamde molenparten te koop worden aangeboden tegen een prijs van 25 euro per stuk. Hiermee wordt verwezen naar de vroegere partenhandel – voorloper van de huidige aandelen – die schering en inslag in de molenindustrie was. Er zullen 4000 parten worden uitgegeven. Bij aankoop van vier parten krijgt men de electronische nieuwsbrief en uitnodigingen om alle belangrijke fasen van de molenbouw bij te wonen.
De Stichting Archief Ron Couwenhoven stelde het origineel van een verkoopbrief van papiermolen De Kaarsenmaker in Koog aan de Zaan uit 1780 ter beschikking, die als voorbeeld diende voor de molenparten, die nu voor de herbouw van Het Jonge Schaap in omloop worden gebracht. De actie bracht tot februari 2007 al 63.000 euro op.

In 2005 begon de bouw daadwerkelijk. De kosten werden toen al begroot op 1,8 miljoen euro. Op 10 juli 2006 werd de bouw van het zeskant voltooid, in december van dat jaar werd de stelling geplaatst en kon met het rietdekken worden begonnen. Dit werd in februari 2007 voltooid, waarna op maandag 26 februari 2007 de kap werd geplaatst. Een dag later werden de roeden ingestoken.