Segelfartyg utvecklades i Egypten så tidigt som runt 4000 f.Kr. och det är också i Egypten de äldsta uppenbara avbildningarna av ett segelfartyg hittats som är från ca 3200 f.Kr. Den första formen av segelfartyg var en sorts råriggade båtar gjorda av det robusta halvgrässorten Papyrus. Segelfartygets föregångare är de första båtarna: stockbåtar, skinnbåtar och flottar. De första europeiska stockbåtarna är så gamla som 9000 år.
Under romarnas tid byggde man riktigt stora segelfartyg som kunde lasta upp till tusen ton och på 800-talet e.Kr. började i området runt medelhavet fartyg riggas med ett så kallat latinsegel, vilket är ett trekantigt segel och kombination av råsegel och snedsegel. I Norden fortsatte man dock att använda fyrkantiga råsegel ända in i modern tid och under medeltiden såg skeppen vanligtvis ut som vikingaskepp.
På 1200-talet hade de tvåmastade korsfararskeppen utvecklats. De var riggade med latinsegel.
Parallellt med medelhavsområdets utvecklande av segelfartyg utvecklades i Kina den så kallade djonken. En djonk är en typ av segelfartyg med två-fyra master och ett skrov som är flatbottnat, brett och kort. Seglen på en djonk spänns ut genom bamburör och är fyrkantiga, tunga och gjorda av mattor.
I takt och samband med handeln mellan länder utvecklades nya rigg- och fartygstyper. Under 1400-talet utvecklades till exempel karacker som är särskilda handelsfartyg med två-tre master och både råsegel och latinsegel. Karackens skrov var kraftigt rundat, stäven nästan lodrät och aktern platt. Under medeltiden var karacken det främsta fartyget som byggdes.
De seglande handelsfartygen kom så småningom att utvecklas till så kallade örlogsfartyg konstruerade för militära ändamål. Karavellen är en typ av seglande örlogsfartyg som användes av Christoffer Columbus i hans segling över Atlanten 1492. Utöver två karaveller använde han även en karack; La Santa María. En karavell har en ungefärlig vikt på 50 ton och är ett mindre skepp än karacken och mer lämpad för segling i grunt vatten. Vanligtvis var en karavell riggad med ett råsegel och ett latinsegel samt ett försegel.
Ett välkänt exempel på ett välbevarat seglande örlogsfartyg är regalskeppet Vasa som idag finns att skåda på Vasamuseet i Stockholm. Grundtanken med byggandet av Vasa var att få ett snabbt skepp att segla ikapp fiender med men Vasas kapacitet att segla var begränsad. Efter att det långsamt seglat i bara några minuter fick en vindpust skeppet att lägga sig på sidan. Vatten forsade in genom dess öppna kanonluckor varpå Vasa sjönk till botten precis utanför Djurgården i Stockholm.
Ett annat känt segelfartyg som blivit ett museiföremål är 1800-talsskeppet Cutty Sark. Skeppet byggdes i Scottland och blev känt för sina fantastiska kappseglingar världen runt. Cutty Sark var ett så kallat klipperskepp vilket är en typ av snabbseglande fartyg riggat med tre master. Klipperskeppen benämns ofta som höjdpunkten för segelfartygsepoken.