Hej! Det har dykt upp ett stort problem för mig. När jag ska crawla min hemsida på innehåll och skapa sitemaps (både xml och html) så har alla crawlers börjat indexera RUBB OCH STUBB trots att jag programerar dem att lämna allt som inte är .php och .html ifred. Det roliga är att detta funkade fint förut men som helt plötsligt dykt upp. På alla crawlers oavsett typ.
Min fråga är: Har jag missat nånting? Finns det någon universell lösning på detta eller måste jag bli mer specificik?
Förut har min sitemap blivit så här snygg: SITEMAP
Nu blir det så här: SITEMAP 2 Den indexerar mappar, undermappar, txt filer (trots att jag har dom borttagna i options) varför blir det så här? Någon som har råkat ut för samma?
tacksam för svar!! //N