Hallo allemaal!
Ik heb een Crawl probleem in Google; Ik krijg de volgende melding:
Crawl uitgesteld omdat robots.txt ontoegankelijk was.
Mijn robot.txt ziet er als volgt uit, en is ook gewoon te bereiken via mijn website adres:
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Sitemap: https://www.domeinnaam.nl/sitemap_index.xml
Wat gaat hier niet goed, en hoe kan ik dit verhelpen?
- Website wordt niet gecrawld
-
21-04-2016, 10:27 #1
- Berichten
- 225
- Lid sinds
- 10 Jaar
Website wordt niet gecrawld
-
-
21-04-2016, 10:31 #2
- Berichten
- 216
- Lid sinds
- 15 Jaar
Re: Website wordt niet gecrawld
De melding die je krijgt geeft aan dat je robots.txt niet te bereiken was. De inhoud heeft hier niet zozeer invloed op.
Staat de robots gewoon in je root?
-
21-04-2016, 10:39 #3
- Berichten
- 224
- Lid sinds
- 12 Jaar
Re: Website wordt niet gecrawld
Heb je toevallig al het http verkeer met een 301 redirect naar de SSL versie van je website doorgestuurd?
-
21-04-2016, 10:42 #4
- Berichten
- 225
- Lid sinds
- 10 Jaar
Re: Website wordt niet gecrawld
Mijn robots.txt staat inderdaad gewoon in mijn root, ik heb net een nieuwe test uitgevoerd in Webmaster tools van vandaag, maar dan blijf ik de fout zien!
-
21-04-2016, 10:43 #5
- Berichten
- 225
- Lid sinds
- 10 Jaar
-
21-04-2016, 11:29 #6gast74241 Guest
Re: Website wordt niet gecrawld
Link naar je website?
Plaats een
- + Advertentie
- + Onderwerp
Marktplaats
Webmasterforum
- Websites algemeen
- Sitechecks
- Marketing
- Domeinen algemeen
- Waardebepaling
- CMS
- Wordpress
- Joomla
- Magento
- Google algemeen
- SEO
- Analytics
- Adsense
- Adwords
- HTML / XHTML
- CSS
- Programmeren
- PHP
- Javascript
- JQuery
- MySQL
- Ondernemen algemeen
- Belastingen
- Juridisch
- Grafisch ontwerp
- Hosting Algemeen
- Hardware Info
- Offtopic