Affichage des articles dont le libellé est #seo #socialmedia. Afficher tous les articles
Affichage des articles dont le libellé est #seo #socialmedia. Afficher tous les articles
16/07/2015

Twitter a mis un noindex pour ne plus indexer les tweets, twitter bloque le crawl

Cette info a fait le tour du web et pourtant elle est fausse. Twitter continue d'indexer les tweet, et aucun rapport avec le partenariat passé avec google.

Tweets indexés dans google


Pour faire court :

Bé alors google, t'indexe les tweets alors qu'il y a un robots.txt qui te bloque ?

En fait twitter n'a bloqué dans son robots que les url qui sont faite sur le www

http://www.twitter.com/robots.txt

User-agent: *
Disallow: /

Par contre sur http://twitter.com/robots.txt il autorise les moteurs de recherche à le crawler.

Si twitter aurait voulu bloquer les crawler pour qu'ils n'indexent pas les tweet il aurait fait des noindex  dans le .htaccess ou dans les entête des pages