Tweets indexés dans google
Pour faire court :
![]() |
Bé alors google, t'indexe les tweets alors qu'il y a un robots.txt qui te bloque ? |
En fait twitter n'a bloqué dans son robots que les url qui sont faite sur le www
http://www.twitter.com/robots.txt
User-agent: * Disallow: /
Par contre sur http://twitter.com/robots.txt il autorise les moteurs de recherche à le crawler.
Si twitter aurait voulu bloquer les crawler pour qu'ils n'indexent pas les tweet il aurait fait des noindex dans le .htaccess ou dans les entête des pages