C
cho
Nowy użytkownik
- Dołączył
- 03.2015
- Odpowiedzi
- 15
Strona internetowa posiadająca tysiące produktów/ogłoszeń to niejako baza danych podlegająca ochronie.
Gdy na serwerze owej strony istnieje "zezwolenie" (plik robots.txt) dla robotów indeksujących tzw. crawler'ów (np. Google) oraz mapę strony (sitemap) zawierającą zestawienie wszystkich produktów/ogłoszeń, to czy można zakładać, że taką bazę można indeksować?
Gdy na serwerze owej strony istnieje "zezwolenie" (plik robots.txt) dla robotów indeksujących tzw. crawler'ów (np. Google) oraz mapę strony (sitemap) zawierającą zestawienie wszystkich produktów/ogłoszeń, to czy można zakładać, że taką bazę można indeksować?