logo Open Sub Menu

File robots txt là gì? - Cách sử dụng robot.txt khi làm SEO, File robot.txt là gì, có quan trọng trong việc xếp hạng của Google không, và làm sao để tối ưu file này? Robots.txt là một file văn bản để quan trị website khai báo cho phép hay không cho phép các BOT của search engine

File robots txt là gì? - Cách sử dụng robot.txt khi làm SEO

Lượt xem: 187

File robots txt là gì?

Nói một cách ngắn gọn nhất Robots.txt là một dạng text đặc biệt không phải là HTML hay một loại nào khác. Nó giúp cho các webmaster linh hoạt hơn trong việc cho hay không cho bot của các công cụ tìm kiếm ( SE ) đánh chỉ mục(index) một khu vực nào đó trong website của bạn. Đây là một phần khi làm dịch vụ seo

Cách tạo và sử dụng file Robots.txt:

cách tạo: File robots.txt là một dạng file rất đơn giản có thể được tảo bởi công cụ Notepad.

User-agent: *
Disallow: /admin/
Allow: /

# BEGIN XML-SITEMAP
Sitemap: https://webmoi.vn/sitemap.xml
# END XML-SITEMAP

Trong đó:

User-agent: * : Khai báo tên của search engine mà bạn muốn điều khiển, ví dụ: Googlebot, Yahoo!, Bingbot,…)

Allow (chỉ áp dụng cho Googlebot): Lệnh này cho phép bot thu thập dữ liệu một trang hoăc thư mục con, mặc dù trang hoặc thư mục chứa nó lại không được phép thu thập dữ liệu.

Disallow: /admin/ : Chặn không cho bot truy cập vào thư mục admin 

Sitemap: https://webmoi.vn/sitemap.xml: khai báo đường dẫn sitemap

cách sử dụng file Robot.txt:

1.Không cho phép bot truy cập vào thư mục nào mà mình không muốn:

Lấy lại ví dụ trên :

User-agent: *

Disallow: /admin/  

==> Diều này có nghĩa là cho phép tất cả các loại bot thu thập chỉ trừ thư mục admin

2.Khóa toàn bộ website không cho bot đánh chỉ mục:
 

User-agent: * 

Disallow: / 

==> có nghĩa là cấm tất cả các loại bot truy cập vào tất cả tài nguyên có trên website của bạn, như vậy có nghĩa là website bạn chả thèm chơi với các SE

3.Chặn 1 trang:

Disallow: /bao-mat

4. Cách sử dụng đồng thời “Allow” và “Disallow” cùng nhau như thế nào?

User-agent: * 
Disallow: /the-gioi-hinh-anh/ 
Allow: /do-hoa-dep/

Các bạn thấy đó mình đã kết hợp đồng thời “Allow” và “Disallow” trong file robots.txt là gì. Chỉ cần bạn thêm như trên thì có thể kết hợp đồng thời “Allow” và “Disallow” với nhau rồi. Khai báo bao nhiêu dòng cũng được.

Hệ thống Google và Bing Google và Bing

không nghe theo file tiêu chuẩn Robots.txt nên bạn có thể tạo tài khoản quản trị hệ thống Google và Bing và cấu hình các tên miền của mình để có chế độ thu thập dữ liệu thấp hơn. Bạn có thể xem thêm tài liệu của Google về file Robots.txt https://support.google.com/webmasters/answer/6062608?hl=en&visit_id=1-636252740320275113-2452672579&rd=1, ngoài ra bạn cũng phải sử dụng các công cụ webmaster của Google để thiết lập hầu hết các tham số của Googlebot.

Mình có một lời khuyên dành cho các bạn là các bạn nên cấu hình file Robots.txt để giảm tốc độ thu thập thông tin từ trang web của bạn, đồng thời làm giảm tài nguyên mà nó yêu cầu từ hệ thống, điều này làm cho lưu lượng truy cập trang web của bạn tốt hơn. Nếu bạn muốn giảm lưu lượng truy cập từ các công cụ như Yandex hoặc Baidu, bạn cần phải cấu hình file .htaccess.

Lưu ý khi sử dụng robots.txt

- Định dạng file robots.txt phải ở dạng Encoding UTF-8, không phải định dạng này thì google sẽ khó đọc

- Phân biệt chữ hoa chữ thường.

- Không nên chèn thêm bất kỳ ký tự nào khác ngoài các cú pháp lệnh.

- Mỗi một câu lệnh nên viết trên 1 dòng. Không được viết dư, thiếu khoảng trắng.

 

Bình luận

Thiết kế website Áo dài 1

Thiết kế website Audio 3

Thiết kế website Ba lô - Túi xách 1

Thiết kế website Bán chè 1

Thiết kế website Băng keo 1

Thiết kế website Bao bì 3

Thiết kế website Bảo hiểm 1

Thiết kế website Bảo vệ 2

Thiết kế website Bất động sản 10

Thiết kế website Bê tông 1

Thiết kế website Bệnh viện - Phòng khám 1

Thiết kế website Bồn nước 1

Thiết kế website Bột đá 1

Thiết kế website Cà Phê 1

Thiết kế website Camera 2

Thiết kế website Cho thuê nhà xưởng kho bãi 1

Thiết kế website Cho thuê văn phòng 1

Thiết kế website Cơ Khí 2

Thiết kế website Cổng Tự Động 1

Thiết kế website Cửa cuốn 1

Thiết kế website Dầu nhớt 1

Thiết kế website Dịch vụ chuyển nhà 1

Thiết kế website Dịch vụ giặt ủi 1

Thiết kế website Dịch vụ kế toán 1

Thiết kế website Dịch vụ vệ sinh 1

Thiết kế website Du lịch 1

Thiết kế website Ép cọc bê tông 2

Thiết kế website Gas 1

Thiết kế website Gia phả 1

Thiết kế website Gia sư 1

Thiết kế website Giàn phơi quần áo 1

Thiết kế website Giày 1

Thiết kế website Giới thiệu công ty 1

Thiết kế website Golf 1

Thiết kế website Hải sản 1

Thiết kế website Hàng xách tay 1

Thiết kế website Homestay 1

Thiết kế website Huấn luyện đại bàng 1

Thiết kế website In ấn 1

Thiết kế website Inox 1

Thiết kế website Kệ sắt 1

Thiết kế website Kẽm 1

Thiết kế website Khắc Laser - Quảng cáo CNC 1

Thiết kế website Khách sạn 1

Thiết kế website Khẩu trang 1

Thiết kế website Kiến trúc xây dựng 2

Thiết kế website Lông Mi 1

Thiết kế website Luật sư 1

Thiết kế website Luyện thi chứng chỉ 1

Thiết kế website Luyện thi đại học 1

Thiết kế website Mái hiên 1

Thiết kế website Mạng viễn thông 2

Thiết kế website Massage 2

Thiết kế website Mắt kính 2

Thiết kế website Máy ảnh 1

Thiết kế website Máy công cụ 1

Thiết kế website Máy lọc nước 1

Thiết kế website Máy nghiền đá 1

Thiết kế website Máy tính 1

Thiết kế website Môi trường 1

Thiết kế website Mỹ nghệ 1

Thiết kế website Mỹ phẩm 3

Thiết kế website Nghệ thuật nhiếp ảnh 1

Thiết kế website Nhà hàng 2

Thiết kế website Nhà hàng tiệc cưới 1

Thiết kế website Nha khoa 1

Thiết kế website Nhân sâm 1

Thiết kế website Nhôm kính 4

Thiết kế website Nối mi 1

Thiết kế website Nội thất 4

Thiết kế website Nông sản 2

Thiết kế website Ô dù 1

Thiết kế website Ống hút 1

Thiết kế website Phân bón 1

Thiết kế website Phụ kiện sinh nhật 1

Thiết kế website Phụ kiện điện thoại 1

Thiết kế website Phụ tùng ô tô 1

Thiết kế website Quảng Cáo trên xe 1

Thiết kế website Quay phim - Chụp hình 1

Thiết kế website Rượu - Bia 1

Thiết kế website Sách điện tử trực tuyến 1

Thiết kế website Shop Hoa Tươi 1

Thiết kế website Siêu thị Mini 2

Thiết kế website Sofa 2

Thiết kế website Sơn 1

Thiết kế website Spa 1

Thiết kế website Studio - Chụp ảnh cưới 1

Thiết kế website Tàu thuyền 1

Thiết kế website Thang máy 1

Thiết kế website Thanh lý tài sản 1

Thiết kế website Thiết bị công nghệ 1

Thiết kế website Thiết bị phòng cháy 2

Thiết kế website Thiết bị văn phòng 1

Thiết kế website Thiết bị vệ sinh phòng tắm 1

Thiết kế website Thiết kế nội thất 2

Thiết kế website Thời trang May mặc 3

Thiết kế website Thú ý 1

Thiết kế website Thực phẩm chức năng 1

Thiết kế website Tin tức 1

Thiết kế website Tôm giống 5

Thiết kế website Tôn 1

Thiết kế website Trà sữa 1

Thiết kế website Trang trí nội thất 1

Thiết kế website Trường học 4

Thiết kế website Van công nghiệp 1

Thiết kế website Văn phòng phẩm 1

Thiết kế website Vận tải 3

Thiết kế website Vật liệu đóng gói 1

Thiết kế website Xây dựng 1

Thiết kế website Xe 3

Thiết kế website Xe nâng 1

Thiết kế website Yến sào 1

Thiết kế website Đại lý thuế 1

Thiết kế website Đấu giá 1

Thiết kế website Đèn chiếu sáng 3

Thiết kế website Đèn led 1

Thiết kế website Điện cơ 1

Thiết kế website Điện thoại 3

Thiết kế website Điện tử - Điện lạnh 1

Thiết kế website Đồ ăn - Thức uống 1

Thiết kế website Đồ Đồng 1

Thiết kế website Đọc truyện online 1

Thiết kế website Đồng hồ 1

Thiết kế website Đồng Hương 1

Thiết kế website Đông Trùng Hạ Thảo 1

CÔNG TY TNHH THƯƠNG MẠI DỊCH VỤ WEB MỚI

Email: info@webmoi.vn

Hotline + Zalo: 0398 259 259

Website: https://webmoi.vn/

Văn phòng giao dịch: E20/22E6 Đường Vĩnh Lộc, Ấp 5, Xã Vĩnh Lộc B, Huyện Bình Chánh, TP. Hồ Chí Minh

Địa chỉ: Số 7A, Thới An 10, Phường Thới An, Quận 12, TP.HCM

Số tài khoản: Vietcombank, 0501000110157, Bùi Tấn Lực, Chi nhánh Bắc sài gòn

logo footer

CÔNG TY THIẾT KẾ WEBSITE CHUYÊN NGHIỆP, ẤN TƯỢNG, SÁNG TẠO, CHUẨN SEO

WEBMOI là công ty thiết kế web chuyên nghiệp uy tín có trụ sở chính tại Tp HCM. Chúng tôi thiết kế web theo chuẩn SEO, chuẩn di động. Áp dụng những công nghệ tiên tiến nhất hiện nay để thiết kế website như HTML5, CSS3, PHP. Nhằm mang lại sự hiệu quả thực sự cho khách hàng

Contact Me on Zalo
0398.259.259