Công ty thiết kế website chuẩn SEO Web Mới
Tìm kiếm
Công ty thiết kế website chuẩn SEO Web Mới
File robots txt là gì? - Cách sử dụng robot.txt khi làm SEO, File robot.txt là gì, có quan trọng trong việc xếp hạng của Google không, và làm sao để tối ưu file này? Robots.txt là một file văn bản để quan trị website khai báo cho phép hay không cho phép các BOT của search engine

File robots txt là gì? - Cách sử dụng robot.txt khi làm SEO

File robots txt là gì? - Cách sử dụng robot.txt khi làm SEO

File robots txt là gì? - Cách sử dụng robot.txt khi làm SEO

File robots txt là gì?

Nói một cách ngắn gọn nhất Robots.txt là một dạng text đặc biệt không phải là HTML hay một loại nào khác. Nó giúp cho các webmaster linh hoạt hơn trong việc cho hay không cho bot của các công cụ tìm kiếm ( SE ) đánh chỉ mục(index) một khu vực nào đó trong website của bạn. Đây là một phần khi làm dịch vụ seo

Cách tạo và sử dụng file Robots.txt:

cách tạo: File robots.txt là một dạng file rất đơn giản có thể được tảo bởi công cụ Notepad.

User-agent: *
Disallow: /admin/
Allow: /

# BEGIN XML-SITEMAP
Sitemap: https://webmoi.vn/sitemap.xml
# END XML-SITEMAP

Trong đó:

User-agent: * : Khai báo tên của search engine mà bạn muốn điều khiển, ví dụ: Googlebot, Yahoo!, Bingbot,…)

Allow (chỉ áp dụng cho Googlebot): Lệnh này cho phép bot thu thập dữ liệu một trang hoăc thư mục con, mặc dù trang hoặc thư mục chứa nó lại không được phép thu thập dữ liệu.

Disallow: /admin/ : Chặn không cho bot truy cập vào thư mục admin 

Sitemap: https://webmoi.vn/sitemap.xml: khai báo đường dẫn sitemap

cách sử dụng file Robot.txt:

1.Không cho phép bot truy cập vào thư mục nào mà mình không muốn:

Lấy lại ví dụ trên :

User-agent: *

Disallow: /admin/  

==> Diều này có nghĩa là cho phép tất cả các loại bot thu thập chỉ trừ thư mục admin

2.Khóa toàn bộ website không cho bot đánh chỉ mục:
 

User-agent: * 

Disallow: / 

==> có nghĩa là cấm tất cả các loại bot truy cập vào tất cả tài nguyên có trên website của bạn, như vậy có nghĩa là website bạn chả thèm chơi với các SE

3.Chặn 1 trang:

Disallow: /bao-mat

4. Cách sử dụng đồng thời “Allow” và “Disallow” cùng nhau như thế nào?

User-agent: * 
Disallow: /the-gioi-hinh-anh/ 
Allow: /do-hoa-dep/

Các bạn thấy đó mình đã kết hợp đồng thời “Allow” và “Disallow” trong file robots.txt là gì. Chỉ cần bạn thêm như trên thì có thể kết hợp đồng thời “Allow” và “Disallow” với nhau rồi. Khai báo bao nhiêu dòng cũng được.

Hệ thống Google và Bing Google và Bing

không nghe theo file tiêu chuẩn Robots.txt nên bạn có thể tạo tài khoản quản trị hệ thống Google và Bing và cấu hình các tên miền của mình để có chế độ thu thập dữ liệu thấp hơn. Bạn có thể xem thêm tài liệu của Google về file Robots.txt https://support.google.com/webmasters/answer/6062608?hl=en&visit_id=1-636252740320275113-2452672579&rd=1, ngoài ra bạn cũng phải sử dụng các công cụ webmaster của Google để thiết lập hầu hết các tham số của Googlebot.

Mình có một lời khuyên dành cho các bạn là các bạn nên cấu hình file Robots.txt để giảm tốc độ thu thập thông tin từ trang web của bạn, đồng thời làm giảm tài nguyên mà nó yêu cầu từ hệ thống, điều này làm cho lưu lượng truy cập trang web của bạn tốt hơn. Nếu bạn muốn giảm lưu lượng truy cập từ các công cụ như Yandex hoặc Baidu, bạn cần phải cấu hình file .htaccess.

Lưu ý khi sử dụng robots.txt

- Định dạng file robots.txt phải ở dạng Encoding UTF-8, không phải định dạng này thì google sẽ khó đọc

- Phân biệt chữ hoa chữ thường.

- Không nên chèn thêm bất kỳ ký tự nào khác ngoài các cú pháp lệnh.

- Mỗi một câu lệnh nên viết trên 1 dòng. Không được viết dư, thiếu khoảng trắng.

 

  • 0 Bình luận
CEO Bùi Tấn Lực
Bùi Tấn Lực
CEO Bùi Tấn Lực người sáng lập ra Web Mới, là một lập trình viên, người viết content, chuyên tư vấn các vấn đề về website và SEO website, quý khách hãy liên hệ để trao đổi thiết kế website
  • Zalo
Chia sẻ nội dung đánh giá của bạn về File robots txt là gì? - Cách sử dụng robot.txt khi làm SEO
Email, Điện thoại của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *
Đánh giá của bạn
Tên *
Email
Số điện thoại *
Bình luận, Hỏi đáp
Đăng ký tư vấn miễn phí
Tìm hiểu 1 năm không bằng lắng nghe 1 câu tư vấn
Tỉnh thành
THEO MẪU HIỆN TẠI CỦA WEB MỚI
THEO MẪU CÓ SẴN TRÊN WEB MỚI
3.000.000 VNĐ
Free Hosting, Tên miền năm đầu
Phù hợp với
  • Website giới thiệu doanh nghiệp trung bình, nhỏ
  • Website bán hàng phổ thông
  • Giao diện theo mẫu tuyệt đẹp
  • Thời gian triển khai nhanh chóng, sử dụng dễ dàng
Đã bao gồm
  • Chuẩn SEO, tốc độ load trang siêu nhanh
  • Phiên bản di động hoàn hảo
THEO YÊU CẦU GÓI CƠ BẢN
THEO YÊU CẦU GÓI CƠ BẢN
5.500.000 VNĐ
Free Hosting, Tên miền năm đầu
Phù hợp với
  • Website giới thiệu doanh nghiệp, kinh doanh nhỏ.
  • Yêu cầu giao diện độc đáo và độc quyền.
  • Công nghệ hiện đại, smooth loading, tốc độ tải nhanh, hiệu quả trong kinh doanh.
Đã bao gồm
  • Chuẩn SEO, tốc độ load trang siêu nhanh
  • Phiên bản di động hoàn hảo
  • Support mãi mãi
CHUYÊN SÂU
CHUYÊN SÂU
15.000.000 VNĐ
Free Hosting, Tên miền năm đầu
Phù hợp với
  • Các website có lượt truy cấp lớn cần đạt tốc độ tối ưu dữ liệu cao.
  • Webservice, webApi, web tương tác với bên thứ 3
  • Các website tin tức, community với tốc độ load tối ưu
  • Thời gian triển khai nhanh chóng, sử dụng dễ dàng
Đã bao gồm
  • Chuyên gia tiếp cận và phân tích yêu cầu
  • Tư vấn, đệ trình giải pháp giải quyết yêu cầu
  • Tư vấn giải pháp phát triển website hậu xây dựng
ENTERPRISE
ENTERPRISE
LIÊN HỆ
Free Hosting, Tên miền năm đầu
Phù hợp với
  • Các website có công nghệ đặc biệt, mạng xã hội, xử lý ảnh/videos
  • Các startup sáng lập
  • Các website tài chính, đồng coin, Website Quản lý hệ thống
  • Website tích hợp công cụ quản lý kinh doanh
Đã bao gồm
  • Chuyên gia tiếp cận và phân tích yêu cầu
  • Tư vấn, đệ trình giải pháp giải quyết yêu cầu
  • Tư vấn giải pháp phát triển website hậu xây dựng
Báo giá nhanh
  • Cơ bản
  • Nâng cao
  • Chuyên nghiệp
  • Yêu cầu thêm(lẻ)
Giá tổng: 0 VNĐ
Nhập thông tin báo giá nhanh
captcha Reload
Các lý do nên thiết kế website tại WEB MỚI
  • Khai báo Analytics, Master tool, Sitemap, Bing, Yandex
  • Link website chuẩn seo, Tối ưu cấu trúc BreadcrumbList
  • Hướng dẫn viết Content chuẩn SEO, Tạo Mục Lục bài viết
  • Tối ưu hóa SEO, Js, Css, Img, Load Lazy nhẹ web
  • Hỗ trợ nhiệt tình, làm việc với kỹ thuật đầy kinh nghiệm
  • Code tay PHP theo yêu cầu, SEO tốt, google speed trên 80
Hơn 1000 khách hàng thân thiết tại Web Mới
Website khách hàng phát triển - Thì mình mới phát triển
Đối tác Nam Phát Bao Bì thiết kế website bên Web Mới Đối tác Đồng Truyền Thống thiết kế website bên Web Mới Đối tác Hội doanh nghiệp Tân Bình thiết kế website bên Web Mới Đối tác MC2 Group Audio, Thiết bị âm thanh thiết kế website bên Web Mới Đối tác HCV -  Chuyên Thiết bị Thông Minh thiết kế website bên Web Mới Đối tác Quang Đông Bàn ghế giả mây thiết kế website bên Web Mới
0398.259.259