
به اشتراک بگذارید

به اشتراک بگذارید
سئو | بلاگ وبداده
جلوگیری موقت از دسترسی گوگلبات به سایت وردپرسی


# robots.txt — جلوگیری از خزش (crawl) همه رباتها در کل سایت
User-agent: *
Disallow: /
# فقط ربات گوگل را هدف بگیرید (سایر موتورها آزادند):
User-agent: Googlebot
Disallow: /
# هشدار: این فایل فقط «خزش» را متوقف میکند، نه «ایندکس».
# اگر صفحهای قبلاً ایندکس شده یا لینک خارجی دارد،
# ممکن است هنوز در نتایج گوگل دیده شود.INIpublic_html/robots.txt) قرار دهید. به یاد داشته باشید که اگر هدف شما «حذف از نتایج» است، robots.txt انتخاب اشتباهی است و باید سراغ noindex بروید.<head> صفحه میگذارید:<!-- جلوگیری از ایندکس یک صفحه: این تگ را داخل <head> صفحه بگذارید -->
<meta name="robots" content="noindex">
<!-- فقط ربات گوگل را هدف بگیرید -->
<meta name="googlebot" content="noindex">
<!-- نکته: برای دیدهشدن این تگ، صفحه نباید در robots.txt مسدود باشد. -->HTML.htaccess انجام دهید:# .htaccess — برگرداندن پاسخ 503 «موقتاً در دسترس نیست» برای رباتها و کاربران
# مناسب نگهداری کوتاهمدت (۱ تا ۲ روز). IP خودتان را جایگزین 1.2.3.4 کنید.
RewriteEngine On
RewriteCond %{REMOTE_ADDR} !^1\.2\.3\.4$
RewriteCond %{REQUEST_URI} !^/maintenance\.html$
RewriteRule ^(.*)$ /maintenance.html [R=503,L]
# به رباتها بگویید کِی برگردند (مهم برای حفظ سئو):
Header always set Retry-After "86400"
ErrorDocument 503 /maintenance.htmlApache| روش | چه چیزی را میبندد؟ | مناسب برای | نکته مهم |
|---|---|---|---|
| تیک عدم نمایهسازی وردپرس | ایندکس (درخواستی) | سایت در حال ساخت | بعد از لانچ حتماً بردارید |
| robots.txt (Disallow) | فقط خزش | کمکردن بار خزش | صفحه را de-index نمیکند |
| تگ noindex | ایندکس و نمایش در نتایج | حذف صفحه از گوگل | صفحه باید قابلخزش بماند |
| رمزگذاری دایرکتوری | دسترسی کامل (ربات و کاربر) | نسخه استیجینگ | اشتراک پیشنمایش نیاز به رمز دارد |
| حالت تعمیر 503 | موقتاً کل سایت | نگهداری ۱ تا ۲ روزه | robots.txt را 503 نکنید |

از پیشخوان وردپرس به «تنظیمات → خواندن» بروید و گزینه «از موتورهای جستجو بخواهید این سایت را نمایه نکنند» را تیک بزنید و ذخیره کنید. این کار یک تگ noindex به سایت اضافه میکند. فقط یادتان باشد بعد از آمادهشدن سایت حتماً این تیک را بردارید.
نه بهطور کامل. robots.txt فقط جلوی «خزش» را میگیرد، اما اگر صفحه قبلاً ایندکس شده یا سایت دیگری به آن لینک داده باشد، گوگل ممکن است آدرس آن را بدون توضیحات در نتایج نشان دهد. برای حذف از نتایج باید از تگ noindex استفاده کنید.
خزش یعنی ربات گوگل صفحه را پیدا میکند و میخواند. ایندکس یعنی صفحه پس از خواندهشدن وارد فهرست نتایج جستجو میشود. robots.txt خزش را کنترل میکند و تگ noindex ایندکس را. برای هدفهای مختلف باید ابزار درست را انتخاب کنید.
چون robots.txt صفحه را de-index نمیکند. اگر گوگل آدرس صفحه را از قبل میشناسد، آن را در نتایج نگه میدارد. راهحل: مسدودیت robots.txt را بردارید تا گوگل بتواند صفحه را بخزد، سپس تگ noindex را روی آن بگذارید تا واقعاً حذف شود.
برای نگهداری یکی دو روزه، برگرداندن پاسخ 503 («موقتاً در دسترس نیست») همراه با هدر Retry-After بهترین سیگنال به گوگل است و رتبه را حفظ میکند. سایت را با خطای 404 یا 410 نبندید، چون باعث حذف آدرسها از نتایج میشود.
بستن کوتاهمدت و درست (مثل 503 یا رمزگذاری استیجینگ جداگانه) آسیب جدی نمیزند. اما حذف کامل سایت از ایندکس برای مدت طولانی، بازگشت سختی دارد. گوگل توصیه میکند بهجای حذف کامل، عملکرد را محدود و سایت را آنلاین نگه دارید.
رمزگذاری کل دایرکتوری (مثلاً Directory Privacy در سیپنل). در این حالت هم ربات گوگل و هم هر کاربر بدون رمز با خطای 401 مواجه میشوند و هیچ محتوایی نمیبینند. این روش برخلاف robots.txt دسترسی را واقعاً میبندد و خطر ایندکسشدن تصادفی را حذف میکند.
به «تنظیمات → خواندن» در پیشخوان وردپرس بروید و وضعیت گزینه «از موتورهای جستجو بخواهید این سایت را نمایه نکنند» را ببینید. همچنین میتوانید با ابزار URL Inspection در سرچ کنسول بررسی کنید که آیا صفحهها noindex هستند یا نه.
این افزونهها معمولاً یک صفحه «در حال نگهداری» نشان میدهند و بسته به تنظیمات میتوانند پاسخ 503 برگردانند. برای بستن کوتاهمدت مناسباند، اما برای پنهانکردن طولانی یک نسخه استیجینگ، رمزگذاری دایرکتوری انتخاب امنتری است.