طراحی و سئو سایت



فایل روبوت robots.txt چیست و چگونه این فایل را بسازیم و بهترین و مناسب ترین فایل روبوت برای وردپرس و جوملا چیست، پاسخ به همه این پرسش‌ها را می‌توانید در این مقاله از سایت میزفا مطالعه نمایید. همچنین در این مقاله ۸ مثال کاربردی درباره فایل روبوت (ربات) گفته شده است.

سرفصل‌های پست [

مخفی کردن]

  • 1 فایل robots.txt چیست

  • 2 فایل robots.txt باید در چه آدرسی قرار دهیم؟

  • 3 نحوه ساخت فایل robots.txt

  • 4 نمونه دستورات در فایل Robots.txt

    • 4.1 مثال یک

    • 4.2 مثال دو

    • 4.3 مثال سه

    • 4.4 مثال چهار

    • 4.5 مثال پنج

    • 4.6 مثال شش

    • 4.7 مثال هفت

    • 4.8 مثال هشت

  • 5 تست فایل robots.txt در سرچ کنسل گوگل

  • 6 چند نکته پایانی درباره فایل robots.txt

فایل robots.txt چیست

فایل robots.txt یک فایل متنی است که به‌وسیله آن خط‌مشی برای ربات موتورهای جستجو تعیین می‌کنیم که چه آدرس‌هایی را خزش و ایندکس کنند و چه آدرس‌هایی را خزش و ایندکس نکنند. توجه داشته باشید که ماهیت خزش با ایندکس فرق دارد، یک ربات باید در ابتدا خزشی را صورت بدهد و سپس تصمیم می‌گیرد که آن را در دیتابیس موتورهای جستجو ذخیره کند یا نه. اگر ذخیره شود عمل ایندکس رخ‌داده است. ما در این مقاله از سایت میزفا به نحوه ایجاد و ساخت فایل robots.txt می‌پردازیم و شما با خواندن این مقاله صرف نظر از اینکه چه نوع CMS (وردپرس، جوملا و …) دارید، می‌توانید این فایل را ایجاد و مدیریت کنید.

موتورهای جستجو با خزیدن در میان صفحات سایت شما، آن‌ها را ایندکس می‌کند و با دنبال کردن لینک‌ها وارد صفحات یا سایت‌های دیگر می‌شوند. هر ربات استانداردی قبل از خزیدن صفحه‌ای از یک دامنه، ابتدا فایل robots.txt را می‌خواند و بر اساس دستورات موجود در این فایل، اجازه خزیدن را پیدا می‌کند تا بتواند ایندکس را انجام دهد. پس باید دقت داشته باشید که چه صفحاتی را برای خزیدن منع می‌کنید چراکه اگر به‌اشتباه صفحات مهم خود را مخصوصاً صفحات فرود یا همان لندینگ پیج را از طریق این فایل برای ربات‌ها مسدود کنید ضربه بدی به سئو سایت و درنتیجه تجارت آنلاین خود وارد می‌کنید. (اهمیت و نحوه ساختن صفحات فرود یا لندینگ پیج را می‌توانید به همراه مثال در مقاله جامع صفحه فرود چیست بخوانید)

فایل robots.txt نیز برای ربات‌ها نوشته می‌شود ولی جالب آن است که بدانید چنین فایلی برای انسان‌ها هم داریم، فایلی با نام humans.txt که ماهیت آن‌یک پیام برای کاربران و بازدیدکنندگان سایت شما است که اصولاً به زبان انگلیسی نوشته می‌شود.

نمونه فایل robots.txt و فایل humans.txt برای سایت گوگل:

https://www.google.com/humans.txt

https://www.google.com/robots.txt

فایل robots.txt باید در چه آدرسی قرار دهیم؟

بعد از ساخت فایل robots.txt با فرمت ASCII یا UTF-8 باید این فایل حتماً در آدرس http://domain.com/robots.txt مورد دسترسی ربات‌ها قرار گیرد. حال دو نکته درباره این موضوع:

  • اگر ربات خزنده قصد داشته باشد به زیر دامنه‌های ما سر بزند باید برای هر زیردامنه یک فایل robots.txt جداگانه ایجاد کنیم.
  • اگر سایت شما هم با www و هم بدون www باز می‌شود باید فایل robots.txt را در هر دو حالت یکسان تنظیم کنید همین موضوع برای http و https هم صدق می‌کند ولی به این نکته توجه داشته باشید که اگر سایت به این شکل در دسترس باشد باعث ایجاد محتوای تکراری می‌شود که برای سئو داخلی سایت به‌شدت ضرر است و یکی از دلایل پنالتی شدن سایت در گوگل می‌باشد، چراکه تمام دامنه‌های زیر از نگاه گوگل یک سایت مجزا محسوب می‌شود. ولی درباره این فایل بدانید که اگر دامنه‌های زیر شما جداگانه باز می‌شود گوگل برای خواندن فایل robots.txt دامنه http را اولویت قرار می‌دهد.
    http://www.site.com
    https://www.site.com
    http://site.com
    https://site.com
  • ممکن است شما قصد داشته باشید آدرسی از صفحات را ربات خزش کند و لینک‌های آن صفحات را بررسی کند ولی در نتایج آن صفحه را نمایش ندهد در این صورت شما نمی‌توانید از این فایل برای چنین عملی استفاده کنید و بهتر است از متاتگ ربات برای این موضوع استفاده کنید. اگر قصد دارید این روش را به شکل بهینه انجام دهید مقاله متاتگ robots ما را حتماً بخوانید تا به نکات جالبی درباره این متاتگ دست پیدا کنید.
  • نکته مهم دیگر اینکه حتما فایل robots.txt باید با حروف کوچک نوشته شود و همانند URL نام این فایل به حروف کوچک و بزرگ حساس است. به عنوان مثال آدرس‌های زیر کاملا با هم فرق دارند. و فقط اولی آدرس درست و صحیح می‌باشد.
    mizfa.com/robots.txt
    mizfa.com/robotS.txt
    mizfa.com/robots.TXT
    mizfa.com/Robotx.txt
    mizfa.com/ROBOTS.txt

چند مثال برای درک بهتر مکان صحیح فایل robots.txt

آدرس فایل robots.txt معتبر بودن فایل در آدرس‌های معتبر نبودن فایل در آدرس‌های توضیحات بیشتر
http://example.com/robots.txt http://mizfa.com/
http://mizfa.com/blog/file
http://mizfa.academy/
https://mizfa.com/
http://mizfa.com:8181/
برای دامنه‌هایی که با پورت باز می‌شوند و همینطور زیر دامنه ها آدرس فایل robots.txt متعبر نیست
و فقط برای همان دامنه و تمام فولدرهای آن معتبر است.
http://www.example.com/robots.txt http://www.mizfa.com/ http://mizfa.com/
http://service.www.mizfa.com/
http://www.mizfa.academy/
هر زیر دامنه و همینطور دیگر ورژن‌های زیر دامنه باید یک فایل robots.txt داشته باشد و همینطور دیگر ورژن‌های دامنه اصلی مگر ریدایرکت اصولی صورت گیرد.
http://example.com/blog/robots.txt     چنین آدرس فایلی اصلا توسط ربات‌ها خزش نمی‌شود.

نحوه ساخت فایل robots.txt

اگر در دامنه خود به آدرس http://domain.com/robots.txt مراجعه کرده باشید و خطایی را مشاهده کنید به معنی نداشتن این فایل در سایت شما می‌باشد. کافی است به کنترل پنل خود رفته حال اگر کنترل‌پنل سی‌پنل باشد محیطی شبیه عکس زیر دارد. در ریشه سایت یک فایل ساده ایجاد کرده و فرمت و نام آن را robots.txt درج کنید.

ساخت robots.txt در سی پنل
ساخت robots.txt در سی پنل

در مقاله Create a robots.txt file گوگل هم به نحوه ساختن و پرداختن چند مثال اشاره کرده است، در ادامه به تعریف سه کیورد می‌پردازیم.

User-agent : نام ربات موردنظر را جلوی این عبارت می‌نویسیم که البته حساس به حروف کوچک و بزرگ نیست ( به عبارت دیگر non case sensitive است). با استفاده از کیورد user-agent می‌توانید ربات خاصی را هدف گرفته یا به‌طورکلی، دستوری را خطاب به همه آن‌ها درج کنید. گاهی بعضی از موتورهای جستجو ربات‌های مختلفی نیز دارند همانند موتور جستجوی گوگل که برای تصاویر، اخبار و موارد دیگر ربات خاص خود را دارد. در ادامه مثال‌های متنوعی خواهیم زد تا بهتر به این امر پی ببرید.

لیست ربات‌های معروف در عکس زیر:

لیست ربات‌های معروف

لیست ربات‌های معروف

 

اگر قصد دارید اطلاعات بیشتری درباره ربات‌های گوگل کسب کنید این مقاله موجود در سایت گوگل را مطالعه فرمایید.

Disallow : مقابل این کیبورد دایرکتوری را درج می‌کنید که قصد ندارید ربات آن را ایندکس کند. بعد از عبارت User-agent می‌توانید در هرچند بار که لازم باشد از Disallow استفاده نمایید. به این نکته مهم توجه کنید که ربات موتورهای جستجو به حروف کوچک و بزرگ در دایرکتوری‌ها حساس هستند. در ادامه مثال‌های متنوعی خواهیم زد تا بهتر به این امر پی ببرید.

Allow برعکس دستور Disallow است هرچند دستور Allow غیررسمی است ولی توسط اکثر ربات‌های معروف شناخته‌شده است.

نمونه دستورات در فایل Robots.txt

مثال یک

مثال زیر در خط اول شامل همه ربات موتورهای جستجو می‌شود چراکه با علامت ستاره درج‌شده است و خط دوم با / درج شده و شامل کل آدرس‌های یک دامنه می‌شود، بنابراین دستور زیر به این معنی است که هیچ‌یک از موتورهای جستجو مجاز به خزیدن سایت شما نباشند.

User-agent: *
Disallow: /

 

مثال دو

دستور زیر برعکس دستور بالا می‌گویید همه ربات‌های موتورهای جستجو به کلیه آدرس‌های سایت دسترسی دارند.

User-agent: *
Disallow:
مثال از فایل robots.txt
خلاصه تصویری از دو مثال بالا

مثال سه

دستور زیر به این معناست که فقط ربات گوگل دسترسی به پوشه blog را ندارد و این شامل همه زیرپوشه‌های blog هم می‌شود یعنی هم شامل آدرس mizfa.com/blog می‌شود و هم شامل آدرس‌های به‌مانند mizfa.com/blog/example نیز می‌شود. در این شرایط بقیه ربات‌ها به‌جز گوگل دسترسی به این دایرکتوری رادارند.

 

User-agent: googlebot
Disallow: /blog

 

مثال چهار

همان‌طور که گفتیم موتورهای جستجو ممکن است تعداد ربات‌های زیادی برای موارد خاص داشته باشند برای همین اولویت هم برای آنان مهم است. درصورتی‌که در فایل robots.txt دستوراتی را درج کرده باشید که چند بلاک مختلف آن‌ها برای یک ربات (خزنده) صادق باشد، ربات موتور جستجو همیشه دستوری را که به‌طور واضح‌تر به آن ربات خاص اشاره می‌کند انتخاب کرده و دستورات همان بخش را اجرا خواهد کرد. مثلاً فرض کنید اگر فایل robots.txt همانند دستور زیر یک بلاک مخصوص Googlebot و یک بلاک مخصوص Googlebot-Video وجود داشته باشد. در این حالت اگر ربات عکس گوگل (Googlebot-Image) وارد سایت شما شود، در میان این بلاک‌ها از اولی پیروی خواهد کرد و اگر ربات ویدیو گوگل (Googlebot-Video) وارد سایت شود، از بلاک دومی پیروی خواهد کرد و دستورات بلاک اولی را نادیده گرفته چراکه بلاک دومی برای آن در اولویت است.

 

User-agent: Googlebot
Disallow: /Photo

User-agent: Googlebot-Video
Allow: /blog

مثال پنج

شما می‌توانید از عبارات منظم (Regular Expression) هم برای استفاده در دستورات فایل robots.txt استفاده کنید هرچند به شکل رسمی این عبارات منظم در این فایل تعریف‌نشده است ولی اکثر ربات‌های معروف در دنیا از عبارات منظم نیز پشتیبانی می‌کنند. مثلاً در دستور نیز اشاره‌شده که کلیه ربات‌ها به فایل‌ها با پسوند pdf که در فولدر (دایرکتوری) test وجود دارند، غیرمجاز است و نباید دسترسی داشته باشند.

User-agent: *
Disallow: /test/*.pdf

 

 

مثال شش

حال قصد داریم کمی درباره وردپرس حرف بزنیم و یک فایل robots txt برای وردپرس به شکل بهینه شده و مناسب ایجاد کنیم. دستور زیر که در بسیاری از سایت‌های وردپرس استفاده می‌شود به این معناست که تمام ربات‌ها به پوشه ادمین wp-admin دسترسی نداشته باشند ولی به فایل admin-ajax.php که در این پوشه هست دسترسی پیدا کنند. البته بودن چنین دستوراتی در فایل robots.txt ضرری هم ندارد هر چند ربات توانایی وارد شدن به محیط ادمین وردپرس را ندارد ولی خطا در کدنویسی هم از سمت گوگل و هم از سمت ما طبیعتا امکان‌پذیر است. اگر توجه کرده باشید ما در این مقال یک بار از کیورد User-agent استفاده کردیم و سپس ۲ خط دستور وارد کردیم، شما می‌توانید به تعداد دلخواه دستورات لازم را در هر خط وارد نمایید.

User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php

 

 

مثال هفت

یکی دیگر از دستورات رایج و اشتباه از نگاه یک متخصص سئو در فایل robots.txt وردپرس که در بسیاری از سایت‌های معروف ایرانی استفاده می‌شود کدهای زیر می‌باشند. بنده شخصاً در هیچ‌یک از سایت‌های معتبر خارجی که دارای سیستم مدیریت محتوا وردپرس هستند چنین کدهایی را پیدا نکردم. عدم دسترسی به wp-includes که در آن یک سری فایل‌های مهم مثل جی کوئری است باعث می‌شود سایت به آن شکلی که باید برای موتور جستجو نمایش دهد خروجی نگیرد. سایت‌های مثل یوآست، نیل پتل، searchengineland و ده‌ها سایت معروف وردپرس که در مبحث سئو صاحب‌نظرهای جهانی هستند از چنین دستوراتی که باعث عدم دسرسی به فایل‌های wp-includes می‌شود استفاده نمی‌کنند حتی سایت یوآست در این مقاله اشاره‌کرده چنین دستوراتی اشتباه است و باعث مسدود شدن ربات‌ها به بعضی فایل‌ها می‌شود که برای سئو سایت خوشایند نیست.

User-agent: *
Disallow: /wp-admin/
Disallow: /wp-includes/

 

مثال هشت

دستور زیر وقتی کاربرد دارد که شما در آدرس‌های خود کاراکتری مانند ? را داشته باشید چراکه گاهی به دلیل مشکلات فنی در سایت، مقاله شما ممکن است با آدرس‌های مختلف و با مقادیر متفاوت انتشار پیدا کند. به همین منظور دستور زیر را به شکل موقت درج می‌کنید تا ربات‌ها آدرس‌های را کاراکتر علامت سؤال را ایندکس نکنند.

User-agent: *
Disallow: /*?*

 

اگر به دنبال مثال های بیشتری هستید مقاله Robots.txt Specifications گوگل هم می‌تواند برای شما مفید باشد.

تست فایل robots.txt در سرچ کنسل گوگل

در نهایت بعد از ساختن فایل robots.txt نوبت به تست و صحت کارکرد آن می‌رسد. گوگل در قسمتی از سرچ کنسول خود شرایط رایگانی برای تست فایل robotx.txt فراهم کرده است.  به این منظور وارد سرچ کنسول (وبمسترتو) شوید. ( اگر به دنبال یادگیری حرفه ای سرچ کنسول هستید حتما سری به آموزش سرچ کنسول وبسایت میزفا بزنید)

Webmasters ccount Sign In
در منوهای موجود سرچ کنسول Crawl” را انتخاب کنید.

Webmasters ccount crawl

سپس زیرمنوی  robots.txt Tester.” را انتخاب کرده تا ابزار تست این فایل را مشاهده کنید.

Webmasters ccount robots.txt

در سمت راست دستوراتی را مشاهده می‌کنید که در فایل robots.txt درج کرده بودید. این نشان دهنده این است که شما به درستی این فایل را ایجاد کرده‌اید و مکان آن صحیح است.

تست فایل robots.txt در وبمسترتو

اگر قصد دارید مطمئن شوید که آیا ربات به آدرسی دسترسی دارد یا نه، می‌توانید در قسمت Enter a URL to test if it is blocked” آدرس را وارد کنید و نوع ربات گوگل را هم مشخص نمایید و دکمه تست را بزنید

دکمه test فایل robots.txt در وبمسترتو گوگل

اگر با پیغام ALLOWED” مواجه شدید به معنای آن است که ربات گوگل به آن دایرکتوری دسترسی دارد در غیر این صورت با پیغام BLOCKED” روبه‌رو می‌شوید که بنی بر آن است که ربات دسترسی به آن آدرس (دایرکتوری) را ندارد.

اطلاعات بیشتر درباره تست فایل robots.txt در سایت گوگل مشاهده کنید.

چند نکته پایانی درباره فایل robots.txt

  • ربات‌های خزنده و یا بعضی ربات‌های موتورهای جستجو ممکن است به دستورات موجود در فایل robots.txt که درج‌شده را نادیده بگیرند. مخصوصاً ربات‌های اسپم یا مالور (malware robots) که برای آسیب‌پذیری، سایت‌ها را بدون توجه به این مسائل اسکن می‌کنند. و به دنبال ایمیل کاربران یا موارد دیگر هستند.
  • ممکن است متدهای فایل robots.txt را با متاتگ robots به اشتباه بگیرید برای همین پیشنهاد می‌شود که حتما مقاله کوتاه و مفید تفاوت فایل robots.txt با متاتگ robots را بخوانید.
  • موتورهای جستجو محتوای فایل robots.txt را کش می‌کنند اما معمولا محتوای کش شده را روزی حداقل یک بار به روز رسانی می‌کنند با این حال شما اگر تمایل دارید بعد از تغییرات در این فایل، موتورهای جستجو سریع‌تر کش را آپدیت کنند فایل خود را در این آدرس گوگل ارسال کنید.

امیدوار هستم فرآیند ساخت و نحوه ایجاد صحیح این فایل را در سایت خود فرا گرفته باشید و جدا از اینکه آیا وردپرس ، جوملا و یا هر CMS دیگری دارید می‌توانید به راحتی robots.txt بسازید، هر چند ما مثال برای ایجاد فایل robots.txt برای وردپرس و دیگر سی ام اس ها مثل جوملا را هم زدیم.

راستی اگر شما هم تجربه‌ی درباره نحوه کارکرد و ساخت فایل robots.txt دارید خوشحال میشیم در نظرات به اشتراک بگذارید

 


ریدایرکت ۳۰۱ یا Redirect 301 چیست را سعی خواهیم کرد به زبان ساده و در قالب مثال به شما توضیح دهیم و همینطور نحوه ریدایرکت کردن 301 و اینکه چطور می‌توانیم در وردپرس WordPress، سی پنل Cpanel و یا فایل .htaccess انتقال آدرس یا همان ریدایرکت را با کد و همینطور بدون کد انجام دهیم را به شما به سادگی یاد خواهیم داد و سعی خواهیم کرد در قالب آموزش تاثیر و اهمیت دستور ریدایرکت ۳۰۱ در سئو را هم به شما بگویم. همراه میزفا باشید.

ما در این مقاله از چند اصطلاح فنی در سئو استفاده کرده‌ایم که برخی از آن‌ها را در ابتدا تعریف می‌کنیم تا خواندن این مقاله برای شما داده تر باشد.

  • ایندکس index: ایندکس یعنی در نتایج گوگل یک آدرسی وجود دارد. درواقع هر آدرسی در نتایج وجود دارد یعنی فچ شده است.
  • سرچ کنسول Search Console: سرچ کنسول یک ابزار قوی و رایگان برای مدیریت وبسایت شما در نتایج گوگل است که آموزش سرچ کنسول را می‌توانید مشاهده کنید.
  • فچ کردن Fetch: یک عمل برای فراخوانی ربات‌های گوگل است که در سرچ کنسول صورت می‌گیرد.
  • کنونیکال Canonical: برای انتقال اعتبار یک آدرس به آدرس دیگر نزد گوگل بدون ارجاع دادن کاربر استفاده می‌شود، اگر به دنبال مقاله خوب درباره کنونیکال هستید حتما مقاله جامع تگ کنونیکال را مطالعه بفرمایید.

سرفصل‌های پست [

مخفی کردن]

  • 1 برای درک بهتر ریدایرکت 301 بخوانید

  • 2 ریدایرکت 301 چیست؟

  • 3 تأثیر ریدایرکت 301 بر سئو

  • 4 چه زمانی از ریدایرکت 301 استفاده می‌کنیم؟

  • 5 آموزش ریدایرکت 301 به روش های مختلف

    • 5.1 ریدایرکت 301 در Cpanel  (سی پنل)

    • 5.2 ریدایرکت 301 در وردپرس + معرفی بهترین افزونه

    • 5.3 کد ریدایرکت های کاربردی 301 به کمک فایل .htaccess

  • 6 اشتباهات رایج استفاده از ریدایرکت 301

  • 7 مثال از انجام ریدایرکت 301 و انتقال دائمی آدرس صفحات یک سایت

  • 8 پایان

برای درک بهتر ریدایرکت 301 بخوانید

 

برای آشنایی بهتر شما با مفهوم ریدایرکت 301 یا ریدایرکت دائمی، مقاله امروز را با چند مثال ساده شروع می‌کنیم. در مثال‌های زیر به این فکر کنید که در این موقعیت‌ها چه راهکاری پاسخگو خواهد بود:

  • سرچ کنسول را باز کرده‌اید و گزارش‌های مختلف آن را بررسی می‌کنید. متوجه می‌شوید که بعضی آدرس‌ها با www ایندکس شده‌اند و برخی دیگر بدون www.
  • در گزارشات سرچ کنسول با پیغامی این چنینی رو به رو می‌شوید:
    duplicated without user selected canonical.

    وقتی جزئیات گزارش را می‌بینید متوجه می‌شوید که ربات‌های گوگل 2 آدرس کاملا یکسان از سایت شما را فچ کرده‌اند و یکی را به عنوان کنونیکال دیگری در نظر گرفته‌اند. مثلا 2 آدرس این چنینی :

    www.example.com/aboutus
    www.example.com/aboutUS

    این در حالی است که شما برای صفحه ” درباره ما” سایت خود تنها یک صفحه با آدرسی مشخص  به شکل  www.example.com/aboutus در نظر گرفته‌اید.

  • در حال تست بعضی از آدرس‌های سایتتان هستید که متوجه می‌شوید سیستم آدرس‌دهی شما به صورت Unlimited URL است. این حالت زمانی اتفاق می‌افتد که شما بعد از شناسه منحصر به فرد آدرس یک صفحه به عنوان مثال ID یک محصول، هر چیزی که تایپ کنید به یک آدرس جدید با همان محتوای قبلی می‌روید. مثلا آدرس‌های زیر را در نظر بگیرید که هر 3 به یک صفحه اشاره دارند و این حالت به صورت نامحدود برای آدرس‌ها اتفاق می‌افتد:
    www.example.com/cotton/14897/new-products-season1
    www.example.com/cotton/14897/new-products-season2589
    www.example.com/cotton/14897/its

    اگر تا کنون به این مشکل برنخورده باشید، درک این حالت برایتان کمی سخت خواهد بود. اما واقعیت این است که سایت‌هایی وجود دارند که این مورد در آن‌ها اتفاق می‌افتد.

  • بنا به مسائلی تصمیم می‌گیرید اسم دامنه سایت خود را به طور کلی تغییر دهید. به عنوان مثال سایت شما قبلا با آدرس mizfa.ir در دسترس بوده است و از امروز تصمیم می‌گیرید سایت شما بر روی دامنه mizfa.com قرار بگیرد.
  • به شما گفته شده تاثیر SSL در سئو خوب است و شما SSL را فعال می‌کنید، که در اینصورت آدرس تمام صفحات شما با https  آغاز می‌شود و شما از هر صفحه 2 نوع آدرس دارید. یکی با https و دیگری بدون https یعنی با http.

برای حل مشکلات این چنینی چه راه حلی مد نظر شماست؟ استفاده از تگ کنونیکال؟ حذف URL ها؟ و یا یک راه بهتر؟

ریدایرکت 301 چیست؟

ریدایرکت 301 انتقال دائمی یک آدرس به آدرسی دیگر است.  با انجام ریدایرکت 301  روی یک آدرس، کاربران و حتی موتورهای جست و جو از آدرسی که در نتایج جست و جو دیده‌اند یا آدرسی که مستقیما وارد قسمت جست و جوی مرورگر خود کرده‌اند؛ به آدرسی جدید منتقل می‌شوند. به عبارت دیگر با ریدایرکت کردن دائمی آدرس یک صفحه، کاربر را به مسیری جدید از سایت خود هدایت می‌کنید.

ریدایرکت 301 مثل یک چتر عمل می‌کند که تمام آدرس‌های شبیه به هم را به کمک یک انتقال آدرس دائمی در یک جا جمع کرده و به یک نقطه هدایت می‌کند. در این صورت صفحاتی که آدرس‌دهی متفاوتی دارند تنها با یک آدرس به موتورهای جست و جو شناسانده می‌‍شوند. این نوع استفاده از ریدایرکت 301 باعث می‌شود صفحات به درستی از گوگل اعتبار  بگیرند.

تأثیر ریدایرکت 301 بر سئو

قبل از اینکه به نحوه اثر گذاری ریدایرکت 301 بر سئو کل سایت یا تک صفحه ها بپردازیم، این نکته را به یاد داشته باشید که کوچک‌ترین تغییر در ساختار آدرس‌دهی صفحات می‌تواند بر روی رتبه شما در نتایج جست و جوی گوگل تأثیرگذار باشد. به همین علت است که برای نگهداری از جایگاه فعلی آدرس‌هایی که احتیاج به انتقال دائمی دارند نیازمند استفاده از ریدایرکت 301 هستید.

با ریدایرکت کردن یک دامنه یا یک آدرس، شما تمام رنک‌های مربوط به آدرس قبلی را به آدرس جدید منتقل می‌کنید. این رنک ها شامل

  • Page Rank
  • MOZ Rank
  • Page Authority
  • Traffic Value

می‌باشند.

از طرفی با ریدایرکت کردن یک آدرس به گوگل می‌فهمانید که آدرس قبلی را از ایندکس خود حذف کرده و آدرس جدید را جایگزین آدرس قدیمی کند.

چه زمانی از ریدایرکت 301 استفاده می‌کنیم؟

اگر پاسخی برای سوال‌های ابتدای مقاله پیدا نکردید نگران نباشید. تمام موقعیت‌های فرضی که در بالا به آن‌ها اشاره شد با انجام ریدایرکت 301 یا انتقال دائمی آدرس صفحات حل خواهند شد. به طور کلی می‌توان گفت از ریدایرکت 301 در 3 حالت کلی زیر استفاده می‌شود:

  • ریدایرکت کامل یک دامنه به دامنه دیگر
  • سازماندهی آدری‌هاس dynamic یا Unlimited URL ها به یک آدرس کوتاهتر که مورد پسند موتورهای جست و جو هم باشد.
  • جلوگیری از تولید محتوای تکراری
  • رفع 

    خطای 404

آموزش ریدایرکت 301 به روش های مختلف

ریدایرکت 301 در Cpanel  (سی پنل)

وارد سی پنل شوید و مطابق شکل در بخش Domains به قسمت Rediects (ریدایرکت) بروید.

ریدایرکت 301 در سی پنل
ریدایرکت 301 در سی پنل

در این قسمت در بخش اول نوع انتقال (Type) را مشخص کنید چرا که انتقال می‌تواند انواع مختلف ریدایرکت داشته باشد و ما در اینجا نوع ۳۰۱ را انتخب می‌کنیم. سپس دامنه مد نظر را در قسمت https?://(www.)? انتخاب کرده و بعد در بخش سوم آدرس قدیمی که قرار است به آدرسی جدید منتقل شود و در بخش چهارم آدرس جدید را وارد کنید.

انتخاب آدرسها در ریدایرکت 301
انتخاب آدرسها در ریدایرکت 301

به عنوان مثال اگر قرار است صفحه با آدرس mizfa.com/pageA به صفحه ای با آدرس mizfa.com/pageB ریدایرکت 301 شود باید در قسمت اول گزینه Permanent 301، در قسمت سوم PageA و در قسمت چهارم mizfa.com/pageB را وارد کنید.

ریدایرکت 301 در وردپرس + معرفی بهترین افزونه

اگر از سیستم مدیریت محتوای وردپرس استفاده می‌کنید، افزونه‌های زیادی وجود دارند که کار ریدایرکت را برای شما انجام می‌دهند. یکی از افزونه‌هایی که سایت رسمی وردپرس حدودا 9 ماه قبل آن را به روز رسانی کرده است افزونه Simple 301 Redirect است در این لینک می‌توانید مشاهده کنید.

اگر نسخه کامل افزونه Yoast  را در اختیار دارید می‌توانید از بخش Redirect Manager (به فارسی تغییر مسیر” نام گذاری شده است) صفحات خود را ریدایرکت ۳۰۱ تعریف کنید.  با توجه به شکل زیر یکی از انواع ریدایرکت ها را انتخاب کنید. ( برای ریدایرکت 301 گزینه اول را انتخاب کنید.)

حال مطابق آنچه در آموزش ریدایرکت 301 در سی پنل اشاره کردیم قسمت‌های مختلف این افزونه را می‌توانید به راحتی پر کنید.

ریدایرکت 301 در یواست وردپرس
ریدایرکت 301 در یواست وردپرس

یکی دیگر از افزونه‌های وردپرس که به انتقال اتوماتیک یک صفحه به صفحه دیگر به شما کمک می‌کند، افزونه Quick Page/Post Redirect است. کار کردن با این افزونه نیز بسیار ساده است و تنها کافی است نوع ریدایرکت و آدرس‌های قدیم و جدید را داخل آن وارد کنید.

ولی اگر شما نسخه حرفه ای افزونه یوآست را ندارید و به دنبال بهترین افزونه ریدایرکت وردپرس برای انتقال آدرس ها هستید پیشنهاد میکنم افزونه redirection را حتما بررسی کنید. برای مشاهده این افزونه بر روی عکس زیر کلیک نمایید.

بهترین افزونه ریدایرکت وردپرس برای انتقال آدرس ها
بهترین افزونه ریدایرکت وردپرس برای انتقال آدرس ها

 

کد ریدایرکت های کاربردی 301 به کمک فایل .htaccess

شاید گاهی دوست داشته باشید بدون افزونه عمل ریدایرکت ۳۰۱ را صورت دهید، اگر می‌خواهید به صورت مستقیم با تغییر فایل‌های سمت سرور، ریدایرکت را انجام دهید در نظر داشته باشید که ما کدهای مختلفی را می‌توانیم به کمک فایل .htaccess  درج کنیم، مثلا یک دامنه به یک دامنه دیگر و یا یک آدرس را به یک آدرس دیگر منتقل کرد و یا حتی یک سری آدرس‌ها را به یک آدرس خاص انتقال داد. حال تا با توجه به نیاز خودتان یکی از آن‌ها را استفاده کنید.

کد ۱

فقط مثالی که از وبسایت میزفا زدیم را فراموش نکنید تا بهتر درک کنید، ما قصد داریم pageA را به pageB در دامنه mizfa.com انتقال دهیم.

کد ریدایرکت 301  یک آدرس به آدرس دیگر در همان دامنه

Redirect 301 /pageA /pageB

 

کد ۲

کد ریدایرکت 301 یک آدرس به آدرس دیگر در دامنه‌ای غیر از دامنه خودتان

Redirect 301 /pageA https://newmizfa.com/pageB

 

کد ۳

کد ریدایرکت 301 دامنه قدیمی به دامنه ای جدید در .htaccess

در اینجا mizfa.ir یک دامنه قدیم است و mizfa.com یک دامنه جدید است. تست کنید همین الان mizfa.ir را در مرورگر خودتان تایپ کنید.

# Note by mizfa: Redirect from old-website to new-website
RewriteEngine on
RewriteCond %{HTTP_HOST} ^mizfa.ir [NC,OR]
RewriteCond %{HTTP_HOST} ^www.mizfa.ir [NC]
RewriteRule ^(.*)$ https://mizfa.com/$1 [L,R=301,NC]

کد ۴

کد ریدایرکت 301 کل صفحات و همینطور دامنه قدیمی به کل صفحات در دامنه جدید به کمک فایل .htaccess

در اینجا اگر هر ادرسی از دامنه mizfa.ir تایپ کنیم همان آدرس در دامنه mizfa.com به خوبی باز می‌شود. مثلا ادرس mizfa.ir/seo تایپ کنید و کد زیر را قرار دهید آدرس mizfa.com/seo باز می‌شود.

<IfModule mod_rewrite.c>
RewriteEngine on
RewriteRule ^(.*)$ https://mizfa.com/$1 [R=301,L]
</IfModule>

کد ۵

کد ریدایرکت 301 آدرس بدون www به آدرس با www  در .htaccess

مثلا اگر قصد دارید آدرس mizfa.com را به www.mizfa.com انتقال دهید این کد مناسب است. به http و https بودن دامنه خود دقت داشته باشید و همینطور به جای دامنه میزفا، دامنه خود را وارد کنید.

# Note by mizfa: Redirect from non-www to www
RewriteEngine on
RewriteCond %{HTTP_HOST} ^mizfa.com [NC]
RewriteRule ^(.*)$ https://www.mizfa.com/$1 [L,R=301,NC]

کد ۶

کد ریدایرکت 301 آدرس با www به آدرس با www در .htaccess

مثلا اگر قصد دارید آدرس www.mizfa.com را به mizfa.com انتقال دهید این کد مناسب است. به http و https بودن دامنه خود دقت داشته باشید و همینطور به جای دامنه میزفا، دامنه خود را وارد کنید.

# Note by mizfa: Redirect from www to non-www
RewriteEngine on
RewriteCond %{HTTP_HOST} ^www.mizfa.com [NC]
RewriteRule ^(.*)$ https://mizfa.com/$1 [L,R=301,NC]

کد ۷

کد ریدایرکت 301 آدرس http به آدرس https با .htaccess

اگر قصد دارید مثلا آدرس http://mizfa.com را به https://mizfa.com انتقال دهید کد زیر گزینه مناسبی است، توجه به www و یا بدون www بودن دامنه خود داشته باشید و فقط خط آخر را بر این اساس مد نظر داشته باشید.

# Note by mizfa: Redirect from http to https
RewriteEngine On 
RewriteCond %{SERVER_PORT} 80
RewriteCond %{HTTP_HOST} ^(www\.)?mizfa\.com
RewriteRule ^(.*)$ https://mizfa.com/$1 [R,L]

کد ۸

اینم یک کد دیگه که مستقل از دامنه است.

# Note by mizfa: Redirect from http to https
<IfModule mod_rewrite.c>
RewriteEngine On
RewriteCond %{HTTPS} off
RewriteRule ^(.*)$ https://%{HTTP_HOST}%{REQUEST_URI} [L,R=301]
</IfModule>

 

 

کد ۹

کد ریدایرکت 301 برای انتقال آدرس های AMP به بدون AMP در .htaccess

اگر شما از افزونه های AMP وردپرس استفاده کرده باشید و بعد از مدتی این افزونه را غیرفعال بکنید، آدرس هایی که افزونه amp ایجاد کرده خطاهای 404 می‌دهد و شما در سرچ کنسول این خطاها را کم کم شاهد خواهید بود. اگر به هر دلیلی دیگر قصد فعال سازی صفحات amp وردپرس را ندارید کد زیر را در فایل .htaccess درج کنید.

# Note by mizfa: Redirect from AMP to non-AMP
RewriteEngine On
RewriteCond %{REQUEST_URI} (.+)/amp(.*)$
RewriteCond %{REQUEST_URI} !^/wp-content/(.*)$ 
RewriteRule ^ %1/ [R=301,L]

 

اگر از افزونه redirection وردپرس که بالا اشاره کردیم استفاده می‌کنید می‌توانید تنظیمات آن را به شکل زیر پیاده سازی کنید تا ادرس های amp به بدون amp انتقال پیدا کند.

Source URL: /(.*)\/amp

Target URL: https://www.yourdomain.com/$1

 

البته سایت htaccessredirect هم موجود است و میتونید حتی کد ریدایرکت دلخواه بسازید.

اشتباهات رایج استفاده از ریدایرکت 301

اولین مشکل:

یکی از رایج‌ترین مشکلاتی که سئو کارها در هنگام انجام ریدایرکت یک آدرس دارند، ساختن زنجیره ریدایرکت است.

زنجیره ریدایرکت چیست؟

به مثال زیر توجه کنید:

صفحه الف”  قدیمی شده است. ریدایرکت 301 صفحه الف”  به صفحه ” ب”

صفحه ” ب”  قدیمی شده است. ریدایرکت صفحه ب” به صفحه ج”

صفحه ج” قدیمی شده است. ریدایرکت صفحه ج” به صفحه د”

صفحه د” صفحه مورد نظر است.

ریدایرکت زنجیره ای نامناسب

ریدایرکت زنجیره ای نامناسب

زنجیره ریدایرکت یکی از وحشتناک‌ترین اتفاقاتی است که در هنگام انتقال آدرس اتفاق می‌افتد. زمانیکه زنجیر ریدایرکت اتفاق می‌افتد رنک‌هایی که در بالا به آن‌ها اشاره کردیم نمی‌توانند به صفحات با آدرس‌های جدید منتقل شوند. آموزش رفع خطاهای gtmetrix را دنبال می‌کنید؟ در وبسایت GTmetrix فقط ۳ خطا وجود دارد که مربوط به همین ریدایرکت ها است و هشدار می‌دهد که پرهیز کنید از این نوع ریدایرکت‌ها، خطاها عبارت اند از:

  • رفع خطای Avoid landing page redirects
  • رفع خطای Minimize Redirects
  • رفع خطای Avoid URL redirects

جهت مشاهده رفع خطاهای بالا مقاله رفع خطای Avoid landing page redirects را مطالعه کنید.

برای حل این مشکل بهتر است ریدایرکت 301 را به شکل زیر اصلاح کنید:

صفحه الف” به صفحه د” ریدایرکت شود.

صفحه ب” به صفحه د” ریدایرکت شود.

صفحه ج” به صفحه د” ریدایرکت  شود.

ریدایرکت مناسب

ریدایرکت مناسب

 

دومین مشکل:

مشکل شایع در ریدایرکت کردن و یا همان انتقال دائمی آدرس‌های یک سایت، ریدایرکت دائمی صفحاتی که حذف شده‌اند به صفحه اصلی سایت است. به عبارت دیگر برخی ها هر آنچه که صفحات 404 دارند را به صفحه اصلی سایت انتقال می‌دهند. اگر می‌خواهید گوگل برای سایت شما ارزش قائل شود بهتر است کمی زمان صرف کرده و آدرس‌های حذف شده را به نزدیک‌ترین و مشابه‌ترین صفحه در سایت ریدایرکت کنید. حتی اگر گوگل را نیز در نظر نگیرید، لحظه ای به تجربه کاربری سایت خود و احساسی که کاربر با منتقل شدن به صفحه ای کاملا بی ارتباط با درخواستش خواهد داشت؛  فکر کنید.

مثال از انجام ریدایرکت 301 و انتقال دائمی آدرس صفحات یک سایت

حال زمان آن رسیده است که به طور کامل‌تری در خصوص مثال‌هایی که در ابتدای مقاله آوردیم بپردازیم.

  • اگر از داخل گزارش‌هایی که ابزارهای گوگل مثل سرچ کنسول یا هر ابزار دیگری در اختیار شما قرار می‌دهد متوجه شدید که آدرس‌ صفحات شما به شکل یکسانی نیست ( بعضی آدرس‌ها با www بعضی با https و …  باز می‌شود) به این معنی است که شما هنوز یک ساختار ثابت و مشخص آدرس‌دهی را برای صفحات خود تعریف نکرده اید.
    مثلا اگر آدرس همه صفحات به صورت https://example.com تعریف شود. در این حالت باید  به کمک ریدایرکت 301 آدرس‌های www به آدرس‌های بدون www  منتقل شوند و در ادامه آدرس‌های http  به آدرس‌های https ریدایرکت 301 شوند.
  • ربات‌های گوگل بر روی کوچک یا بزرگ بودن حروف زبان انگلیسی که بر روی آدرس‌ها قرار می‌گیرند حساس هستند. تمام آدرس‌هایی که بر اثر وجود یک اسلش اضافه، حروف کوچک و بزرگ یا ویرگول های اضافه از یک آدرس ایجاد شده اند را به آدرس اصلی ریدایرکت 301 کنید. راستی فکر می‌کنید آدرس فارسی بهتر است یا انگلیسی؟
  • در صورتیکه به تازگی از SSL استفاده می کنید یا دامین خود را تغییر داده‌اید باید این تغییرات آدرس را به کمک کد ریدایرکت 301 در سرور به اطلاع ربات‌های گوگل برسانید. آموزش ریدایرکت آدرس سایت از http به https را مطالعه کنید.
  • جلوی تولید آدرس‌های dynamic  در سایتتان را بگیرید. تمامی Unlimited URL هایی که برای یک محصول ایجاد شده اند را به آدرس اصلی محصول ریدایرکت 301 کنید تا محصول هم رنک درستی بگیرد و هم مشمول قانون محتوای تکراری نشود.

پایان

خب به انتهای مقاله رسیدیم و انتظار داریم شما در پایان بدانید که دقیقا ریدایرکت ۳۰۱ چیست و همینطور چه تاثیری در سئو و افزایش رتبه وبسایت شما در گوگل دارد. همینطور باید نحوه انتقال یک وبسایت با ریدایرکت ۳۰۱ را در وردپرس و همینطور سایت های غیروردپرسی بدانید و بتوانید با کد و همینطور بدون کد و به کمک افزونه ها عمل انتقال را انجام دهید. همینطور سعی شد خطاهای مهم در عمل ریدایرکت را کامل توضیح دهیم تا تاثیرات منفی در سئو وبسایت شما این عمل نداشته باشد.

البته به یاد داشته باشید که شما اگر از ابزار سرچ کنسول گوگل استفاده نکنید بزرگ ترین فرصت در جهت بهبود وبسایت خودتان در نتایج گوگل را از دست می‌دهید. چرا که بسیاری از خطاها که باید عمل ریدایرکت در آن صورت بگیرد به کمک ابزار سرچ کنسول گوگل شناخته می‌شود. پس حتما آموزش های سرچ کنسول میزفا را بخوانید. (در منو وبسایت موجود است)

از آنجاییکه انتقال یک آدرس به کمک ریدایرکت 301 ممکن است در ابتدای راه کمی پیچیده به نظر بیاید، حتما سوالات خود در این خصوص را با ما در میان بگذارید تا به اشتباه اعتبار صفحات سایتتان را در گوگل از دست ندهید.


آخرین ارسال ها

آخرین وبلاگ ها

آخرین جستجو ها