Как защититься от парсинга? Результат Панда. - Форум успешных вебмастеров - GoFuckBiz.com - Страница 2
 
 
Форум успешных вебмастеров - GoFuckBiz.com

  Форум успешных вебмастеров - GoFuckBiz.com > Бизнес-решения > Поисковые системы
Дата
USD/RUB90.2486
BTC/USD69269.3811
Поисковые системы Поисковая оптимизация под Google, Yahoo, Bing и т.д.

Закрытая тема
Опции темы Опции просмотра
Старый 24.09.2019, 14:37
Start Post: Как защититься от парсинга? Результат Панда. 
  #11
yuross
Senior Member
 
Регистрация: 26.09.2010
Сообщений: 226
Бабло: $68237
Question

Такая история:

Начали мои сайты потихоньку вылетать с топа (Google USA) по не понятным причинам (были проверены все возможные причины).

Начал анализировать оказывается, что повылетали отдельные страницы. Беру куски текста в кавычки и в Google. И как оказалось, тексты были размещены на десятках сайта и не на просто сайта на ломаных сайтах вордпресса. Мой оригинал внизу или даже в соплях, а весь лом выше. Показатели (траст) ломаных сайтов намного выше моих сайтов.

Дальше смотрю на этих ломах еще траффа на такие страницы валом.
На моих сайтах пострадали (полный вылет с топ 100) только те страницы которые были спарсены.

Проанализировал конкурентов их же также спарсили, и они ушли вниз. В топе остались только супер трасты – тексты, которых также растаскались то они не упали, а стали еще выше.

Так что выходит, берем аукционный трастовый домен и размещаем на нем ворованный текст с топа (слабого сайта который в топе) и получаем топ? (а тот сайт вылетает).

Подозреваю, что на мои сайты пришла постраничная Панда.

Что делать, как в хтаксесе отсекать эти парсеры? Или есть другие варианты?
yuross вне форума  
Старый 25.09.2019, 14:28   #12
Cisco
Senior Member
 
Аватар для Cisco
 
Регистрация: 13.01.2010
Сообщений: 898
Бабло: $138845
По умолчанию

Цитата:
Сообщение от blacks Посмотреть сообщение
Цитата:
Сообщение от Hector Посмотреть сообщение
blacks, просто включаешь i'm under attack, их анализатор на базе JS смотрит браузер юзера и принимает решение.
я думал можно это все в автоматич режиме сделать, или i'm under attack оставить и всё?)
эта заглушка от клауда может сильно влиять на отказы/возвраты на поиск - так как заставлят юзер ждать, а кого то и ботом может признать и вообще на сайт не пустить. кроме того никак не спасает от ручной кражи текстов. так что не рекомендовал бы ставить этот режим если вы не под ддос атакой или даже уровень параноидальности защиты я всегда ставлю на минимум. ибо скорость влияет на позиции и траф
__________________
Cisco вне форума  
Старый 26.09.2019, 18:21   #13
blacks
Senior Member
 
Аватар для blacks
 
Регистрация: 23.06.2008
Сообщений: 1,468
Бабло: $282970
По умолчанию

Цитата:
Сообщение от Cisco Посмотреть сообщение
Цитата:
Сообщение от blacks Посмотреть сообщение
Цитата:
Сообщение от Hector Посмотреть сообщение
blacks, просто включаешь i'm under attack, их анализатор на базе JS смотрит браузер юзера и принимает решение.
я думал можно это все в автоматич режиме сделать, или i'm under attack оставить и всё?)
эта заглушка от клауда может сильно влиять на отказы/возвраты на поиск - так как заставлят юзер ждать, а кого то и ботом может признать и вообще на сайт не пустить. кроме того никак не спасает от ручной кражи текстов. так что не рекомендовал бы ставить этот режим если вы не под ддос атакой или даже уровень параноидальности защиты я всегда ставлю на минимум. ибо скорость влияет на позиции и траф
ну вот я о том же, как сделать в автоматич режиме, чтобы защититься от простых парсеров
__________________
продам место для рекламы, контакты в ЛС
blacks вне форума  
Старый 26.09.2019, 19:07   #14
Hector
hustle
 
Аватар для Hector
 
Регистрация: 02.05.2008
Адрес: 3d world
Сообщений: 12,890
Бабло: $1717315
Отправить сообщение для Hector с помощью Jabber
По умолчанию

blacks, врядли ты сделаешь более эффективное решение, у клауда огромная база
Hector вне форума  
Старый 27.09.2019, 09:48   #15
ali3n
Юниор
 
Регистрация: 25.12.2017
Сообщений: 10
Бабло: $9140
По умолчанию

Цитата:
Сообщение от blacks Посмотреть сообщение
Цитата:
Сообщение от Cisco Посмотреть сообщение
Цитата:
Сообщение от blacks Посмотреть сообщение
Цитата:
Сообщение от Hector Посмотреть сообщение
blacks, просто включаешь i'm under attack, их анализатор на базе JS смотрит браузер юзера и принимает решение.
я думал можно это все в автоматич режиме сделать, или i'm under attack оставить и всё?)
эта заглушка от клауда может сильно влиять на отказы/возвраты на поиск - так как заставлят юзер ждать, а кого то и ботом может признать и вообще на сайт не пустить. кроме того никак не спасает от ручной кражи текстов. так что не рекомендовал бы ставить этот режим если вы не под ддос атакой или даже уровень параноидальности защиты я всегда ставлю на минимум. ибо скорость влияет на позиции и траф
ну вот я о том же, как сделать в автоматич режиме, чтобы защититься от простых парсеров
Можешь попробовать фоксисовского антибота, но там отдельно нужно немного заморочиться, если нужно пробрасывать ключевик в переменной на сайт или оригинальный реферер.
ali3n вне форума  
Старый 03.10.2019, 15:24   #16
DontCry
Юниор
 
Аватар для DontCry
 
Регистрация: 02.10.2019
Сообщений: 7
Бабло: $1740
По умолчанию

С защитой понятно.
А если УЖЕ произошло с сайтом то же, что и ТС описал. Как сайт обратно теперь вернуть на прежние позиции? Контент полностью менять на сайте? Больше никак?
DontCry вне форума  
Старый 03.10.2019, 16:54   #17
Facker
Senior Member
 
Регистрация: 30.11.2012
Сообщений: 600
Бабло: $93300
По умолчанию

Цитата:
Сообщение от DontCry Посмотреть сообщение
Как сайт обратно теперь вернуть на прежние позиции? Контент полностью менять на сайте? Больше никак?
Контент поменяешь, станешь в топ - его опять спарсят, и опять под сраку улетишь.
Ссылки, траст, решают... Об этом думай в первую очередь, а не о контенте...
Facker вне форума  
Старый 03.10.2019, 17:14   #18
Sekotka
Роботовладелец
 
Аватар для Sekotka
 
Регистрация: 20.10.2017
Сообщений: 378
Бабло: $49735
По умолчанию

С трудом себе представляю сайт, который невозможно спарсить нормальным парсером с нормальными проксями.

На моей памяти лишь один - он заставлял каждый 2-й запрос вводить капчу всех подряд пользователей, что, естественно, весьма и весьма отрицательно влияло на лояльность пользователей и ПФ. И то спарсить его было вполне возможно, просто не охота было возиться, т.к. особой ценности сайт не представлял.

Те варианты защиты что вы предлагаете (типа клаудфлейра) помогут только от школьника, который вчера скачал нулленый парсер.
Sekotka вне форума  
Старый 03.10.2019, 17:17   #19
DontCry
Юниор
 
Аватар для DontCry
 
Регистрация: 02.10.2019
Сообщений: 7
Бабло: $1740
По умолчанию

Цитата:
Сообщение от Facker Посмотреть сообщение
Цитата:
Сообщение от DontCry Посмотреть сообщение
Как сайт обратно теперь вернуть на прежние позиции? Контент полностью менять на сайте? Больше никак?
Контент поменяешь, станешь в топ - его опять спарсят, и опять под сраку улетишь.
Ссылки, траст, решают... Об этом думай в первую очередь, а не о контенте...

А как думаешь, через какое время вернется в топ после смены контента? Ссылки да, буду наращивать массу...
DontCry вне форума  
Старый 05.10.2019, 12:10   #20
Facker
Senior Member
 
Регистрация: 30.11.2012
Сообщений: 600
Бабло: $93300
По умолчанию

Цитата:
Сообщение от DontCry Посмотреть сообщение
А как думаешь, через какое время вернется в топ после смены контента? Ссылки да, буду наращивать массу...
Дык не факт, что вообще вернется.
Я обычно забиваю на такие домены и не пытаюсь как-то реанимировать.
Делаю новый сайт и редиректом с проблемного сайта подогреваю.

Цитата:
Сообщение от Sekotka Посмотреть сообщение
С трудом себе представляю сайт, который невозможно спарсить нормальным парсером с нормальными проксями.
..................... помогут только от школьника, который вчера скачал нулленый парсер.
Согласен на все 100
Facker вне форума  
Старый 05.10.2019, 15:04   #21
DontCry
Юниор
 
Аватар для DontCry
 
Регистрация: 02.10.2019
Сообщений: 7
Бабло: $1740
По умолчанию

[QUOTE=Facker;1201243]
Цитата:
Сообщение от DontCry Посмотреть сообщение
Дык не факт, что вообще вернется.
Я обычно забиваю на такие домены и не пытаюсь как-то реанимировать.
Делаю новый сайт и редиректом с проблемного сайта подогреваю.
Жалко сайт. Популярный в своей нише и распиареный разными способами
А новый такой делать не долго, но долго добиваться прежних результатов, прокачивать, делать видимым пользователям...
DontCry вне форума