|
| Дата |
|
USD/RUB | 90.2486 | BTC/USD | 69269.3811 |
|
|
|
Поисковые системы Поисковая оптимизация под Google, Yahoo, Bing и т.д. |
24.09.2019, 14:37
|
Start Post: Как защититься от парсинга? Результат Панда.
|
Senior Member
Регистрация: 26.09.2010
Сообщений: 226
Бабло: $68237
|
Такая история:
Начали мои сайты потихоньку вылетать с топа (Google USA) по не понятным причинам (были проверены все возможные причины).
Начал анализировать оказывается, что повылетали отдельные страницы. Беру куски текста в кавычки и в Google. И как оказалось, тексты были размещены на десятках сайта и не на просто сайта на ломаных сайтах вордпресса. Мой оригинал внизу или даже в соплях, а весь лом выше. Показатели (траст) ломаных сайтов намного выше моих сайтов.
Дальше смотрю на этих ломах еще траффа на такие страницы валом.
На моих сайтах пострадали (полный вылет с топ 100) только те страницы которые были спарсены.
Проанализировал конкурентов их же также спарсили, и они ушли вниз. В топе остались только супер трасты – тексты, которых также растаскались то они не упали, а стали еще выше.
Так что выходит, берем аукционный трастовый домен и размещаем на нем ворованный текст с топа (слабого сайта который в топе) и получаем топ? (а тот сайт вылетает).
Подозреваю, что на мои сайты пришла постраничная Панда.
Что делать, как в хтаксесе отсекать эти парсеры? Или есть другие варианты?
|
|
|
25.09.2019, 14:28
|
#12
|
Senior Member
Регистрация: 13.01.2010
Сообщений: 898
Бабло: $138845
|
Цитата:
Сообщение от blacks
Цитата:
Сообщение от Hector
blacks, просто включаешь i'm under attack, их анализатор на базе JS смотрит браузер юзера и принимает решение.
|
я думал можно это все в автоматич режиме сделать, или i'm under attack оставить и всё?)
|
эта заглушка от клауда может сильно влиять на отказы/возвраты на поиск - так как заставлят юзер ждать, а кого то и ботом может признать и вообще на сайт не пустить. кроме того никак не спасает от ручной кражи текстов. так что не рекомендовал бы ставить этот режим если вы не под ддос атакой или даже уровень параноидальности защиты я всегда ставлю на минимум. ибо скорость влияет на позиции и траф
__________________
|
|
|
26.09.2019, 18:21
|
#13
|
Senior Member
Регистрация: 23.06.2008
Сообщений: 1,468
Бабло: $282970
|
Цитата:
Сообщение от Cisco
Цитата:
Сообщение от blacks
Цитата:
Сообщение от Hector
blacks, просто включаешь i'm under attack, их анализатор на базе JS смотрит браузер юзера и принимает решение.
|
я думал можно это все в автоматич режиме сделать, или i'm under attack оставить и всё?)
|
эта заглушка от клауда может сильно влиять на отказы/возвраты на поиск - так как заставлят юзер ждать, а кого то и ботом может признать и вообще на сайт не пустить. кроме того никак не спасает от ручной кражи текстов. так что не рекомендовал бы ставить этот режим если вы не под ддос атакой или даже уровень параноидальности защиты я всегда ставлю на минимум. ибо скорость влияет на позиции и траф
|
ну вот я о том же, как сделать в автоматич режиме, чтобы защититься от простых парсеров
__________________
продам место для рекламы, контакты в ЛС
|
|
|
26.09.2019, 19:07
|
#14
|
hustle
Регистрация: 02.05.2008
Адрес: 3d world
Сообщений: 12,890
Бабло: $1717315
|
blacks, врядли ты сделаешь более эффективное решение, у клауда огромная база
|
|
|
27.09.2019, 09:48
|
#15
|
Юниор
Регистрация: 25.12.2017
Сообщений: 10
Бабло: $9140
|
Цитата:
Сообщение от blacks
Цитата:
Сообщение от Cisco
Цитата:
Сообщение от blacks
Цитата:
Сообщение от Hector
blacks, просто включаешь i'm under attack, их анализатор на базе JS смотрит браузер юзера и принимает решение.
|
я думал можно это все в автоматич режиме сделать, или i'm under attack оставить и всё?)
|
эта заглушка от клауда может сильно влиять на отказы/возвраты на поиск - так как заставлят юзер ждать, а кого то и ботом может признать и вообще на сайт не пустить. кроме того никак не спасает от ручной кражи текстов. так что не рекомендовал бы ставить этот режим если вы не под ддос атакой или даже уровень параноидальности защиты я всегда ставлю на минимум. ибо скорость влияет на позиции и траф
|
ну вот я о том же, как сделать в автоматич режиме, чтобы защититься от простых парсеров
|
Можешь попробовать фоксисовского антибота, но там отдельно нужно немного заморочиться, если нужно пробрасывать ключевик в переменной на сайт или оригинальный реферер.
|
|
|
03.10.2019, 15:24
|
#16
|
Юниор
Регистрация: 02.10.2019
Сообщений: 7
Бабло: $1740
|
С защитой понятно.
А если УЖЕ произошло с сайтом то же, что и ТС описал. Как сайт обратно теперь вернуть на прежние позиции? Контент полностью менять на сайте? Больше никак?
|
|
|
03.10.2019, 16:54
|
#17
|
Senior Member
Регистрация: 30.11.2012
Сообщений: 600
Бабло: $93300
|
Цитата:
Сообщение от DontCry
Как сайт обратно теперь вернуть на прежние позиции? Контент полностью менять на сайте? Больше никак?
|
Контент поменяешь, станешь в топ - его опять спарсят, и опять под сраку улетишь.
Ссылки, траст, решают... Об этом думай в первую очередь, а не о контенте...
|
|
|
03.10.2019, 17:14
|
#18
|
Роботовладелец
Регистрация: 20.10.2017
Сообщений: 378
Бабло: $49735
|
С трудом себе представляю сайт, который невозможно спарсить нормальным парсером с нормальными проксями.
На моей памяти лишь один - он заставлял каждый 2-й запрос вводить капчу всех подряд пользователей, что, естественно, весьма и весьма отрицательно влияло на лояльность пользователей и ПФ. И то спарсить его было вполне возможно, просто не охота было возиться, т.к. особой ценности сайт не представлял.
Те варианты защиты что вы предлагаете (типа клаудфлейра) помогут только от школьника, который вчера скачал нулленый парсер.
|
|
|
03.10.2019, 17:17
|
#19
|
Юниор
Регистрация: 02.10.2019
Сообщений: 7
Бабло: $1740
|
Цитата:
Сообщение от Facker
Цитата:
Сообщение от DontCry
Как сайт обратно теперь вернуть на прежние позиции? Контент полностью менять на сайте? Больше никак?
|
Контент поменяешь, станешь в топ - его опять спарсят, и опять под сраку улетишь.
Ссылки, траст, решают... Об этом думай в первую очередь, а не о контенте...
|
А как думаешь, через какое время вернется в топ после смены контента? Ссылки да, буду наращивать массу...
|
|
|
05.10.2019, 12:10
|
#20
|
Senior Member
Регистрация: 30.11.2012
Сообщений: 600
Бабло: $93300
|
Цитата:
Сообщение от DontCry
А как думаешь, через какое время вернется в топ после смены контента? Ссылки да, буду наращивать массу...
|
Дык не факт, что вообще вернется.
Я обычно забиваю на такие домены и не пытаюсь как-то реанимировать.
Делаю новый сайт и редиректом с проблемного сайта подогреваю.
Цитата:
Сообщение от Sekotka
С трудом себе представляю сайт, который невозможно спарсить нормальным парсером с нормальными проксями.
..................... помогут только от школьника, который вчера скачал нулленый парсер.
|
Согласен на все 100
|
|
|
05.10.2019, 15:04
|
#21
|
Юниор
Регистрация: 02.10.2019
Сообщений: 7
Бабло: $1740
|
[QUOTE=Facker;1201243]
Цитата:
Сообщение от DontCry
Дык не факт, что вообще вернется.
Я обычно забиваю на такие домены и не пытаюсь как-то реанимировать.
Делаю новый сайт и редиректом с проблемного сайта подогреваю.
|
Жалко сайт. Популярный в своей нише и распиареный разными способами
А новый такой делать не долго, но долго добиваться прежних результатов, прокачивать, делать видимым пользователям...
|
|
|
|