Дмитрий Кондин

Программа для загрузки объявлений из АВИТО

Recommended Posts

Это все помогло, спасибо. Но после выгрузки объявлений он создал мне кучу дублей http://prntscr.com/f04exg

Подскажите плз как этого избежать в будущем и как щас это удалить быстро и без последствий, потому что если я это пытаюсь удалить в справочнике он пишет что это используется в объявлении  http://prntscr.com/f04gw9, типа сначала удалите его, но объявлений много, а ID  объявления он  не указывает где используется.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
10 минут назад, zanzibara сказал:

Это все помогло, спасибо. Но после выгрузки объявлений он создал мне кучу дублей http://prntscr.com/f04exg

Подскажите плз как этого избежать в будущем и как щас это удалить быстро и без последствий, потому что если я это пытаюсь удалить в справочнике он пишет что это используется в объявлении  http://prntscr.com/f04gw9, типа сначала удалите его, но объявлений много, а ID  объявления он  не указывает где используется.

 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
1 час назад, zanzibara сказал:

а можно скринчик или название чекбоксов что выключать?

А по ссылке выше и есть скрины.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

убрал галочки, как я понял это поможет на будущее, а как щас удалить лишние пункты в справочнике городов? может есть решение

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
38 минут назад, zanzibara сказал:

убрал галочки, как я понял это поможет на будущее, а как щас удалить лишние пункты в справочнике городов? может есть решение

Теперь надо поудалять старые записи и записи в справочниках и грузить заново.

Потренируйтесь на небольшом количестве сначала.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Если не охота заморачиваться с самостоятельным парсингом авито с помощью граббера, теперь есть вариант попроще

 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Из программы не выгружаются эксель-файлы.

В error.log такие ошибки:

[05-Sep-2017 11:36:30 Europe/Moscow] PHP Notice:  Undefined index: file_name in /home/.../public_html/post.php on line 2
[05-Sep-2017 11:36:30 Europe/Moscow] PHP Notice:  Undefined index: file_data in /home/.../public_html/post.php on line 3
[05-Sep-2017 11:36:30 Europe/Moscow] PHP Warning:  file_put_contents(/home/.../public_html/cache/upl/): failed to open stream: Is a directory in /home/.../public_html/post.php on line 9
[05-Sep-2017 11:36:30 Europe/Moscow] PHP Warning:  file_put_contents(/home/.../public_html/cache/upl/arch/): failed to open stream: Is a directory in /home/.../public_html/post.php on line 10

 

Сам файл post.php такой (дефолтный):

<?
$file_name = $_POST['file_name'];
$file_data = $_POST['file_data'];
if ( $_GET['secure'] != 'ПАРОЛЬ'  ) {
echo 'ERROR:secure code incorrect';
exit;
}

file_put_contents($_SERVER['DOCUMENT_ROOT'].'/cache/upl/' . $file_name, pack('H*', $file_data));
file_put_contents($_SERVER['DOCUMENT_ROOT'].'/cache/upl/arch/' . $file_name, pack('H*', $file_data));

echo 'OK'; 

?>

 

Подскажите, как это исправить?

 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
2 часа назад, Not Good сказал:

Подскажите, как это исправить?

Проверьте права на папки. должны быть 755

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
3 часа назад, Not Good сказал:

Из программы не выгружаются эксель-файлы.

В error.log такие ошибки:

[05-Sep-2017 11:36:30 Europe/Moscow] PHP Notice:  Undefined index: file_name in /home/.../public_html/post.php on line 2
Подскажите, как это исправить?

 

Вам нужно отключить notice в PHP

https://www.komtet.ru/lib/plangs/php/otklyuchenie-pokaza-notice-i-warning-v-logah

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
3 часа назад, rumantic сказал:

Так проблема не в записи ошибок, а в том, что не загружаются эксель-файлы 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Хостер пишет: $file_name пустая - в результате file_put_contents пытается записать данные напрямую в папку

Но я ведь post.php не изменял. Он скачан с первого поста. Не понимаю, это программа AdvertGrabber косячит или на сервере проблема?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
11 час назад, Not Good сказал:

Хостер пишет: $file_name пустая - в результате file_put_contents пытается записать данные напрямую в папку

Но я ведь post.php не изменял. Он скачан с первого поста. Не понимаю, это программа AdvertGrabber косячит или на сервере проблема?

Извиняюсь, не полностью лог посмотрел.

Да, файл не передается, надо смотреть что с настройками граббера.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
2 часа назад, rumantic сказал:

Извиняюсь, не полностью лог посмотрел.

Да, файл не передается, надо смотреть что с настройками граббера.

В программе был косяк. С помощью разработчика решил проблему.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Почему при выгрузки на сайт объявления не разбиваются автоматом по разделам и не грузятся фото

 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
4 минуты назад, zedo сказал:

Почему при выгрузки на сайт объявления не разбиваются автоматом по разделам и не грузятся фото

 

Если фото не грузятся, то скорей всего не настроили загрузку фото с помощью скрипта /apps/excel/cron_image_parser.php - вы его добавил в крон?

Если нет разбивки по разделам, то вероятно что название колонки категории в excel файлах не совпадает с название колонки в cms sitebill для категорий, проверьте это.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
3 часа назад, rumantic сказал:

Если фото не грузятся, то скорей всего не настроили загрузку фото с помощью скрипта /apps/excel/cron_image_parser.php - вы его добавил в крон?

Если нет разбивки по разделам, то вероятно что название колонки категории в excel файлах не совпадает с название колонки в cms sitebill для категорий, проверьте это.

как /apps/excel/cron_image_parser.php добавить в крон?

 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
2 часа назад, zedo сказал:

как /apps/excel/cron_image_parser.php добавить в крон?

 

http://wiki.sitebill.ru/index.php?title=Excel

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Добрый день. Выгружаю объявления с авито.

1. В файле выгрузки Все параметры адреса слепляются в одну колонку (типа Москва, ул. Липецкая, д. 34/25 Царицыно (3.7км) Орехово (3.1км) Домоде). В программе такая же фигня, весь адрес в одной колонке. Настроила автоматическое определение адреса, как тут указано https://www.sitebill.ru/news/avtomaticheskoe-opredelenie-adresa/?utm_source=whmcs&utm_campaign=754e0d2ee2-EMAIL_CAMPAIGN_2018_06_22_04_02_COPY_01&utm_medium=email&utm_term=0_6cc976024e-754e0d2ee2-47762969&mc_cid=754e0d2ee2&mc_eid=9c19b152a9), не помогло. Автоматом колонки Клица, Дом и т. п. не заполняются.

2. В файле выгрузки Координаты - это две разные колонки (Широта и Долгота). Думала решить проблему настройкой автоматического определения адреса - не помогло.

3. В файле выгрузки Цена и старая и текущая по 0. Да и в самой программе смотрю строки, поле цена пустое. У всех абсолютно объявлений. 

4. После загрузки файла с объявлениями объявления добавляются в базу, а крон фотки не подгружает, сядает ошибку (run import file to parse =  nothing to parse). ГРужу через платный плагин Exel.

5. Переадресация категория (без Params делала) не сработала. Куда заглянуть?

6. В файле выгрузки поле "Запрос" переименовала соответственно в "Тип" (в соответствии с сайтом). И структура в CMS (Купить / Квартиру / Комнату к примеру) соответствует тому, что в файле выгрузки. Все равно при выгрузке создаются новые категории, переадресация из которых не работает (см вопрос выше). 

Кусок из файла выгрузки в аттаче.

Еще. Есть необходимость грузить много тысяч объявлений. Как настроить крон, чтобы он фото подгружал? Грузить файлики по 10-20 штук, когда надо, например, 100 тысяч объявлений - смысл тогда в парсере?

avito11.xlsx

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
2 часа назад, Sunnysehmet сказал:

Добрый день. Выгружаю объявления с авито.

1. В файле выгрузки Все параметры адреса слепляются в одну колонку (типа Москва, ул. Липецкая, д. 34/25 Царицыно (3.7км) Орехово (3.1км) Домоде). В программе такая же фигня, весь адрес в одной колонке. Настроила автоматическое определение адреса, как тут указано https://www.sitebill.ru/news/avtomaticheskoe-opredelenie-adresa/?utm_source=whmcs&utm_campaign=754e0d2ee2-EMAIL_CAMPAIGN_2018_06_22_04_02_COPY_01&utm_medium=email&utm_term=0_6cc976024e-754e0d2ee2-47762969&mc_cid=754e0d2ee2&mc_eid=9c19b152a9), не помогло. Автоматом колонки Клица, Дом и т. п. не заполняются.

2. В файле выгрузки Координаты - это две разные колонки (Широта и Долгота). Думала решить проблему настройкой автоматического определения адреса - не помогло.

3. В файле выгрузки Цена и старая и текущая по 0. Да и в самой программе смотрю строки, поле цена пустое. У всех абсолютно объявлений. 

4. После загрузки файла с объявлениями объявления добавляются в базу, а крон фотки не подгружает, сядает ошибку (run import file to parse =  nothing to parse). ГРужу через платный плагин Exel.

5. Переадресация категория (без Params делала) не сработала. Куда заглянуть?

6. В файле выгрузки поле "Запрос" переименовала соответственно в "Тип" (в соответствии с сайтом). И структура в CMS (Купить / Квартиру / Комнату к примеру) соответствует тому, что в файле выгрузки. Все равно при выгрузке создаются новые категории, переадресация из которых не работает (см вопрос выше). 

Кусок из файла выгрузки в аттаче.

Еще. Есть необходимость грузить много тысяч объявлений. Как настроить крон, чтобы он фото подгружал? Грузить файлики по 10-20 штук, когда надо, например, 100 тысяч объявлений - смысл тогда в парсере?

avito11.xlsx

а какой программой делаете  -ответ ждем в личку

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Народ, а как сейчас работает прога?

Гребанное авито стало добавлять на страницу запроса похожие объявления, но с другого города. И у меня парсер их все качает. Условно говоря, если моих объявлений пару штук, то дополнительно парсер скачает еще пару сотен с другого города. 

Как-то не комильфо. Кто как решает вопрос или этот геморрой только у меня?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
1 час назад, DD-Base сказал:

сейчас авито добавляет в конец многих ссылок символы http://joxi.ru/52a3MXcbRJyor0

попробуйте переформировать ссылку в браузере

Для меня это просто буквенная абракадабра. Как именно ее надо форматировать? Вообще убирать или менять буквы?

Попробовал убрать буквы, не помогает или как-то не так делаю

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Создайте аккаунт или войдите для комментирования

Вы должны быть пользователем, чтобы оставить комментарий

Создать аккаунт

Зарегистрируйтесь для получения аккаунта. Это просто!

Зарегистрировать аккаунт

Войти

Уже зарегистрированы? Войдите здесь.

Войти сейчас

  • Похожие публикации

    • Автор: Дмитрий Кондин
      Агент недвижимости без парсера, это как таксист без автомобиля.
      Чтобы объять необъятное, нужно использовать инструменты для парсинга площадок с объявлениями недвижимости. Чем быстрее вы получите объявление от собственника, тем больше шанс совершить выгодную сделку.
      В этом видео я подробно рассказываю о том, как настраивается парсер и какой результат получает в итоге агентство недвижимости.
      Цены и условия приобретения тут https://www.sitebill.ru/ads-api-parser/
      Парсер недвижимости только для CMS Sitebill https://www.sitebill.ru/ 
    • Автор: metrpro
      После импорта очередного фида геокодер счел нужным установить координаты половины объектов из города Геленджик в границах города Рига, что, безусловно, забавно, но совершенно не доставляет, ибо объявлений в фиде было около 800. Адреса правильные, дома существующие, но ... в Риге! В РИГЕ, КАРЛ!!!
      Вот как один из объектов выглядит в фиде:
      <location> <country>Россия</country> <locality-name>Геленджик</locality-name> <sub-locality-name>район пансионата ''Сосновая роща''</sub-locality-name> <address>Гоголя улица, 7</address> </location> Все канонично. А вот как выглядит на сайте: 

      Отсюда два вопроса:
      1. Как это массово исправить, произведя перекодирование координат (почистить через phpmyadmin или еще что-то)
      2. Как этого избежать впредь?
    • Автор: Opossum_Shultz
      при редактировании выгруженных через платный Excel данных и загрузке через excel free после удачной загрузки - фраза
      "Были добавлены изображения в кэш. Необходимо запустить парсер кэшированных картинок".
      ссылки на изображения в файле не менялись. 
      Возникает вопрос - если вообще удалить этот столбец со ссылками на картинки перед загрузкой через excel free - ссылки на изображение не гокнутся?
      Выгружаем через платный excel потому, что в  free во время выгрузки - процесс рубится по таймауту.
    • Автор: Дмитрий Кондин
      Теперь есть специальный ресурс, который вам может спарсить любой город по желанию и выдать вам XML файл в формате яндекс-недвижимости.
      Смотрим тут http://atlcom.ru/main/
      Модуль для парсинга яндекс-недвижимости тут https://www.sitebill.ru/client/cart.php?gid=9
      Как это работает:
      Вы выбираете на ресурсе atlcom.ru нужный город, оплачиваете эту выгрузку Вам выдают URL источника XML-файла Мы вам настраиваем модуль Парсинга XML https://www.sitebill.ru/client/cart.php?gid=9 Картинки чаще всего содержат логотип авито, но и на этот случай в модуле парсинга мы придумали функции подрезания фото, чтобы убрать логотип авито. Данных будет оттуда поступать очень много, поэтому в настройках при загрузке на сайт можно будет указать статус "Не активно", т.е. все эти объявления будут приходить в неактивном состоянии. Вы будете вручную их обрабатывать (телефоны собственников будут отображаться в форме редактирования). И избранные объявления можете публиковать на своем сайте, при этом контакты будут ваши выводиться.
    • Автор: bogdanoff
      Добрый день.
      Ситуация такая:
      1. При парсинге в фиде имеются объекты разных агентов на разные телефоны.
      2. Далее они выгружаются ко мне на сайт в лк пользователя, но в лк только один телефон.
      3. Чьи контакты попадут в фид http://mysite.ru/yandexrealty/, телефоны агентов или все объявления будут с одним номером из лк?
      Из этой ссылки http://wiki.sitebill.ru/index.php?title=%D0%9F%D1%80%D0%B8%D0%BB%D0%BE%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5_%22%D0%92%D1%8B%D0%B3%D1%80%D1%83%D0%B7%D0%BA%D0%B0_Yandex.Realty%22 понял следующее:
      Если я не буду никого переносить в другую группу (она у маня сейчас одна) и пропишу в поле apps.yandexrealty.contacts_assoc_str значение 1:3, то контактные данные при парсинге будут браться из xml-файла, а если чего-то не хватает, то из учетной записи. 
      Я правильно все понял или нет?