国产一区二区免费,翔田千里AV,无码电影,红杏亚洲影院一区二区三区,国产精品欧美激情

崗位職責(zé)： 1.對指定的網(wǎng)站進行網(wǎng)頁抓取、數(shù)據(jù)提取、破解反爬策略； 2.負責(zé)多平臺信息抽取、數(shù)據(jù)清洗、入庫、服務(wù)化等研發(fā)和優(yōu)化工作； 3.參與開發(fā)和設(shè)計分布式網(wǎng)絡(luò)爬蟲系統(tǒng)，進行信息的抓取和分析工作； 4.研究優(yōu)化爬蟲算法，提升爬蟲系統(tǒng)的穩(wěn)定性、可擴展性； 5.獨立解決實際開發(fā)過程中碰到的各類產(chǎn)品數(shù)據(jù)需求和接口問題。 任職資格： 1、本科及以上學(xué)歷，計算機相關(guān)專業(yè)，5年以上工作經(jīng)驗。 2、精通python編程語言，熟悉scrapy等常用數(shù)據(jù)抓取框架以及原理，熟悉網(wǎng)頁信息和APP數(shù)據(jù)抽取，能夠設(shè)計分布式爬蟲系統(tǒng)框架； 3、精通 Charles等抓包工具，精通網(wǎng)頁抓取原理及技術(shù)，精通正則表達式，熟練從結(jié)構(gòu)化和非結(jié)構(gòu)化的數(shù)據(jù)中獲取信息； 4、精通 JS debugger、JS逆向; 5、精通 selenium 、DrissionPage 等自動化抓取技術(shù)； 6、把握網(wǎng)絡(luò)爬蟲核心技術(shù)研究方向,研究優(yōu)化算法,提升爬蟲系統(tǒng)的穩(wěn)定性、可擴展性; 7、研究爬蟲策略和防屏蔽規(guī)則,解決封賬號、封IP、驗證碼、頁面跳轉(zhuǎn)等難點攻克,提升網(wǎng)頁抓取的效率和質(zhì)量 8、優(yōu)先條件,對APP脫殼、APP逆向反編譯或者有快手、抖音數(shù)據(jù)爬取經(jīng)驗，或者對機器學(xué)習(xí)算法有一定了解。