工作描述:
1.負責各類主流電商平臺、短視頻平臺的數(shù)據(jù)抓取平臺建設(shè)(偏工程方向)和維護;
2.負責爬蟲自研基礎(chǔ)工具和框架開發(fā)和維護,配合逆向開發(fā)同學解決爬蟲遇到的各種反爬問題;
3. 負責爬蟲數(shù)據(jù)的清洗,存儲等大數(shù)據(jù)開發(fā)工作。
4.與項目經(jīng)理、產(chǎn)品、下游團隊等部門人員溝通,對外提供各種服務(wù)完成整體業(yè)務(wù)需求達成業(yè)務(wù)目標;
職位要求:
1. 計算機相關(guān)專業(yè)本科以上學歷,3年以上Java編程經(jīng)驗;
2. 熟練掌握Java開發(fā)技術(shù),基礎(chǔ)扎實,熟悉Java技術(shù)體系(JVM、類裝載機制、多線程并發(fā)、IO、網(wǎng)絡(luò)等)
3. 了解常用開源爬蟲技術(shù)框架,了解前端js技術(shù)。
4. 有大數(shù)據(jù)相關(guān)開發(fā)經(jīng)驗,有良好的數(shù)據(jù)建模能力,能熟練使用hive,sparksql。有odps等使用經(jīng)驗更佳。
5. 熟悉分布式和高并發(fā)系統(tǒng)的設(shè)計與開發(fā),熟悉Mysql 、Memcache、Redis、消息隊列、ES等常用組件的使用與調(diào)優(yōu);
6. 熟悉 Linux 環(huán)境下常用的系統(tǒng)工具,能利用工具排查 CPU、內(nèi)存和網(wǎng)絡(luò) IO 等問題;
7. 積極樂觀,責任心強,工作認真細致,具有良好的團隊溝通與協(xié)作能力,抗壓能力強,有較強的自我驅(qū)動能力。