国产一区二区免费,翔田千里AV,无码电影,红杏亚洲影院一区二区三区,国产精品欧美激情

更新于 6月4日

中通服-爬蟲/數(shù)據(jù)開發(fā)工程師

1.6-2.8萬
  • 南京建鄴區(qū)
  • 3-5年
  • 本科
  • 全職
  • 招2人

職位描述

爬蟲開發(fā)分布式爬蟲
1. 崗位職責(zé) (1)負(fù)責(zé)服務(wù)端基于Java / Python編程技術(shù)實現(xiàn)系統(tǒng)內(nèi)外部數(shù)據(jù)同步、數(shù)據(jù)采集及數(shù)據(jù)分析等功能模塊的編碼工作,確保數(shù)據(jù)處理過程的代碼質(zhì)量與可維護(hù)性; (2)參與技術(shù)方案設(shè)計,與項目經(jīng)理、前后端開發(fā)、AI開發(fā)協(xié)作,推動數(shù)據(jù)采集需求與系統(tǒng)業(yè)務(wù)邏輯的精準(zhǔn)對接; (3)設(shè)計并開發(fā)數(shù)據(jù)采集模塊,通過爬蟲技術(shù)抓取外部公開數(shù)據(jù),結(jié)合 ETL 工具實現(xiàn)數(shù)據(jù)同步,完成數(shù)據(jù)解析、清洗、轉(zhuǎn)換及結(jié)構(gòu)化入庫; (4)遵循公司代碼規(guī)范,編寫高可復(fù)用的爬蟲與數(shù)據(jù)處理代碼,參與代碼審查,優(yōu)化數(shù)據(jù)采集性能(如分布式爬蟲架構(gòu))與反爬策略(如 IP 池管理); (5)參與數(shù)據(jù)模塊的測試、聯(lián)調(diào)及上線工作,確保內(nèi)外部數(shù)據(jù)的一致性、準(zhǔn)確性,保障系統(tǒng)中數(shù)據(jù)相關(guān)功能的交付質(zhì)量。 2. 任職資格 (1)本科或以上學(xué)歷,計算機(jī)科學(xué)、軟件工程、數(shù)據(jù)科學(xué)等相關(guān)專業(yè); (2)5 年及以上 Java 開發(fā)經(jīng)驗,3 年及以上爬蟲與數(shù)據(jù)開發(fā)復(fù)合經(jīng)驗,具備爬蟲類項目經(jīng)驗,具備企業(yè)級數(shù)據(jù)采集與處理的項目落地能力。有爬取過招標(biāo)類網(wǎng)站數(shù)據(jù)經(jīng)驗者優(yōu)先考慮; (3)熟悉 Spring Boot、MyBatisplus開發(fā)框架,能設(shè)計數(shù)據(jù)采集模塊與投標(biāo)系統(tǒng)的接口集成方案; (4)精通 MySQL/PostgreSQL 數(shù)據(jù)庫,掌握索引優(yōu)化、分庫分表及數(shù)據(jù)建模,能設(shè)計爬蟲與內(nèi)部數(shù)據(jù)的存儲架構(gòu);熟悉 Redis 緩存、Kafka 消息隊列,實現(xiàn)數(shù)據(jù)實時同步與異步處理; (5)精通 Scrapy、HttpClient 等爬蟲框架,掌握 IP 池輪換、請求頻率控制、UA 隨機(jī)化等反爬技術(shù);熟悉 Selenium、Puppeteer 等,能抓取動態(tài)頁面數(shù)據(jù);熟練使用 BeautifulSoup/JSoup 等解析 HTML,通過正則表達(dá)式提取關(guān)鍵信息;了解分布式爬蟲架構(gòu)(如 Scrapy-Redis),具備 TB 級情報數(shù)據(jù)采集與處理經(jīng)驗; (6)熟悉 ETL 工具(如 Kettle、DataX)或其他數(shù)據(jù)同步框架,能完成企業(yè)內(nèi)部系統(tǒng)平臺的數(shù)據(jù)對接;熟悉數(shù)據(jù)清洗、轉(zhuǎn)換規(guī)則,能基于業(yè)務(wù)規(guī)范設(shè)計數(shù)據(jù)校驗邏輯;掌握 SQL 優(yōu)化技巧,能編寫復(fù)雜查詢語句實現(xiàn)數(shù)據(jù)關(guān)聯(lián)分析;了解數(shù)據(jù)可視化基礎(chǔ)(如 ECharts 圖表開發(fā)),可配合前端展示數(shù)據(jù)采集結(jié)果; (7)熟練使用 Git 版本控制工具,理解前后端協(xié)作模式,具備容器化部署(Docker/Kubernetes)經(jīng)驗; (8)能夠適應(yīng)出差; (9)工作地點:南京。

工作地點

南京建鄴區(qū)中通服咨詢設(shè)計研究院有限公司-西北門1

職位發(fā)布者

王女士/招聘經(jīng)理

當(dāng)前在線
立即溝通
公司Logo智聯(lián)獵頭
智聯(lián)獵頭作為智聯(lián)招聘旗下品牌,以滿足企業(yè)中高端崗位的人才招聘需求為出發(fā)點,整合全球優(yōu)質(zhì)資源,覆蓋數(shù)字經(jīng)濟(jì)、新一代信息技術(shù)、人工智能、金融、電子信息、裝備制造、生物醫(yī)藥與健康、房地產(chǎn)/建筑等數(shù)十個行業(yè),擁有規(guī)模龐大、覆蓋面廣的交付團(tuán)隊,致力于向企業(yè)輸出專業(yè)化的招聘解決方案。智聯(lián)獵頭目前擁有卓聘平臺服務(wù)、招聘流程外包服務(wù)、高端人才獵尋服務(wù)三大類核心服務(wù),具備高度定制化能力,能夠為不同發(fā)展階段的企業(yè)提供一站式招聘解決方案,同時為企業(yè)轉(zhuǎn)型升級提供保障,全面增強(qiáng)企業(yè)核心競爭力!智聯(lián)獵頭利用自身獨特的資源優(yōu)勢、成熟的服務(wù)模式,以及多層次的產(chǎn)品,致力于打造高效、專業(yè)的一站式人才服務(wù)模式,讓招聘更加美好!
公司主頁
国产成人精品婷婷| 亚洲色一区二区| 久久99精品久久| 欧美亚洲乱码一区二区三区| 欧美三级在线看| 日本一本之道三级在线| 中文字幕久无码免费久久| 欧美日韩一二区| 亚洲熟女一区| 高清美女国产一区在线观看| 欧美精品一区二区三区四区| 91精品视频在线| 天天影视色综合| sebo99官网| 国产精品v| 欧美日韩亚洲国产精品| 亚洲无码一二三区在线视频| 最近中文字幕mv免费高清| 欧美日韩一区二区三观看| 欧美在线一级| 色淫网站| AV传媒在线观看| 日韩久久一本大道A8| 超碰在线黄片| 日韩久久精品夜夜嗨一区二区 | 日本强伦姧人妻一区二区| 久久久久久九九99精品| 中文字幕一区二区三区四区| 亚洲国产成人一区二区三区| 户外野战全程无码AV| 日本在线久| 久久网正在播中文字幕| 97人妻在线| 午夜爱爱爱| 吉林省| 亚洲自偷自拍熟女另类| 你懂得的视频96| 国产女人水真多18毛片18精品 | 免费欧美黄片| xxxx互换人妻ccwww| 老色批影视|