IT人力外包人才简历库

返回列表

数据采集与爬虫开发工程师

驻场外包人员
工作年限:2年 意向城市:北京 浏览:4次 发布时间:近期

技能标签

数据采集 分布式爬虫 反爬虫策略 Python开发 机器学习模型 数据清洗 ETL处理 实时监控 后端开发 数据挖掘分析 网络协议分析 日志分析 系统调优 数据可视化 API接口开发

专业技能

精通分布式爬虫系统设计与反爬虫策略绕过技术,熟练掌握Python后端开发(Django/Flask框架),具备数据挖掘与分析能力,熟悉机器学习模型开发与优化,擅长数据清洗与ETL处理,掌握实时数据监控与异常检测技术

工作履历(脱敏处理)

担任数据采集工程师期间,主导设计并实现分布式爬虫系统,成功突破目标网站的反爬虫策略,日均采集数据量达50万条。开发Python后端服务支撑数据采集系统,采用Django框架实现高并发数据处理,通过异步任务队列优化系统吞吐量。参与机器学习模型开发,利用爬取数据训练预测模型,准确率提升35%。主导数据清洗与ETL流程设计,构建标准化数据处理管道,使数据可用性提升至98%。开发实时监控系统,实现爬虫任务状态可视化与异常自动告警,系统稳定性提升至99.9%。

项目经验(脱敏处理)

某知名时尚科技公司数据采集项目:主导构建分布式爬虫系统,突破目标网站的IP封禁、验证码识别等反爬虫策略,实现日均50万条数据采集。采用Scrapy-Redis实现任务分发与结果存储,通过代理池技术提升爬取效率。开发Python后端服务处理采集数据,使用Django框架搭建数据接口,支持多维度数据查询。设计数据清洗流程,利用Pandas进行数据去重与格式标准化,构建ETL处理管道。开发实时监控系统,使用Prometheus+Grafana实现爬虫任务状态可视化,设置异常检测规则,系统稳定性提升至99.9%。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

2年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接