IT人力外包人才简历库

返回列表

数据采集工程师

驻场外包人员
工作年限:2年 意向城市:杭州 浏览:3次 发布时间:近期

技能标签

Python 爬虫开发 Selenium XPath MySQL Oracle SQL优化 Git Linux Shell脚本 Redis FastDFS 分布式采集 数据清洗 系统运维

专业技能

精通Python编程语言及爬虫开发技术,熟练掌握Selenium、Requests、XPath等数据抓取工具。具备关系型数据库管理能力,熟练使用MySQL与Oracle数据库及SQL优化。精通版本控制工具Git与Maven构建体系。熟悉Linux系统运维及Shell脚本开发。掌握Redis内存数据库及FastDFS分布式文件系统,具备分布式数据采集架构设计能力。

工作履历(脱敏处理)

曾主导某电商平台数据采集系统开发,设计分布式爬虫架构处理百万级商品数据。优化SQL查询效率提升30%,搭建Redis缓存集群降低数据库压力。开发自动化运维脚本,实现日均50万条数据采集任务调度。主导FastDFS文件存储系统改造,数据存储成本降低40%。持续优化Selenium反反爬策略,采集成功率提升至98%。

项目经验(脱敏处理)

项目一:电商数据采集平台开发

采用分布式爬虫架构处理多源数据,设计动态渲染页面采集方案应对反爬机制。使用Selenium结合XPath定位复杂DOM结构,通过Requests处理静态页面。构建MySQL分库分表方案,配合Redis缓存热点数据,日均处理500万条商品信息。

项目二:金融数据清洗系统优化

开发基于Python的ETL流程,使用正则表达式处理非结构化数据。设计分布式文件存储方案,采用FastDFS存储结构化数据,实现TB级数据高效存取。通过SQL优化将数据清洗效率提升60%,支撑每日100万+数据处理需求。

项目三:运维自动化平台建设

开发Shell脚本实现服务器监控告警,使用Git进行版本管理。搭建Maven构建体系优化部署流程,配合Linux系统优化提升服务稳定性。设计自动化巡检方案,降低人工运维成本50%,保障系统99.9%可用性。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

2年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接