IT人力外包人才简历库

返回列表

数据采集工程师

驻场外包人员
工作年限:1年 意向城市:杭州 浏览:6次 发布时间:近期

技能标签

Python Scrapy框架 Selenium XPath 正则表达式 分布式爬虫 数据库操作 数据抓取 反爬虫策略 网络请求优化 自动化测试 数据清洗 异步编程 API接口调试 数据存储优化

专业技能

精通Python编程语言,熟练掌握Scrapy框架及分布式爬虫架构,具备Selenium自动化浏览器控制能力。熟悉XPath、正则表达式、Requests等网络请求库,擅长处理反爬虫策略(代理IP/UA伪装)。精通MySQL与MongoDB数据库的增删改查操作,具备数据清洗与存储优化经验。熟悉异步编程及网络请求优化技术,具备多源数据采集方案设计能力。

工作履历(脱敏处理)

专注于数据采集系统开发,主导多个垂直领域数据抓取项目。设计并实现基于Scrapy的分布式爬虫架构,支持多节点并发处理,提升数据采集效率300%。开发Selenium自动化浏览器控制模块,成功突破目标网站的反爬虫机制,实现稳定的数据采集。构建完整的数据处理流水线,涵盖数据清洗、格式转换、存储优化等环节。优化网络请求策略,通过异步编程和连接池技术提升请求效率,降低服务器负载。

项目经验(脱敏处理)

抖音数据采集系统:基于Selenium实现浏览器自动化,采用XPath定位元素,通过代理IP池和动态UA切换突破反爬虫机制,采集用户主页信息(粉丝数、视频标题/地址)。伯乐在线数据抓取:使用Scrapy框架构建分布式爬虫,通过管道组件实现数据存储至MySQL数据库,完成网页结构解析与数据清洗。中国环境网内容采集:开发Selenium自动化脚本,实现详情页文章标题、正文及发布时间的结构化提取,建立标准化数据存储方案。百度图片采集系统:基于Requests发送定制化请求,通过正则表达式提取图片链接,实现二进制数据存储至本地文件系统。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

1年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接