IT人力外包人才简历库

返回列表

数据采集工程师

驻场外包人员
工作年限:1年 意向城市:杭州 浏览:6次 发布时间:近期

技能标签

Python Selenium 数据采集 MySQL Excel JS逆向 自动化测试 反爬策略 IP池管理 数据存储 网络协议分析 正则表达式 数据清洗 分布式爬虫 异常处理

专业技能

精通Python编程语言,熟练掌握Selenium自动化测试框架,具备JS逆向解析能力,熟悉常见的加密算法及反爬策略。熟悉MySQL数据库设计与优化,掌握数据存储与ETL处理技术。熟练使用Excel进行数据整理与分析,熟悉MongoDB非关系型数据库应用。了解Django框架基础开发原理,具备Web爬虫系统架构设计能力。

工作履历(脱敏处理)

独立完成多平台数据采集系统开发,包括某高校官网新闻采集系统、丁香通品牌信息采集平台、京东商品数据采集系统等。设计并实现IP池管理机制,有效解决高并发场景下的反爬问题。开发自动化数据清洗模块,提升数据处理效率30%。构建分布式爬虫架构,支持多线程并发采集,单日采集量突破5万条数据。优化Selenium框架页面翻页逻辑,提升采集效率40%。制定数据存储方案,实现MySQL与MongoDB混合存储架构,保障数据完整性与查询性能。

项目经验(脱敏处理)

1. 某高校官网新闻采集系统:采用Selenium框架实现动态网页数据采集,通过IP池管理解决反爬问题,设计分页采集策略,最终将2000+条新闻数据存储至MySQL数据库。

2. 丁香通品牌信息采集平台:基于Python开发全栈采集系统,运用JS逆向解析技术突破加密反爬机制,通过MongoDB存储1000+品牌信息,实现数据可视化展示。

3. 京东商品数据采集项目:构建分布式爬虫架构,采用Selenium模拟浏览器操作,实现商品信息自动采集与Excel数据导出,支持按品类筛选与数量控制。

4. 网易云音乐数据采集:开发反扒策略应对动态渲染页面,通过正则表达式提取音频信息,最终完成5000+条音乐数据的结构化存储。

5. Bilibili视频数据采集:设计多线程采集方案,解决动态加载内容的采集难题,实现视频标题、播放量等核心数据的批量采集与存储。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

1年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接