技能标签
Python开发
爬虫框架
数据清洗
分布式系统
网络协议分析
视频解析
日志分析
异常监控
数据库管理
异步编程
专业技能
精通Python编程语言,熟悉Scrapy、Requests等爬虫框架,掌握数据清洗与存储技术(Pandas、MongoDB),具备网络协议分析能力(HTTP/HTTPS、TCP/IP),熟悉分布式爬虫架构设计,了解日志分析与异常监控体系,具备视频流解析与多媒体处理经验
工作履历(脱敏处理)
长期从事数据采集与处理相关工作,主导多个大型数据采集系统架构设计,具备从零搭建分布式爬虫系统的完整经验,熟悉Linux服务器部署与运维,掌握多线程/异步编程技术,能够处理高并发数据抓取场景,熟悉数据清洗、转换与存储全流程,具备视频流解码与多媒体数据处理能力,持续关注爬虫技术演进与反爬虫机制应对方案
项目经验(脱敏处理)
构建分布式爬虫系统实现多源数据采集,采用Scrapy-Redis框架实现任务分发与结果存储,通过模拟浏览器行为应对反爬虫机制,使用Pandas进行数据清洗与结构化处理,部署到Linux服务器集群实现高并发数据抓取。开发视频流解析模块,实现HLS/M3U8格式视频内容提取,设计异常处理机制保障数据完整性,建立日志分析系统实现爬虫运行状态监控,通过负载均衡技术提升系统处理能力
驻场外包优势
服从性高
严格遵守甲方管理制度
技术扎实
10年项目实战经验
可长期驻场
接受异地项目外派
快速响应
24小时内可到岗
企业人才对接
专业IT人力外包服务
如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。
合作热线
18969108718
商务邮箱
ntit@163.com
微信扫码咨询
扫描二维码添加商务对接