资讯详情

Python+大数据-Excle-kettle使用

Python 大数据-Excle-kettle使用-day03(黑马)

1.数据分析介绍

1.什么是数据? 数据是用于科学研究、技术设计、验证、决策等的数据。  数据变异性:数据会随时间、地点、生产生活和客观规律而变化。  数据的规律性:当数据达到足够的数量时,就会有一定的内在规律。  数据的客观性:能够记录或证明客观事实,不随主观意愿而变化。 2.不同行业的数据分析能做些什么? 电商类 电子商务网站将收集大量的用户行为数据,如浏览和购买。通过这些数据,数据分析师了解不同用户的偏好和行为,以帮助增加产品销售。 社交类 利用社交网络数据,通过分析帖子、推文、博客等社交数据,可以更好地进行精准营销,有效改善用户服务和体验。 

2.数据分析四步

1.数据采集  数据采集是整个数据分析工作的起点,所采集和加取的全不全、对不对,直接决定数据分析工作的质量,影后续所有的环节。  1)埋点   捕获、处理和发送特定用户行为或事件的相关技术及其实施过程。  2)爬虫   使用代码模拟人的行为到每个网站获取数据  3)程序应用接口(API)   连接各种软件系统,并打开技术接口管道,以便在系统之间共享数据。 2.数据清洗  利用数理计、数据挖掘或定义的清理规则等相关技术,将脏数据转化为满足数据质量要求的数据。  1)保证数据的质量是保证数据分析的质量  高质量数据应符合以下标准:   ?完整性   ?唯一性   ?准确性   ?一致性  2)整洁有序的数据可以提高数据分析的工作效率   ?每个变量独占一列   ?每个数据独占一行 3.数据分析统计 数据分析是指通过某种方法和技能对准备好的数据进行探索和分析,发现因果关系、内部联系和业务规的提供参考。  1)描述性分析   描述事物的特征。需要准确、完善甚至实时的数据。  2)诊断分析   在评估描述性数据时,诊断分析工具将使分析师能够深入细分数据,   隔离问题的根本原因。  3)预测性分析   描述数据特征与变量的关系,并根据过去的数据预测未来。  4)规范分析   规范模型利用对发生事件的理解,为什么会发生这种情况和各种可能发生"帮助用户确定最佳行动计划。 4.数据可视化及辅助业务决策 1)清晰的可视化和完整的分析报告  ?能使分析结果直观、简单、易懂;  ?全面、合乎逻辑、经得起推敲的分析报告;  ?可靠、可验证的分析结论; 2)根据数据分析结论,促进产品的修正和着陆  数据分析师总是需要通过说服产品和工程来改变产品,产生影响力。  

Kettle

Kettle 介绍

 由于企业的分析报告和决策支持目的,数据仓库是一个大型数据存储集合,以筛选和整合各种业务数据。为企业提供一定的服务BI能力,指导业务流程改进,监控时间成本、质量和控制。  ETL它是将业务系统的数据提取、清、转换后加载到数据仓库的过程,目的是将分散、凌乱、标准不一致的数据整合在一起。 Kettle是国外开源的ETL工具,纯java写,可以在Window、Linux、Unix绿色无需安装 Kettle中文名称叫水壶,项目主程序员MATT希望将各种数据放入锅中,然后以指定的格式流出 Kettle允许管理来自不同数据库的数据,提供一个图形化的用户环境来描述你想做什么,无需关心  学习 text-excel 将txt文本转换为excel excel-table 将excel 转换为sql table-table 将sql表复制转换为sql UPdata_insert_table 插入两个表同步更新 switch_case 将sql根据性别分类3个表excel表 执行SQL脚本 指定字段可以删除 1_job 命令按时间间隔执行 删除表数据 用txt删除文件中的内容Sql句子中的内容 linux_text_excel 在linux下执行将txt转换为excel  第一步:修改window下的TXT抽取到excel转换任务,设置变量替换  第二步:文本输入变量名称linux_txt  第三步:excel输出名称为linux_excel  第四步:输入原文本window路径改为${linux_txt}  第五步:将原excel的window路径改为linux_excel  第六步:将转换任务另存linux_txt_excel  第七步:在Linux环境下的/root/kettle执行命令在目录下:   pan.sh -file /root/kettle/linux_txt_excel.ktr -level=basic -param:linux_txt     =/root/kettle/user.txt -param:linux_excel=/root/kettle/user.xls 

标签: ktr微型自恢复直线位移传感器

锐单商城拥有海量元器件数据手册IC替代型号,打造 电子元器件IC百科大全!

锐单商城 - 一站式电子元器件采购平台