有哪些信誉好的足球投注网站- 1、本文档共11页，可阅读全部内容。
- 2、有哪些信誉好的足球投注网站（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
- 3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
- 5、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
- 6、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传，每下载1次， 网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
数据员个人工作总结三篇--第1页
数据员个人工作总结三篇
数据员1
一、数据量过大，数据中什么情况都可能存在。
如果说有10条数据，那么大不了每条去逐一检查，人为处理，如
果有上百条数据，也可以考虑，如果数据上到千万级别，甚至过亿，
那不是手工能解决的了，必须通过工具或者程序进行处理，尤其海量
的数据中，什么情况都可能存在，例如，数据中某处格式出了问题，
尤其在程序处理时，前面还能正常处理，突然到了某个地方问题出现
了，程序终止了。
二、软硬件要求高，系统资源占用率高。
对海量的数据进行处理，除了好的方法，最重要的就是合理使用
工具，合理分配系统资源。一般情况，如果处理的数据过TB级，小型
机是要考虑的，普通的机子如果有好的方法可以考虑，不过也必须加
大CPU和内存，就象面对着千军万马，光有勇气没有一兵一卒是很难
取胜的。
三、要求很高的处理方法和技巧。
这也是本文的写作目的所在，好的处理方法是一位工程师长期工
作经验的积累，也是个人的经验的总结。没有通用的处理方法，但有
通用的原理和规则。
下面我们来详细介绍一下处理海量数据的经验和技巧：
一、选用优秀的数据库工具
现在的数据库工具厂家比较多，对海量数据的处理对所使用的数
据库工具要求比较高，一般使用Oracle或者DB2，微软公司最近发布
的SQLServer20xx性能也不错。另外在BI领域：数据库，数据仓库，
多维数据库，数据挖掘等相关工具也要进行选择，象好的ETL工具和
好的OLAP工具都十分必要，例如Informatic，Eassbase等。笔者在
实际数据分析项目中，对每天6000万条的日志数据进行处理，使用
SQLServer20xx需要花费6小时，而使用SQLServer20xx则只需要
花费3小时。
数据员个人工作总结三篇--第1页
数据员个人工作总结三篇--第2页
二、编写优良的程序代码
处理数据离不开优秀的程序代码，尤其在进行复杂数据处理时，
必须使用程序。好的程序代码对数据的处理至关重要，这不仅仅是数
据处理准确度的问题，更是数据处理效率的问题。良好的程序代码应
该包含好的算法，包含好的处理流程，包含好的效率，包含好的异常
处理机制等。
三、对海量数据进行分区操作
对海量数据进行分区操作十分必要，例如针对按年份存取的数据，
我们可以按年进行分区，不同的数据库有不同的分区方式，不过处理
机制大体相同。例如SQLServer的数据库分区是将不同的数据存于不
同的文件组下，而不同的文件组存于不同的磁盘分区下，这样将数据
分散开，减小磁盘I/O，减小了系统负荷，而且还可以将日志，索引等
放于不同的分区下。
四、建立广泛的索引
对海量的数据处理，对大表建立索引是必行的，建立索引要考虑
到具体情况，例如针对大表的分组、排序等字段，都要建立相应索引，
一般还可以建立复合索引，对经常插入的表则建立索引时要小心，笔
者在处理数据时，曾经在一个ETL流程中，当插入表时，首先删除索
引，然后插入完毕，建立索引，并实施聚合操作，聚合完成后，再次
插入前还是删除索引，所以索引要用到好的时机，索引的填充因子和
聚集、非聚集索引都要考虑。
五、建立缓存机制
文档评论（0）