2012对于IT行业来说,无疑是大数据之年。据IDC统计,2011年数据总量将达到1.8万亿GB ,对这些海量数据的分析已经成为企业和机构非常重要且紧迫的需求。面临着占据不到15% 的传统标准化、结构化的信息,企业已经无法捕捉正确的、全部的市场信息,剩下的85% 非结构化数据则广泛存在于社交网络、互联网和电子商务之中。面对席卷而来的大数据浪潮,企业更需要一种全新的技术,帮助他们实时处理海量的复杂性信息,挖掘大数据分析的价值。
在大数据分析中,传统的数据库部署已经不能承载TB数据,也不能很好的支持高级别的数据分析。“大数据的应用关键在于可高度扩展的分析,包括处理海量、高速、种类繁多以及无法预测的数据类型等极端情况”,Forrester 研究机构于10月发布的报告《企业Hadoop:新兴的大数据核心》指出。
在大数据分析领域,Hadoop和MapReduce越来越受到关注。Hadoop是一个开放源码的分布式数据处理系统架构,主要面向存储和处理结构化、半结构化或非结构化等真正意义上的大数据(通常成百上千的TB甚至PB级别数据)应用。MapReduce能将大数据问题分解成多个子问题,将它们分配到成百上千个处理节点之上,然后将结果汇集到一个小数据集当中,从而更容易分析得出最后的结果。
Sybase IQ 15.4采用业内领先的MPP列式数据库和最先进的数据库内分析技术,并革命性地加入MapReduce与Hadoop集成,以应对大数据时代的分析挑战,开启洞察关键业务的能力。Sybase IQ 15.4正在打破数据分析的壁垒,彻底改变“大数据分析”领域。
Sybase IQ 15——创新性的列式数据库
面对大数据分析的全新需求,Sybase IQ 的列式数据库无疑更能够驾驭大数据浪潮。
相比于传统的“行式存储”的关系型数据库,Sybase IQ使用了独特的列式存储方式,在进行分析查询时,仅需读取查询所需的列,其垂直分区策略不仅能够支持大量的用户、大规模数据,还可以提交对商业信息的高速访问,其速度可达到传统的关系型数据库的百倍甚至千倍。“随着Sybase IQ不断地在分析应用POC测试中拔得头筹,有时甚至超过其他对手100倍之多”,Gartner 评价道,“Sybase IQ逐渐成为从数据集市到企业数据仓库架构最令人渴望的DBMS(数据库管理系统)。”
在此基础上,Sybase IQ 15 提升了核心的引擎基础架构能力,包括数据加载和查询性能、改进的安全架构、强大的集群管理和因数据分区而增强的管理等等。自2009年推出以来,Sybase陆续发布了Sybase IQ 15.1、15.2、15.3以至最新的Sybase IQ 15.4版本,每个版本都着力于增加新的核心能力以促进更深入的高级分析。Sybase IQ 15.3在内置分析、全文检索等功能基础上,采用 PlexQ 技术的全共享 MPP 架构,扩展后可支持实时访问数千个用户、多个混合工作负载和大规模数据集,将性能、分析、灵活性提高前所未有的高度,从而重新定义企业级业务分析。Sybase IQ 15.4已将Sybase IQ 的性能、分析、灵活性提升到了更高的级别,进一步推动了其在商业智能方面业已非常强势的增长。
长期以来,Sybase IQ这些技术革新使得Sybase IQ一直以来位于列式分析服务器市场的领导者地位。目前,全球已有2,000多名用户采用了Sybase IQ创新的列式处理方法,为其关键的分析和报表系统提供支持。在过去三年,每年都有大约200个新客户加入Sybase IQ用户阵营。
Sybase IQ 15 ——采用更灵活、效益更高的 PlexQ 技术
Sybase在2010年推出的Sybase IQ 15.3就采用了全共享架构的 PlexQ 技术,该技术重新定义了企业范围的业务信息,全共享架构可轻松支持涉及海量数据集、海量并发用户数和独特工作流程的多种复杂分析样式,大大增加了其效益。与其他 MPP 解决方案不同,Sybase IQ 的 PlexQ 网格技术能够动态管理可轻松扩展并且专用于不同组和流程的一系列计算与存储资源中的分析工作量,从而使其能够以更低的成本更轻松地支持日益增长的数据量以及快速增长的用户社区。
基于成熟的PlexQ 技术构建的Sybase IQ 采用下图所示的三层构架:
基本层:数据库管理系统 (DBMS),这是一个全共享 MPP 分析 DBMS 引擎,是Sybase IQ 最大的独特优势。
• 第二层:分析应用程序服务层,其提供 C++ 和 Java 数据库内 API,并可实现与外部数据源的集成和联邦;包括四种 与Hadoop 的集成方法。
• 顶层:Sybase IQ 生态系统,由四个强大且不同的合作伙伴和认证 ISV 应用程序组成。
基于这种 PlexQ 技术,Sybase IQ 15.4 将大数据转变成可指挥每个人都行动的情报信息,从而在整个企业的用户和业务流程范围内轻松具备大数据的分析能力。
Sybase IQ 15.4——面向大数据的高级分析平台
Sybase IQ提供了一个统一的DBMS平台,可使用各种算法分析不同类型的数据,这包括结构化数据和半结构化数据。此外,该版本还做了以下的扩充:扩大了对数据库内分析功能的支持,包括MapReduce API、预测模型标记语言(PMML)支持、与Hadoop的集成以及基于Sybase IQ PlexQ大规模并行处理(MPP)技术的统计和数据挖掘算法的扩展库。新的API帮助开发人员快速、安全地实施数据库内算法,实现优于现有方法10倍以上的性能加速。
Sybase IQ 15. 4具有以下主要功能:
1. 更强的数据管理
大量增强的功能改善了Sybase IQ 的数据管理、部署和可维护性。
• 更快速的批量加载: 批量加载数据通过ODBC 和 JDBC 接口插入到Sybase中,从而实现具有更高可扩展性的应用程序,同时可极大提高加载性能。
• 更出色的文本压缩: 更出色地对 VARCHAR、VARBINARY、CHAR 和 BINARY 压缩可实现以更高效率、更低成本部署高性能文本分析应用程序,同时极大提高压缩速率。
2. 丰富的应用程序
Sybase IQ 15.4 增加了一系列 API 和工具,用于创建在数据库内运行的高级分析算法,并且能通过 PlexQ 网格能充分利用大规模并行处理的能力。
支持自带Map Reduce的表参数化用户自定义函数(UDF)——这是 Sybase IQ 的本地应用程序编程接口,可使应用程序编程人员在 Sybase IQ 数据库服务器内构建和部署 C++ 库。使用这些 API 可实现专有算法或算法包,安全地位于 Sybase IQ 内,通过在保存于 Sybase IQ 数据库服务器中的数据附近执行,以快 10 倍的速度返回结果。此框架可实现在 Sybase IQ 中开发和部署 MapReduce 程序,以分析涉及结构化、半结构化和非结构化数据格式的超大数据集。C++、Map 和 Reduce 算法通过标准 SQL 加以调用,并且由 Sybase IQ 强大的查询引擎自动在 PlexQ 网格中进行分发和并行化。
Hadoop集成与联邦——将基于Hadoop的分析的结果与运行于 Sybase IQ 中的查询相集成。Sybase 是唯一一家提供4种不同方法将标准SQL查询(客户端联邦、ETL处理、数据联邦和查询联邦)中的 Hadoop 数据和分析与分析数据库相集成的厂商。Sybase IQ 15.4 充分利用Hadoop来识别海量结构化和非结构化数据集中的相关数据点,然后将 Hadoop 中的相关数据点集成到 Sybase IQ 中,以便利用传统数据和来自其他数据源的结果集进行分析。
预测模型标记语言 (PMML) 支持——通过 Zementis 提供的认证插件,自动执行使用业界标准语言定义在SAS、SPSS、“R”等工具以及其他流行预测工作平台产品中所创建的分析模型。充分利用流行的分析工具构建预测模型,自动执行在Sybase IQ中部署的预测模型,并使用业界标准语言,以避免形成厂商捆绑。
“R”集成: ——用户可使用 RJDBC 接口,以及流行的开源统计工具“R”查询Sybase IQ 数据库。此外,用户还可以将来自 Sybase IQ 的“R”库作为SQL查询中的函数调用加以执行,并返回结果集。
3. 数据库内分析库
更新的数据库内统计和数据挖掘库(来自Fuzzy • Logix 的 DBLytix): 在 Sybase IQ 内运行的高级分析、统计和数据挖掘算法库。Sybase IQ 15.4中的更新可使该库充分利用一些数据挖掘算法中的MapReduce API进行大规模并行处理,并且包含多种新函数,例如支持向量机、神经网络和Adaptive Boosting。
4. 扩展的生态系统
Sybase IQ 还非常适合面向大数据分析的端到端全面解决方案。重要的工具和互补的合作伙伴产品可在以下方面提供帮助:
Sybase PowerDesigner® 16.1 参考架构生成器: 可通过在实施 Sybase IQ 数据仓库和数据集市时生成最佳硬件配置,快速实现价值。
Sybase Control Center(SCC) : 改进方面包括大量管理功能,例如过程、函数、UDF(表、TPF 和JavaEE )及文本索引。用户能够更轻松地管理 SCC 中频繁使用的功能,以及更轻松地部署内置、外部和文本数据库内分析。此外该版本还包含了新的SQL 执行窗口,该窗口可实现易于测试的特定 SQL 例程。
已通过 SAP®BusinessObjects™ 认证: Sybase IQ 15.4已通过认证,可与SAP Business Objects Business Intelligence Platform 4.0 和SAP Business Objects Data Services 4.0配合使用,以提供丰富的端到端业务分析框架。
基于合作伙伴的解决方案: Sybase IQ 拥有基于与Solix、KXEN、Quest、BMMSoft、Zementis 及 Fuzzy Logix 之间的合作伙伴关系的多种新解决方案,从而可使Sybase IQ 提供可满足各种需求的优质解决方案。
总结
以上新功能充分利用 PlexQ 智能分析网格技术,能够在一个企业级数据分析平台上执行大规模分析。凭借 Sybase IQ 15.4,企业能够有效地将海量数据转变成可操作的信息,管理海量增长的半结构与非结构化数据、实现复杂数据环境下高效的大数据分析。
在大数据浪潮下,Sybase 从行业的变化以及用户的真实需求出发,不断革新技术并调整服务,为全球用户提供适应大数据环境的产品与解决方案。
关于Sybase
Sybase,SAP旗下的公司,是业界领先的企业级和移动软件公司,致力于信息的管理、分析和移动。无论在何种系统、网络和设备上,我们都是全球公认的在数据密集应用领域有杰出的性能表现的领导者。我们的信息管理、分析、移动消息和企业移动解决方案已经为全球的金融服务、通信、制造和政府等的业务关键系统提供强劲动力。
- 蜜度索骥:以跨模态检索技术助力“企宣”向上生长
- 华为徐直军谈鸿蒙:10万个应用是鸿蒙生态成熟的标志
- 数智江苏 向新而行
- 数智江苏:推进万兆+AI建设,助力新质生产力打造
- 孙正义黄仁勋互曝往事:差点买下英伟达 错失两千亿美元
- 特朗普胜选影响科技业:AI加速进步,平息反垄断调查(谷歌除外)
- 马蜂窝发布2024北京文旅十大新玩法,创新体验激发目的地新活力
- 戈尔发布业界首部《车灯凝露解决方案白皮书》,助力汽车照明应对行业挑战
- BEZ三十年 | 砥砺三十载 奔“赋”新征程 电子城高科举办成立30周年暨重组上市15周年主题活动
- 华为举办原生鸿蒙之夜暨全场景新品发布会,推出HarmonyOS NEXT和多款新品
- HarmonyOS NEXT正式发布:原生应用超15000个,开启更多机型公测
免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。