Amazon EMR现可部署到EKS上提高资源使用以及执行效率
AWS现在让用户在Amazon EKS上部署Amazon EMR,这是一种新的EMR部署选择,使得开源大资料框架,能够获得EKS上自动化配置与管理的方便性,而且用户还可在同一个EKS丛集上,同时运作Spark与其他类型的应用程式,以提高整体资源的利用率,并简化基础设施管理工作。
Amazon EMR提供Apache Spark、Hive、HBase、Flink、Hudi和Presto等框架,让用户可以执行各种大资料工作负载,EMR会自动配置和扩展这些框架,并使用EC2执行个体类型,以最佳化速度与价格需求。而部分用户则在EKS上,自己管理Apache Spark框架,以灵活调度大资料工作负载,但无法获得EMR安装和管理框架的方便性。
因此现在AWS让用户可以将EMR应用程式,部署到EKS丛集上,与其他类型的应用程式一起运作,这种方式让所有工作负载,都可以共享资源,并且让用户以标準化的方式,统一管理和营运应用程式。而在EKS上执行的EMR,也可以获得在EC2上运作的好处,像是使用最新框架、效能最佳化的Runtime,或是用于除错的Spark使用者介面等。
EMR会自动将应用程式、大资料框架以及预建置的连接器,都打包进容器中,并把应用程式部署到EKS丛集上,自动管理日誌记录和监控运作状况,官方提到,与EKS上的标準Apache Spark相比,EMR提供3倍效能的最佳化Spark Runtime。
AWS在其开发工具中,也整合了这项新功能,用户现在可以使用Apache Airflow、Amazon EMR Studio笔记本、AWS CLI和AWS SDK来提交分析应用程式,AWS开发适用EMR的Airflow Operator,用户可以在自我託管的Airflow中,使用该连接器,或是用户也可以在EMR Studio网页IDE,执行资料分析和资料工程等任务,透过EMR Studio的使用者介面,就可以将笔记本程式码,提交到EKS上的EMR丛集。
免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
最新文章
- DNF搬砖最佳宠物搭配指南
- DNF白金徽章变现攻略:如何巧妙出售白金徽章
- 寒潮蓝色预警:近两日最低气温 0℃线南压至江南南部至贵州南部和云南北部一带
- DNA 纳米机器人:可改造人造细胞,推动合成生物学发展
- 新型巨型里德伯原子成为精准量子温度计
- 《生化危机9》重大爆料:里昂确定回归主角,吉尔缺席引热议
- 广东:到 2027 年 绿色低碳循环经济体系基本建成
- 2024 财年美国对外军售额创历史新高:背后的战略与影响
- 离子阱量子计算在近年实现双码纠错
- 这次与肯德基的全新联动,星铁再次硬控玩家热情?
- 新年多城土地市场回温:杭州单价地王纪录 3 个月内两度被打破,民企恢复拿地
- 扎克·克雷格执导新版《生化危机》电影,发行权引多家大公司激烈争夺
- 广东:积极推进煤炭消费控制,全力构建以新能源为主体的新型电力系统
- 广东:到 2027 年,全力构建绿色低碳循环经济体系
- 长三角铁路春运再创佳绩:昨日发送旅客 310.2 万人次
- 海通策略:2025 年政策见效下市场望步入基本面驱动新阶段,结构上科技制造确定性更强
- 《最终幻想14》水晶世界青魔法师职业任务全攻略
- 上海:推出乡村振兴领域优秀博士后创新计划,打造高潜力创新人才‘储备库’
- 春节机票价格跳水至百元,航司退差价政策各异引关注
- 浙江:到 2030 年,LNG 年接收能力达 4250 万吨
- 上海:启动乡村振兴博士后创新计划,打造高潜力人才‘蓄水池’
- 币界网晚讯速递:SHIB币价攀升至0.00002044美元,日内涨幅达2.10%
- 不知火舞《街霸6》惊艳换衣秀,细节之处尽显匠心,玩家为之痴狂
- 中国汽车:奋力争夺超豪华市场入场券