
软件介绍
Linkis是一个非常好用的计算中间件架构软件,软件提供了Spark、Python、TiSpark、Hive和Shell等计算引擎,同时支持SparkSQL、Spark Scala、Pyspark、R、Python、HQL和Shell等的脚本语言。用户使用该软件可以管理该系统所有用户的应用,进行一站式管理。
软件特色
1、统一作业执行服务:一个分布式的REST/WebSocket服务,用于接收用户提交的各种脚本请求。
目前支持的计算引擎有:Spark、Python、TiSpark、Hive和Shell等。
支持的脚本语言有:SparkSQL、Spark Scala、Pyspark、R、Python、HQL和Shell等。
2、资源管理服务: 支持实时管控每个系统和用户的资源使用情况,限制系统和用户的资源使用量和并发数,并提供实时的资源动态图表,方便查看和管理系统和用户的资源。
目前已支持的资源类型:Yarn队列资源、服务器(CPU和内存)、用户并发个数等。
3、应用管理服务:管理所有系统的所有用户应用,包括离线批量应用、交互式查询应用和实时流式应用,为离线和交互式应用提供强大的复用能力,并提供应用全生命周期管理,自动释放用户多余的空闲应用。
4、统一存储服务:通用的IO架构,能快速对接各种存储系统,提供统一调用入口,支持所有常用格式数据,集成度高,简单易用。
5、统一上下文服务:统一用户和系统资源文件(JAR、ZIP、Properties等),用户、系统、计算引擎的参数和变量统一管理,一处设置,处处自动引用。
6、物料库:系统和用户级物料管理,可分享和流转,支持全生命周期自动管理。
7、元数据服务:实时的库表结构和分区情况展示。
软件功能
1、Linkis管理台
用户可以查看和管理自己的Job。
用户可以查看和管理自己的引擎。
用户可以查看Yarn的资源使用情况和用户资源使用排名。
用户可以配置引擎的启动参数。
用户可以设置变量。
2、支持标签功能
支持给EngineManager打标签。
启动引擎时,支持为引擎打标签。
支持通过标签访问目标引擎。
3、AppGovernance应用治理实现
系统级、用户级应用全生命周期管理,包括离线批量、交互式查询和实时流式应用。
为离线和交互式应用提供复用能力和智能切换能力。
智能限流、应用智能保护。
4、支持Flink和Spark Structured Streaming
软件官网
https://linkis.apache.org/
软件综述
Linkis是一款基于开放源码分布式云计算任务调度项目,由阿里巴巴开源,旨在提供一个统一的平台来调度和管理各种各样的任务,包括MapReduce、Spark、Hive、Tez、Flink等。Linkis的一些主要特点包括:
- 统一的接口:Linkis提供了一个统一的接口来访问和管理不同的任务调度系统,使得用户可以轻松地提交任务并监控其执行状态。
- 可扩展性:Linkis是一个可扩展的平台,可以满足不同规模的任务调度需求。它可以根据需要动态地增加或减少资源,以确保任务的及时完成。
- 高可用性:Linkis是一个高可用的平台,可以保证任务在出现故障时也能继续执行。它可以通过自动故障转移和任务重试机制来确保任务的可靠性。
- 安全性:Linkis提供了一个安全的平台,可以保护用户的数据和任务。它使用多种安全措施来防止未经授权的访问和攻击,包括认证、授权和加密等。
Linkis是一款云原生任务调度产品,可以帮助用户轻松地管理各种数据处理任务。它提供了丰富的功能,包括:
- 任务调度:Linkis可以调度各种数据处理任务,包括MapReduce、Spark、Hive、Tez、Flink等。它支持多种任务类型,包括批处理任务、流处理任务和交互式查询任务。
- 任务监控:Linkis提供了强大的任务监控功能,可以帮助用户实时查看任务的执行状态、资源使用情况和性能指标等。它还提供了任务日志和告警功能,可以帮助用户快速定位和解决任务问题。
- 任务编排:Linkis支持任务编排功能,可以帮助用户将多个任务组合成一个复杂的工作流。这可以帮助用户简化任务执行过程,提高任务的效率。
- 资源管理:Linkis提供了资源管理功能,可以帮助用户管理和分配计算资源。它支持多种资源类型,包括CPU、内存、存储和GPU等。它还提供了资源预留和调度策略等功能,可以帮助用户优化资源的使用。
- 安全管理:Linkis提供了安全管理功能,可以帮助用户保护数据和任务的安全。它支持多种安全机制,包括认证、授权和加密等。它还提供了审计和日志记录功能,可以帮助用户追踪用户活动和系统事件。
总体来说,Linkis是一款功能强大、易于使用、安全可靠的任务调度产品。它可以帮助用户轻松地管理各种数据处理任务,提高任务的效率和可靠性,并降低运维成本。