2025年03月05日 Lakehouse Studio 产品更新发布说明
本次发布(Release 2025.03.05, v1.7),我们引入了一系列新功能、增强特性以及修复项。请注意,这些更新将分阶段逐步推送至以下区域,更新将在发布日起一周至两周内完成,具体时间依据您所在的区域而定。
- 腾讯云上海区
- 腾讯云北京区
- 腾讯云广州区
- 阿里云上海区
- 阿里云新加坡区
- 亚马逊云新加坡区
- 亚马逊云北京区
不兼容改动
- 无
新功能特性
- 产品全局:对内置角色所具备的产品功能权限点予以调整优化。依据最新内置角色,于产品不同功能场景内,针对包括左侧菜单、监控告警、数据质量等的功能权限限制进行调整。
- 数据同步:离线同步,支持同步S3中以Snappy压缩的Parquet格式文件。
- 数据同步:离线同步,支持DynamoDB数据源的读取及写入。【受邀预览】
- 数据同步:离线同步,支持HANA数据源的读取。【受邀预览】
- 数据同步:离线同步,支持同步S3上以制表符作为分隔符的CSV文件。
- 数据同步:多表实时同步,支持把数据同步到Kafka中。
- 数据同步:多表实时同步,在虚拟表中新增支持快速批量添加表的功能。
- 数据同步:离线同步和实时同步新增支持 PolarDB for MySQL 和 PolarDB for PG 数据源。
- 任务开发:开发区域新增「参数」配置功能,合并 ad-hoc 参数与调度参数,统一在「参数」弹窗中配置,提升参数管理的集中性和便捷性。
- 任务开发:参数配置新增加密取值功能,支持设置参数为加密状态,隐藏关键信息,增强参数安全性。
- 任务开发:新增取值预览功能,方便用户直观查看参数取值情况,减少因参数错误导致的任务运行异常。
- 任务开发:新增忽略功能,支持把
${字符串名}
被忽略,直接作为代码中的一部分,提供更灵活的参数处理方式。 - 任务开发:Python/Shell节点支持关联消费数据源中的信息,并对密码型参数进行脱敏处理,提高数据源关联的便捷性和安全性。
- 任务开发:新增任务优先级选择能力,确保关键任务优先执行,提升任务调度的合理性和资源利用效率。
- 计算集群:支持 GP(通用型)集群及数据同步型集群的自动扩缩容功能,根据业务负载自动调整计算资源,提高资源利用率,降低运营成本,确保任务顺利运行。
- 监控告警:支持在飞书告警信息中圈人,快速通知相关人员,提高问题处理的及时性。
- 监控告警:支持通过自定义接口推送告警信息,满足多样化的告警需求,实现与企业现有告警系统的无缝集成。
- 安全中心:新增页面功能、操作的权限点,如开发、下载、监控报警等,支持更细粒度的功能授权,提升系统的安全性和数据保密性。
- 安全中心:支持在页面上创建工作空间级别的自定义角色(暂不支持实例级别的自定义角色),可对自定义角色授予页面功能权限和数据权限,满足企业多样化的权限管理需求。
优化改进
- 账号管理:修改密码后,已登录的用户强制退出,需重新登录,确保账户安全。
- 数据同步:多表实时同步,支持删除任务中已经配置的数据源。
- 数据同步:多表实时同步,在任务配置中增加对象数量统计信息。
- 数据同步:多表实时同步,在虚拟表定义时支持选择不同的Schema。
- 数据同步:多表实时同步,优化对残留的任务实例和临时表的清理机制,增加临时表数据的定期删除清理机制,避免残留数据占用过多存储资源。
- 数据同步:多表实时同步,存量数据的全量同步支持中断后继续,提高数据同步的容错性和效率。
- 数据同步:多表实时同步,源端扩展字段优化,支持选择单个扩展字段作为联合主键。
- 数据同步:多表实时同步,支持编辑虚拟表时切换选择其他Schema的能力。
- 数据同步:多表实时同步,在任务配置和运维中支持单表检索,方便用户快速定位到目标数据表。。
- 任务开发:支持便捷复制任务名称的能力。
- 运维中心:支持对非终态的实例进行暂停操作,提升任务运维的灵活性。
- 运维中心:优化补数任务列表上的透出状态,确保内部补数任务内部状态与外部列表显示一致,提高任务状态信息的准确性。
- 数据质量:数据质量监控,点击试跑后对校验结果,将作为质量规则校验失败 / 质量规则校验超时的目标对象进行通知,及时反馈数据质量问题。
- 数据目录:优化服务实例首页的存储容量和数据目录中存储容量的展示口径,使存储容量信息更加清晰、直观。
- 安全中心:将用户、角色所具备权限的查询功能操作入口由 “安全” - “权限” 页签调整到用户、角色的详情页面内,优化操作流程,提高权限管理的便捷性。
缺陷修复
- 任务开发:修复执行 select 查询后,页面小概率会崩掉、刷新能恢复的问题。
- 任务开发:修复在移动任务的某些特殊场景下任务组下的任务列表丢失的问题。
已知局限
- 本次版本更新暂无已知新增的重大局限。
联系我们