刷新
用海豚调度器定时调度从Kafka到HDFS的kettle任务脚本

博主头像 在实际项目中,从Kafka到HDFS的数据是每天自动生成一个文件,按日期区分。而且Kafka在不断生产数据,因此看看kettle是不是需要时刻运行?能不能按照每日自动生成数据文件? 为了测试实际项目中的海豚定时调度从Kafka到HDFS的Kettle任务情况,特地提前跑一下海豚定时调度这个任务,看看 ...

达梦数据库-初步学习

达梦数据库-初步学习 sql 连接方式 su - dmdba cd /data/ /data/dm/bin/disql SYSDBA/SYSDBA@x.x.x.x:5236 数据库信息查看 查看当前数据库中存在的模式 ​select * from SYSOBJECTS t where t."TYPE ...

DTC2024,华为云数据库创新融合大发展,打造世界级数据库!

博主头像 本文分享自华为云社区《DTC2024,华为云数据库创新融合大发展,打造世界级数据库!》,作者:GaussDB 数据库。 4月12日-13日,以“智能·云原生·一体化——DB与Al协同创新,模型与架构融合发展”为主题的第十三届数据技术嘉年华(DTC 2024)在北京新云南皇冠假日酒店成功举行。作为本次 ...

GreatSQL优化技巧:半连接(semijoin)优化

博主头像 何为半连接? 半连接是在GreatSQL内部采用的一种执行子查询的方式,semi join不是语法关键字,不能像使用inner join、left join、right join这种语法关键字一样提供给用户来编写SQL语句。 两个表t1表和t2表进行半连接的含义是:对于t1表的某条记录来说,我们只关 ...

redis哨兵模式的原理及部署

博主头像 目录一、什么是哨兵模式1、为什么需要哨兵机制2、哨兵架构拓扑3、Redis Sentinel的功能:二、搭建哨兵架构1、涉及主机2、拓扑结构3、设置一主两从4、master服务器状态5、编辑哨兵的配置文件6、启动哨兵7、验证哨兵端口8、查看哨兵日志9、验证当前sentinel状态三、故障转移1、re ...

天翼云入选“2023年度数据要素价值创新标杆示范案例”!

博主头像 近日,由新一代信息技术产业研究院、赛迪未来产业研究中心共同主办,中国电子学会区块链分会、至顶科技联合承办的“2024未来信息技术大会暨首届数据要素创新发展论坛”于北京成功举办。大会公布了“2023年度数据要素价值创新标杆示范案例”评选结果,天翼云“海南省数据产品超市公共数据资源开发利用平台”与“福州... ...

裁员了!别错过2024年大数据工程师必备的10项技能

博主头像 在当今快速发展的世界中,数据被视为新的石油。随着对数据驱动洞察的日益依赖,大数据工程师的角色比以往任何时候都更为关键。 这些专业人员在管理和优化组织内的数据操作中扮演着至关重要的角色。在本文中,我们将探索2024年大数据工程师必须具备的十项技能。 理解大数据工程师的角色 在深入技能之前,了解大数据工 ...

hive on spark内存模型

博主头像 内容介绍 hive on spark的调优,那必然涉及到这一系列框架的内存模型。本章就是来讲一下这些框架的内存模型。 hive on spark的任务,从开始到结束。总共涉及了3个框架。分别是:yarn、hive、spark 其中,hive只是一个客户端的角色。就不涉及任务运行时的内存。所以这里主要 ...

实时数仓构建:Flink+OLAP查询的一些实践与思考

博主头像 以Flink为主的计算引擎配合OLAP查询分析引擎组合进而构建实时数仓**,其技术方案的选择是我们在技术选型过程中最常见的问题之一。也是很多公司和业务支持过程中会实实在在遇到的问题。 很多人一提起实时数仓,就直接大谈特谈Hudi,Flink的流批一体等,但实际上,**实时数仓包括任何架构体系的构建如... ...

redis主从复制

博主头像 目录一、什么是redis主从复制1、主从复制架构2、redis为什么需要主从复制二、搭建主从复制1、涉及主机2、编译安装redis2.1、获取软件安装包,安装编译环境2.2、编译安装2.3、配置变量2.4、验证目录结构2.5、准备目录及文件3、前台启动redis3.1、消除三个警告提示4、使用sys ...

用海豚调度器定时调度从Kafka到HDFS的kettle任务脚本

博主头像 在实际项目中,从Kafka到HDFS的数据是每天自动生成一个文件,按日期区分。而且Kafka在不断生产数据,因此看看kettle是不是需要时刻运行?能不能按照每日自动生成数据文件? 为了测试实际项目中的海豚定时调度从Kafka到HDFS的Kettle任务情况,特地提前跑一下海豚定时调度这个任务,看看 ...

Mysql安装和远程登录--Centos7

博主头像 在Centos7中使用的包管理工具是yum,当然使用包管理工具安装也是最方便的。 本文操作内容需要在root用户下,否则有些步骤无法成功执行。 系统环境信息展示 安装 MySQL 提供的 RPM wget https://dev.mysql.com/get/mysql80-community-rel ...

主从延迟调优思路

博主头像 主从延迟调优思路 1、什么是主从延迟? 本质是从库的回放跟不上主库,回放阶段的延迟 2、主从延迟常见的原因有哪些? 1、大事务,从库回放时间较长,导致主从延迟 2、主库写入过于频繁,从库回放跟不上 3、参数配置不合理 4、主从硬件差异 5、网络延迟 6、表没有主键或者索引大量频繁的更新 7、一些读写 ...

<1234···50>