docker学习记录12镜像 镜像库 容器
镜像下载1234567891011下载 windows linux 命令: docker pull docker.io/library/xxx:latest 注意是官方库可以省略的部分 dockerhub: hub.docker.com dockhub的镜像站:docker.fxxk.dedyn.io 给docker配置镜像站:daemon.json docker pull --platform=xxxx 一般linux上下载docker镜像会自动选择适合宿主机处理器架构的镜像 可以直接不下载直接使用docker run,创建运行容器时自动下载镜像
查看已下载镜像docker images
删除镜像docker rmi id/名字
容器创建容器和运行docker run -d -p 80:80 镜像id或者名字 可以设置容器名字没细讲
docker create和run类似 但只创建
查看运行中的容器docker ps 显示正在运营容器
可以显示:容器id 所属镜像 容器名字等 -a(显示包括非运行的容器)
查 ...
Spring基础概念123456springframe 房子的最基本框架绝大数的java应用开发都需要用到springspringboot在spring家族中用得最多spring6 最低支持java17spring5 最低支持java8spring发展到今天已经是一个生态体系
123456java web框架发展过程:1.servlet+jsp2.MVC三层架构web层()业务层数据层
1EJB 用于降低MVC框架各类之间的耦合度 负责new类 维护类 但是侵入性太强,后期不易更换掉EJB框架
1233.SSH架构struts1/struts2+Hibernate+springspring负责new对象 hibernate负责数据库访问 struts负责页面跳转
1234.SSMspringmvc+mybatis+spring mybatis和hibernate类型 前者更适合复杂的sql语句
1235.springboot解决了4需要配置大量xml文件的难度现在很多公司都是基于springboot配置ssm框架,开展工作
Spring框架1spring framewor ...
C语言和C++语言c12345678#include <stdio.h> int main(){ /* 我的第一个 C 程序 */ printf("Hello, World! \n"); return 0;}
1代码文件 .c
1c语言和java有点像
12345678910111213141516171819202122232425262728#include <stdio.h> // 头文件包含#define PI 3.14159 // 宏定义// 函数声明int add(int a, int b);int main() { // 主函数 // 变量声明 int num1, num2, sum; // 用户输入 printf("Enter two integers: "); scanf("%d %d", &num1, &num2); // 函数调用 sum = a ...
python常用用法积累面试问题深拷贝和浅拷贝的区别是什么?12深拷贝是将对象本身复制给另一个对象。这意味着如果对对象的副本进行更改时不会影响原对象。浅拷贝是将对象的引用复制给另一个对象。因此,如果我们在副本中进行更改,则会影响原对象。
列表和元祖有什么不同?1主要区别在于列表是可变的,元祖是不可变的
dir() 函数1dir() 函数返回对象中的所有成员
字符串处理如何删除字符串中的前置空格12345前置空格是第一个非空格字符前的所有空格,使用 lstrip() 函数来删除.Ayushi如图这个字符串既包含前置空格也包含后置空格. 调用 lstrip() 函数去除了前置空格。如果想去除后置空格,使用 rstrip() 函数。Ayushi
如何将字符串转换为小写?12lower()upper()
1要检查字符串是否为全大写或全小写,使用isupper()和islower()函数
函数请解释 Python 中的闭包?1如果在一个内部函数里。对在外部作用域(但不是在全局作用域)的变量进行引用,那么内部函数就是一个闭包
什么是lambda函数?1匿名函数称为lambda函数。 ...
Hbase121.我们在设计列族的时候,可以把经常读取的列存储到一个列族中,不经常读取的列放到另一个列族中。这样我们在读取部分列的数据的时候,就只需要读取对应列族文件中的数据,提高读取效率。
1234567在HBase中,数据块大小和MemStore大小是两个不同的概念,它们具有不同的功能和调整目的。数据块大小主要影响HBase中的数据存储和访问性能。数据块由多个cell(key-value对)集合组成,每个数据块的大小在创建表的列族时可以指定。数据块大小的设定影响数据块索引的大小,数据块越小,索引越大,从而占用更大内存空间。因此,在随机查找性能和数据块索引内存占用之间需要权衡。如果需要更好的随机查找性能,可以将数据块设置为较小的值;而如果需要更好的序列扫描性能,则可以考虑增大数据块的大小。而MemStore是HBase中用于保存修改数据(即key-value对)的内存结构。当MemStore的大小达到一个阈值(默认是128MB)时,MemStore会被Flush到文件(即StoreFile),以释放内存空间。MemStore的大小设置主要影响HBase的写入性能和内存使用。如果Me ...
大数据-hivehive.mapred.mode 严格模式123456789hive> set hive.mapred.mode;hive.mapred.mode is undefined未定义即为false,即no-strict模式。开启严格模式:set hive.mapred.mode=strict;关闭严格模式:set hive.mapred.mode=undefined;
123456781.对分区表的查询必须使用到分区相关的字段分区表的数据量通常都比较大,对分区表的查询必须使用到分区相关的字段,不允许扫描所有分区,想想也是如果扫描所有分区的话那么对表进行分区还有什么意义呢。2.order by必须带limit因为要保证全局有序需要将所有的数据拉到一个Reducer上,当数据集比较大时速度会很慢。个人猜测可能是设置了limit N之后就会有一个很简单的优化算法:每个Reducer排序取N然后再合并排序取N即可,可大大减少数据传输量3. 禁止笛卡尔积查询(join必须有on连接条件)join必须带有on连接条件,不允许两个表直接相乘
2022黑马数据湖架构开发Hudi-应用进阶篇 flink集成 1
2022黑马数据湖架构开发Hudi基础入门篇 1课程内容大纲和学习目标1
1
为什么要学习Apache Hudi什么是数据湖DataLake数据仓库和数据湖区别三大流式数据湖框架Hudi 框架基本介绍Hudi 快速发展Hudi 快速体验使用编译Hudi 源码1他这种编译方式,hudi0.9 如果自己使用的hadoop3系列会出问题,编译就通不过。不过他这里是先安装的hudi,其它的还没安装,所以不会使用到已有的一些依赖。
1234567891011121314151617181920212223OK,接下来呢,我们来看第二部分就是hudi呢,快速的一个体验使用,那说白了我们就是让hudi帮我们管理数据啊,哎,我们看一下怎么去用互理。那我们分为下面5个部分去讲,首先我们思考一个问题,在前面我们讲过,hudi,它是一个数据湖的框架,它就是管理数据的,它不存储数据,也不呢进行分析数据,那他既然不存储数据的话呢,那我们的数据,它管理的数据,我们需要有个地方怎么样进行存储。那在这里面呢,我们就使用我们讲的最典型的一个文件系统,就是HDFS。那所以说我们当hudi管理数据以后,我们需 ...
2022黑马数据湖架构开发Hudi-应用进阶篇 1123456掌握大数据基础框架安装部署理解滴滴运营分析业务需求及实现思路编程实现滴滴运营分析(数据存储和SQL查询)掌握Hudi与集成Hive掌握结构化流实时流式写入数据到Hudi表了解Hudi表支持SparkSQL语句查询
Hudi 应用进阶篇之集成Spark–课程内容大纲和学习目标123大家好,接下来呢,我们继续来看我们hudi的一个使用,那今天呢,我们来给大家讲hudi的应用进阶篇,那其实我们的第二部分与应用进阶篇当中呢,与我们Spark的集成,在前面我们给大家去讲到了,hudi呢是一个数据湖框架,帮助我们更好的去管理数据,那hudi一开始诞生的时候呢,就是。哎,管理存储在HDFS文件系统上的数据。让我们更好的去管理,那比如说它可以对我们存储在HDF S上的数据呢小文件进行自动的合并。再比如hudi呢,可以啊,使得我们对文件系统上的数据进行一个更新,进行删除。以及我们可以对文件系统的数据,我们进行hudi的这种查询等等等等。好了,hudi一开始诞生呢,就是跟Spark进行集成的。hudi是既不存储数据又不分析数据,就是管理数据, ...
尚硅谷大数据技术之数据湖Hudi-1Hudi概述Hudi简介123456789101112131415161718接下来我们先来了解一下什么是hudi。可以简单理解为这么几个单词啊。Hadoop相关的upsurts就是支持插入及更新,并且呢支持一个删除,还有增量的一个处理。那么hudi其实就是咱们经常讲的一个什么数据湖的一个框架。那么官方更愿意称它为一个平台。因为啊它提供了一个平台化的能力,还有很多的功能,并且呢它是支持什么呢牛市的啊,这一点就特别关键的。那么继继续看啊,apache将核心仓库还有数据库的功能直接引入了数据库。也就是说大家使用起来还是应该是比较熟悉的那关键是后面这里你看它提供了一个表表,怎么理解呢?那么相信大家啊来了解hudi的一定都了解过,hive这么一个框架,咱们经常用hive来做一个离线数仓,对吧?那其实咱们大数据,比如说是基于hadoop的那我们的分布式的存储都是基于HDFS。那这个时候对于这个上面的数据怎么像一张表一样来管理跟使用它呢?那就借助hive这个框架,他给我们提供了表的管理,像表的一些schema啊,那我们就可以通过一些hive sql来对数据进行一 ...



















