k8s存储卷-CSDN博客

阿里云国内75折 回扣 微信号：monov8
阿里云国际，腾讯云国际，低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号：monov8 飞机：@monov6

目录

1、emptyDir存储卷

 2、hostPath存储卷

3、nfs共享存储卷

4、PVC 和 PV

4.1 PV和PVC之间的相互作用遵循这个生命周期

4.2 PV的状态

4.3 一个PV从创建到销毁的具体流程如下

静态PVC

动态PVC

1、emptyDir存储卷

当Pod被分配给节点时首先创建emptyDir卷并且只要该Pod在该节点上运行该卷就会存在。正如卷的名字所述它最初是空的。Pod 中的容器可以读取和写入emptyDir卷中的相同文件尽管该卷可以挂载到每个容器中的相同或不同路径上。当出于任何原因从节点中删除 Pod 时emptyDir中的数据将被永久删除。

[root@master01 juan]# vim pod-emptydir.yaml
apiVersion: v1
kind: Pod
metadata:
  name: pod-emptydir
  namespace: default
  labels:
    app: myapp
    tier: frontend
spec:
  containers:
  - name: myapp
    image: ikubernetes/myapp:v1
    imagePullPolicy: IfNotPresent
    ports:
    - name: http
      containerPort: 80
#定义容器挂载内容
    volumeMounts:
#使用的存储卷名称如果跟下面volume字段name值相同则表示使用volume的这个存储卷
    - name: html
     #挂载至容器中哪个目录
      mountPath: /usr/share/nginx/html/
  - name: busybox
    image: busybox:latest
    imagePullPolicy: IfNotPresent
    volumeMounts:
    - name: html
     #在容器内定义挂载存储名称和挂载路径
      mountPath: /data/
    command: ['/bin/sh','-c','while true;do echo $(date) >> /data/index.html;sleep 2;done']
      #定义存储卷
  volumes:
   #定义存储卷名称  
  - name: html
    #定义存储卷类型
    emptyDir: {}

[root@master01 juan]# kubectl apply -f pod-emptydir.yaml
pod/pod-emptydir created
[root@master01 juan]# kubectl get pods -owide
NAME           READY   STATUS    RESTARTS   AGE     IP             NODE     NOMINATED NODE   READINESS GATES
myapp2         1/1     Running   0          3d13h   10.244.2.121   node02   <none>           <none>
myapp20        1/1     Running   0          3d13h   10.244.2.120   node02   <none>           <none>
pod-emptydir   2/2     Running   0          65s     10.244.1.122   node01   <none>           <none>

 2、hostPath存储卷

hostPath卷将 node 节点的文件系统中的文件或目录挂载到集群中。
hostPath可以实现持久存储但是在node节点故障时也会导致数据的丢失。

在 node01 节点上创建挂载目录
mkdir -p /data/pod/volume1
echo 'node01.yyy.com' > /data/pod/volume1/index.html
在 node02 节点上创建挂载目录
mkdir -p /data/pod/volume1
echo 'node02.yyy.com' > /data/pod/volume1/index.html
创建 Pod 资源
vim pod-hostpath.yaml
apiVersion: v1
kind: Pod
metadata:
  name: pod-hostpath
  namespace: default
spec:
  containers:
  - name: myapp
    image: ikubernetes/myapp:v1
    volumeMounts:
    - name: html
      mountPath: /usr/share/nginx/html
      readOnly: false
  volumes:
    - name: html
      hostPath:
        path: /data/pod/volume1
        type: DirectoryOrCreate

kubectl apply -f pod-hostpath.yaml
访问测试
[root@master01 juan]# kubectl get pods -o wide
NAME            READY   STATUS    RESTARTS   AGE     IP             NODE     NOMINATED NODE   READINESS GATES
myapp2          1/1     Running   0          3d14h   10.244.2.121   node02   <none>           <none>
myapp20         1/1     Running   0          3d14h   10.244.2.120   node02   <none>           <none>
pod-emptydir    2/2     Running   0          59m     10.244.1.122   node01   <none>           <none>
pod-hostpath2   1/1     Running   0          10s     10.244.1.124   node01   <none>           <none>

[root@master01 juan]# curl 10.244.1.124
node01.yyy.com

删除pod再重建验证是否依旧可以访问原来的内容
kubectl delete -f pod-hostpath.yaml  
kubectl apply -f pod-hostpath.yaml 
[root@master01 juan]# kubectl get pods -o wide
NAME            READY   STATUS    RESTARTS   AGE     IP             NODE     NOMINATED NODE   READINESS GATES
myapp2          1/1     Running   0          3d14h   10.244.2.121   node02   <none>           <none>
myapp20         1/1     Running   0          3d14h   10.244.2.120   node02   <none>           <none>
pod-emptydir    2/2     Running   0          58m     10.244.1.122   node01   <none>           <none>
pod-hostpath2   1/1     Running   0          77s     10.244.2.122   node02   <none>           <none>
[root@master01 juan]# curl 10.244.2.122
node02.yyy.com

3、nfs共享存储卷

在stor节点操作

在stor01节点上安装nfs并配置nfs服务
mkdir /data/volumes -p
chmod 777 /data/volumes

[root@localhost opt]# vim /etc/exports

[root@localhost opt]# systemctl start rpcbind
[root@localhost opt]# systemctl start nfs

[root@localhost opt]# showmount -e
Export list for localhost.localdomain:
/data/volumes 192.168.11.0/24

master节点操作

[root@master01 juan]# vim pod-nfs-vol.yaml
apiVersion: v1
kind: Pod
metadata:
  name: pod-vol-nfs
  namespace: default
spec:
  containers:
  - name: myapp
    image: ikubernetes/myapp:v1
    volumeMounts:
    - name: html
      mountPath: /usr/share/nginx/html
  volumes:
    - name: html
      nfs:
        path: /data/volumes
        server: 192.168.11.10stor节点的IP
[root@master01 juan]# kubectl apply -f pod-nfs-vol.yaml
pod/pod-vol-nfs created
[root@master01 juan]# kubectl get pods -o wide
NAME            READY   STATUS    RESTARTS   AGE     IP             NODE     NOMINATED NODE   READINESS GATES
myapp2          1/1     Running   0          3d16h   10.244.2.121   node02   <none>           <none>
myapp20         1/1     Running   0          3d16h   10.244.2.120   node02   <none>           <none>
pod-emptydir    2/2     Running   0          3h3m    10.244.1.122   node01   <none>           <none>
pod-hostpath2   1/1     Running   0          124m    10.244.1.124   node01   <none>           <none>
pod-vol-nfs     1/1     Running   0          2s      10.244.2.123   node02   <none>           <none>

 

4、PVC 和 PV

PV 全称叫做 Persistent Volume持久化存储卷。它是用来描述或者说用来定义一个存储卷的这个通常都是由运维工程师来定义。

PVC 的全称是 Persistent Volume Claim是持久化存储的请求。它是用来描述希望使用什么样的或者说是满足什么条件的 PV 存储。

PVC 的使用逻辑在 Pod 中定义一个存储卷该存储卷类型为 PVC定义的时候直接指定大小PVC 必须与对应的 PV 建立关系PVC 会根据配置的定义去 PV 申请而 PV 是由存储空间创建出来的。PV 和 PVC 是 Kubernetes 抽象出来的一种存储资源。

上面介绍的PV和PVC模式是需要运维人员先创建好PV然后开发人员定义好PVC进行一对一的Bond但是如果PVC请求成千上万那么就需要创建成千上万的PV对于运维人员来说维护成本很高Kubernetes提供一种自动创建PV的机制叫StorageClass它的作用就是创建PV的模板。

创建 StorageClass 需要定义 PV 的属性比如存储类型、大小等另外创建这种 PV 需要用到的存储插件比如 Ceph 等。 有了这两部分信息Kubernetes 就能够根据用户提交的 PVC找到对应的 StorageClass然后 Kubernetes 就会调用 StorageClass 声明的存储插件自动创建需要的 PV 并进行绑定。

PV是集群中的资源。 PVC是对这些资源的请求也是对资源的索引检查。 

4.1 PV和PVC之间的相互作用遵循这个生命周期


Provisioning配置---> Binding绑定---> Using使用---> Releasing释放 ---> Recycling回收

●Provisioning即 PV 的创建可以直接创建 PV静态方式也可以使用 StorageClass 动态创建
●Binding将 PV 分配给 PVC
●UsingPod 通过 PVC 使用该 Volume并可以通过准入控制StorageProtection1.9及以前版本为PVCProtection 阻止删除正在使用的 PVC
●ReleasingPod 释放 Volume 并删除 PVC
●Reclaiming回收 PV可以保留 PV 以便下次使用也可以直接从云存储中删除

4.2 PV的状态

根据这 5 个阶段PV 的状态有以下 4 种
●Available可用表示可用状态还未被任何 PVC 绑定
●Bound已绑定表示 PV 已经绑定到 PVC
●Released已释放表示 PVC 被删掉但是资源尚未被集群回收
●Failed失败表示该 PV 的自动回收失败

4.3 一个PV从创建到销毁的具体流程如下


1、一个PV创建完后状态会变成Available等待被PVC绑定。
2、一旦被PVC邦定PV的状态会变成Bound就可以被定义了相应PVC的Pod使用。
3、Pod使用完后会释放PVPV的状态变成Released。
4、变成Released的PV会根据定义的回收策略做相应的回收工作。有三种回收策略Retain、Delete和Recycle。Retain就是保留现场K8S集群什么也不做等待用户手动去处理PV里的数据处理完后再手动删除PV。Delete策略K8S会自动删除该PV及里面的数据。Recycle方式K8S会将PV里的数据删除然后把PV的状态变成Available又可以被新的PVC绑定使用。

静态PVC

stor01节点

[root@localhost volumes]# mkdir v{1,2,3,4,5}
[root@localhost volumes]# ls
index.html  v1  v2  v3  v4  v5

[root@localhost volumes]# exportfs -arv


[root@localhost volumes]# showmount -e

 查看node01或者node02或者master节点中的/etc/hosts地址映射文件是否添加了stor01节点的地址映射ip

[root@master01 juan]# vim pv-demo.yaml
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv001
  labels:
    name: pv001
spec:
  nfs:
    path: /data/volumes/v1
    server: stor01                                                                                                                                                                                                                   
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 1Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv002
  labels:
    name: pv002
spec:
  nfs:
    path: /data/volumes/v2
    server: stor01
  accessModes: ["ReadWriteOnce"]
  capacity:
    storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv003
  labels:
    name: pv003
spec:
  nfs:
    path: /data/volumes/v3
    server: stor01
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv004
  labels:
    name: pv004
spec:
  nfs:
    path: /data/volumes/v4
    server: stor01
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 4Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv005
  labels:
    name: pv005
spec:
  nfs:
    path: /data/volumes/v5
    server: stor01
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 5Gi
[root@master01 juan]# kubectl apply -f pv-demo.yaml
persistentvolume/pv001 created
persistentvolume/pv002 created
persistentvolume/pv003 created
persistentvolume/pv004 created
persistentvolume/pv005 created

[root@master01 juan]# kubectl get pv
NAME    CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM   STORAGECLASS   REASON   AGE
pv001   1Gi        RWO,RWX        Retain           Available                                   7s
pv002   2Gi        RWO            Retain           Available                                   7s
pv003   2Gi        RWO,RWX        Retain           Available                                   7s
pv004   4Gi        RWO,RWX        Retain           Available                                   6s
pv005   5Gi        RWO,RWX        Retain           Available                                   6s

[root@master01 juan]# vim pod-vol-pvc.yaml

[root@master01 juan]# kubectl apply -f pod-vol-pvc.yaml
persistentvolumeclaim/mypvc created

[root@master01 juan]# kubectl get pv
NAME    CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM           STORAGECLASS   REASON   AGE
pv001   1Gi        RWO,RWX        Retain           Available                                           89s
pv002   2Gi        RWO            Retain           Available                                           89s
pv003   2Gi        RWO,RWX        Retain           Bound       default/mypvc                           89s
pv004   4Gi        RWO,RWX        Retain           Available                                           88s
pv005   5Gi        RWO,RWX        Retain           Available                                           88s

[root@master01 juan]# kubectl get pvc
NAME    STATUS   VOLUME   CAPACITY   ACCESS MODES   STORAGECLASS   AGE
mypvc   Bound    pv003    2Gi        RWO,RWX                       22s

[root@localhost volumes]# hostnamectl set-hostname stor01
[root@localhost volumes]# cd /data/volumes/v3/
[root@localhost v3]# echo "welcome to use pv3" > index.html
[root@localhost v3]# ls
index.html
[root@localhost v3]# pwd
/data/volumes/v3

#这里最后一行发现容器没有启动成功发现原因是有一个node节点的/etc/hosts地址映射文件中没有添加stor01的IP,添加即可。
master、node01、node02节点都要添加!!!!

[root@master01 juan]# kubectl get pods -o wide
NAME            READY   STATUS              RESTARTS   AGE     IP             NODE     NOMINATED NODE   READINESS GATES
myapp2          1/1     Running             0          3d16h   10.244.2.121   node02   <none>           <none>
myapp20         1/1     Running             0          3d16h   10.244.2.120   node02   <none>           <none>
pod-emptydir    2/2     Running             0          3h23m   10.244.1.122   node01   <none>           <none>
pod-hostpath2   1/1     Running             0          144m    10.244.1.124   node01   <none>           <none>
pod-vol-nfs     1/1     Running             0          20m     10.244.2.123   node02   <none>           <none>
pod-vol-pvc     0/1     ContainerCreating   0          48s     <none>         node01   <none>           <none>


#添加上/etc/hosts里的地址映射IP后成功
[root@master01 juan]# kubectl get pods -o wide
NAME            READY   STATUS    RESTARTS   AGE     IP             NODE     NOMINATED NODE   READINESS GATES
myapp2          1/1     Running   0          3d16h   10.244.2.121   node02   <none>           <none>
myapp20         1/1     Running   0          3d16h   10.244.2.120   node02   <none>           <none>
pod-emptydir    2/2     Running   0          3h30m   10.244.1.122   node01   <none>           <none>
pod-hostpath2   1/1     Running   0          151m    10.244.1.124   node01   <none>           <none>
pod-vol-nfs     1/1     Running   0          27m     10.244.2.123   node02   <none>           <none>
pod-vol-pvc     1/1     Running   0          8m5s    10.244.1.125   node01   <none>           <none>

[root@master01 juan]# curl 10.244.1.125
welcome to use pv3
[root@master01 juan]# curl 10.244.1.125
welcome to use pv3
[root@master01 juan]# curl 10.244.1.125
welcome to use pv3

动态PVC

搭建 StorageClass + NFS实现 NFS 的动态 PV 创建

Kubernetes 本身支持的动态 PV 创建不包括 NFS所以需要使用外部存储卷插件分配PV。详见https://kubernetes.io/zh/docs/concepts/storage/storage-classes/

卷插件称为 Provisioner存储分配器NFS 使用的是 nfs-client这个外部卷插件会使用已经配置好的 NFS 服务器自动创建 PV。
Provisioner用于指定 Volume 插件的类型包括内置插件如 kubernetes.io/aws-ebs和外部插件如 external-storage 提供的 ceph.com/cephfs。

1、在stor01节点上安装nfs并配置nfs服务

mkdir /data/volumes
chmod 777 /data/volumes
vim /etc/exports

systemctl restart nfs

2、在master节点创建 Service Account用来管理 NFS Provisioner 在 k8s 集群中运行的权限设置 nfs-client 对 PVPVCStorageClass 等的规则

vim nfs-client-rbac.yaml
#创建 Service Account 账户用来管理 NFS Provisioner 在 k8s 集群中运行的权限
apiVersion: v1
kind: ServiceAccount
metadata:
  name: nfs-client-provisioner
---
#创建集群角色
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
  name: nfs-client-provisioner-clusterrole
rules:
  - apiGroups: [""]
    resources: ["persistentvolumes"]
    verbs: ["get", "list", "watch", "create", "delete"]
  - apiGroups: [""]
    resources: ["persistentvolumeclaims"]
    verbs: ["get", "list", "watch", "update"]
  - apiGroups: ["storage.k8s.io"]
    resources: ["storageclasses"]
    verbs: ["get", "list", "watch"]
  - apiGroups: [""]
    resources: ["events"]
    verbs: ["list", "watch", "create", "update", "patch"]
  - apiGroups: [""]
    resources: ["endpoints"]
    verbs: ["create", "delete", "get", "list", "watch", "patch", "update"]
---
#集群角色绑定
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
  name: nfs-client-provisioner-clusterrolebinding
subjects:
- kind: ServiceAccount
  name: nfs-client-provisioner
  namespace: default
roleRef:
  kind: ClusterRole
  name: nfs-client-provisioner-clusterrole
  apiGroup: rbac.authorization.k8s.io

kubectl apply -f nfs-client-rbac.yaml

3、使用 Deployment 来创建 NFS Provisioner

NFS Provisione(即 nfs-client)有两个功能一个是在 NFS 共享目录下创建挂载点(volume)另一个则是将 PV 与 NFS 的挂载点建立关联。

#由于 1.20 版本启用了 selfLink所以 k8s 1.20+ 版本通过 nfs provisioner 动态生成pv会报错解决方法如下

vim /etc/kubernetes/manifests/kube-apiserver.yaml
spec:
  containers:
  - command:
    - kube-apiserver
    - --feature-gates=RemoveSelfLink=false       #添加这一行
    - --advertise-address=192.168.80.20
......
kubectl apply -f /etc/kubernetes/manifests/kube-apiserver.yaml
kubectl delete pods kube-apiserver -n kube-system 
kubectl get pods -n kube-system | grep apiserver

#创建 NFS Provisioner

vim nfs-client-provisioner.yaml
kind: Deployment
apiVersion: apps/v1
metadata:
  name: nfs-client-provisioner
spec:
  replicas: 1
  selector:
    matchLabels:
      app: nfs-client-provisioner
  strategy:
    type: Recreate
  template:
    metadata:
      labels:
        app: nfs-client-provisioner
    spec:
      serviceAccountName: nfs-client-provisioner   	  #指定Service Account账户
      containers:
        - name: nfs-client-provisioner
          image: quay.io/external_storage/nfs-client-provisioner:latest
          imagePullPolicy: IfNotPresent
          volumeMounts:
            - name: nfs-client-root
              mountPath: /persistentvolumes
          env:
            - name: PROVISIONER_NAME
              value: nfs-storage       #配置provisioner的Name确保该名称与StorageClass资源中的provisioner名称保持一致
            - name: NFS_SERVER
              value: stor01           #配置绑定的nfs服务器
            - name: NFS_PATH
              value: /opt/k8s          #配置绑定的nfs服务器目录
      volumes:              #申明nfs数据卷
        - name: nfs-client-root
          nfs:
            server: stor01
            path: /opt/k8s
kubectl apply -f nfs-client-provisioner.yaml

上传nfs-client-provisioner.tar安装包到node01、node02节点中

并使用

docker load -i > nfs-client-provisioner.tar
docker images

4、创建 StorageClass负责建立 PVC 并调用 NFS provisioner 进行预定的工作并让 PV 与 PVC 建立关联

vim nfs-client-storageclass.yaml
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
  name: nfs-client-storageclass
provisioner: nfs-storage     #这里的名称要和provisioner配置文件中的环境变量PROVISIONER_NAME保持一致
parameters:
  archiveOnDelete: "false"   #false表示在删除PVC时不会对数据进行存档即删除数据
kubectl apply -f nfs-client-storageclass.yaml
[root@master01 dongtaipvc]# kubectl get storageclass
NAME                      PROVISIONER   RECLAIMPOLICY   VOLUMEBINDINGMODE   ALLOWVOLUMEEXPANSION   AGE
nfs-client-storageclass   nfs-storage   Delete          Immediate           false                  84m

5、创建 PVC 和 Pod 测试

vim test-pvc-pod.yaml
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: test-nfs-pvc
spec:
  accessModes:
    - ReadWriteMany
  storageClassName: nfs-client-storageclass    #关联StorageClass对象
  resources:
    requests:
      storage: 1Gi
---
apiVersion: v1
kind: Pod
metadata:
  name: test-storageclass-pod
spec:
  containers:
  - name: busybox
    image: busybox:latest
    imagePullPolicy: IfNotPresent
    command:
    - "/bin/sh"
    - "-c"
    args:
    - "sleep 3600"
    volumeMounts:
    - name: nfs-pvc
      mountPath: /mnt
  restartPolicy: Never
  volumes:
  - name: nfs-pvc
    persistentVolumeClaim:
      claimName: test-nfs-pvc      #与PVC名称保持一致
kubectl apply -f test-pvc-pod.yaml

PVC 通过 StorageClass 自动申请到空间

查看 NFS 服务器上是否生成对应的目录自动创建的 PV 会以 ${namespace}-${pvcName}-${pvName} 的目录格式放到 NFS 服务器上 

进入 Pod 在挂载目录 /mnt 下写一个文件然后查看 NFS 服务器上是否存在该文件

 发现 NFS 服务器上存在说明验证成功

阿里云国内75折 回扣 微信号：monov8
阿里云国际，腾讯云国际，低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号：monov8 飞机：@monov6
标签: k8s
返回列表

上一篇：网络服务退出一个问题的解析-CSDN博客

下一篇：GitLab CI/CD使用经验，来自于莫纳什大学的考试任务解析-CSDN博客

“k8s存储卷-CSDN博客” 的相关文章

三十、Kubernetes中kube-proxy三种工作模式详解1年前 (2023-02-02)
kubetpl - kubernetes 模板管理工具1年前 (2023-02-02)
Kubernetes集群搭建1年前 (2023-02-03)
部署k8s碰到的问题1年前 (2023-02-03)
K8s-存储原理说明1年前 (2023-02-04)
在GCP的Kubernetes上安装dapr1年前 (2023-02-04)
k8s部署nacos集群1年前 (2023-02-07)
【云原生kubernetes】k8s存储PV与PVC使用详解1年前 (2023-02-07)
oss报UnknownHost，k8s设置hostAliases参数1年前 (2023-02-08)
K8S 部署 spark1年前 (2023-02-08)

阿里云国际版