标签：教程 Kubernetes traefik keepalived ingress VIP 172.20 节点

本文参考了kube-keepalived-vip，但并没有使用容器方式安装，而是直接在node节点上安装。

1

定义

首先解释下什么叫边缘节点（Edge Node），所谓的边缘节点即集群内部用来向集群外暴露服务能力的节点，集群外部的服务通过该节点来调用集群内部的服务，边缘节点是集群内外交流的一个Endpoint。

边缘节点要考虑两个问题

• 边缘节点的高可用，不能有单点故障，否则整个kubernetes集群将不可用

• 对外的一致暴露端口，即只能有一个外网访问IP和端口

架构

为了满足边缘节点的以上需求，我们使用keepalived来实现。

在Kubernetes集群外部配置nginx来访问边缘节点的VIP。

选择Kubernetes的三个node作为边缘节点，并安装keepalived。

安装

使用keepalived管理VIP，VIP是使用IPVS创建的，IPVS已经成为linux内核的模块，不需要安装。

LVS的工作原理请参考：http://www.cnblogs.com/codebean/archive/2011/07/25/2116043.html

不使用镜像方式安装了，直接手动安装，指定三个节点为边缘节点（Edge node）。

测试集群一共只有三个node，在三个node上都要安装keepalived和ipvsadmin。

yum install keepalived ipvsadmin

配置说明

需要对原先的traefik ingress进行改造，从以Deployment方式启动改成DeamonSet。还需要指定一个与node在同一网段的IP地址作为VIP，我们指定成172.20.0.119，配置keepalived前需要先保证这个IP没有被分配。

• Traefik以DaemonSet的方式启动

• 通过nodeSelector选择边缘节点

• 通过hostPort暴露端口

• 当前VIP漂移到了172.20.0.115上

• Traefik根据访问的host和path配置，将流量转发到相应的service上

配置Keepalived

参考基于keepalived 实现VIP转移，lvs，nginx的高可用，配置keepalived。

keepalived的官方配置文档见：http://keepalived.org/pdf/UserGuide.pdf

配置文件/etc/keepalived/keepalived.conf文件内容如下：

! Configuration File for keepalived

global_defs {

   notification_email {

     root@localhost

   }

   notification_email_from kaadmin@localhost

   smtp_server 127.0.0.1

   smtp_connect_timeout 30

   router_id LVS_DEVEL

}

vrrp_instance VI_1 {

    state MASTER

    interface eth0

    virtual_router_id 51

    priority 100

    advert_int 1

    authentication {

        auth_type PASS

        auth_pass 1111

    }

    virtual_ipaddress {

        172.20.0.119

    }

}

virtual_server 172.20.0.119 80{

    delay_loop 6

    lb_algo loadbalance

    lb_kind DR

    nat_mask 255.255.255.0

    persistence_timeout 0

    protocol TCP

    real_server 172.20.0.113 80{

        weight 1

        TCP_CHECK {

            connect_timeout 3

        }

    }

    real_server 172.20.0.114 80{

        weight 1

        TCP_CHECK {

            connect_timeout 3

        }

    }

    real_server 172.20.0.115 80{

        weight 1

        TCP_CHECK {

            connect_timeout 3

        }

    }

}

Realserver的IP和端口即traefik供外网访问的IP和端口。

将以上配置分别拷贝到另外两台node的/etc/keepalived目录下。

我们使用转发效率最高的lb_kind DR直接路由方式转发，使用TCP_CHECK来检测real_server的health。

启动keepalived

systemctl start keepalived

三台node都启动了keepalived后，观察eth0的IP，会在三台node的某一台上发现一个VIP是172.20.0.119。

$ ip addr show eth0

2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc mq state UP qlen 1000

    link/ether f4:e9:d4:9f:6b:a0 brd ff:ff:ff:ff:ff:ff

    inet 172.20.0.115/17 brd 172.20.127.255 scope global eth0

       valid_lft forever preferred_lft forever

    inet 172.20.0.119/32 scope global eth0

       valid_lft forever preferred_lft forever

关掉拥有这个VIP主机上的keepalived，观察VIP是否漂移到了另外两台主机的其中之一。

改造Traefik

在这之前我们启动的traefik使用的是deployment，只启动了一个pod，无法保证高可用（即需要将pod固定在某一台主机上，这样才能对外提供一个唯一的访问地址），现在使用了keepalived就可以通过VIP来访问traefik，同时启动多个traefik的pod保证高可用。

配置文件traefik.yaml内容如下：

apiVersion: extensions/v1beta1

kind: DaemonSet

metadata:

  name: traefik-ingress-lb

  namespace: kube-system

  labels:

    k8s-app: traefik-ingress-lb

spec:

  template:

    metadata:

      labels:

        k8s-app: traefik-ingress-lb

        name: traefik-ingress-lb

    spec:

      terminationGracePeriodSeconds: 60

      hostNetwork: true

      restartPolicy: Always

      serviceAccountName: ingress

      containers:

      - image: traefik

        name: traefik-ingress-lb

        resources:

          limits:

            cpu: 200m

            memory: 30Mi

          requests:

            cpu: 100m

            memory: 20Mi

        ports:

        - name: http

          containerPort: 80

          hostPort: 80

        - name: admin

          containerPort: 8580

          hostPort: 8580

        args:

        - --web

        - --web.address=:8580

        - --kubernetes

      nodeSelector:

        edgenode: "true"

注意，我们使用了nodeSelector选择边缘节点来调度traefik-ingress-lb运行在它上面，所有你需要使用：

kubectl label nodes 172.20.0.113 edgenode=true

kubectl label nodes 172.20.0.114 edgenode=true

kubectl label nodes 172.20.0.115 edgenode=true

给三个node打标签。

查看DaemonSet的启动情况：

$ kubectl -n kube-system get ds

NAME                 DESIRED   CURRENT   READY     UP-TO-DATE   AVAILABLE   NODE-SELECTOR                              AGE

traefik-ingress-lb   3         3         3         3            3           edgenode=true                              2h

现在就可以在外网通过172.20.0.119:80来访问到traefik ingress了。

参考

kube-keepalived-vip

https://github.com/kubernetes/contrib/tree/master/keepalived-vip

http://www.keepalived.org/

keepalived工作原理与配置说明

http://outofmemory.cn/wiki/keepalived-configuration

LVS简介及使用

http://www.cnblogs.com/codebean/archive/2011/07/25/2116043.html

基于keepalived 实现VIP转移，lvs，nginx的高可用

http://limian.blog.51cto.com/7542175/1301776

标签：教程,Kubernetes,traefik,keepalived,ingress,VIP,172.20,节点
来源： https://blog.51cto.com/15077561/2584816

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。