- Notifications
You must be signed in to change notification settings - Fork268
Use shell scripts to install kubernetes(k8s) high availability clusters and addon components based on kubeadmin with one click.使用shell脚本基于kubeadmin一键安装kubernetes 高可用集群和addon组件。
License
lework/kainstall
Folders and files
| Name | Name | Last commit message | Last commit date | |
|---|---|---|---|---|
Repository files navigation
使用 shell 脚本, 基于 kubeadm 一键部署 kubernetes HA 集群
为什么要搞这个?Ansible PlayBook 不好么?
因为懒,Ansible PlayBook 编排是非常给力的,不过需要安装 Python 和 Ansible, 且需要下载多个 yaml 文件 。因为懒,我想要个更简单的方式来快速部署一个分布式的Kubernetes HA 集群, 使用shell 脚本可以不借助外力直接在服务器上运行,省时省力。 并且 shell 脚本只有一个文件,文件大小100 KB 左右,非常小巧,可以实现一条命令安装集群的超快体验,而且配合离线安装包,可以在不联网的环境下安装集群,这体验真的非常爽啊。
OS:centos 7.x x64 ,centos 8.x x64,debian 9.x x64 ,debian 10.x x64,ubuntu 20.04 x64,ubuntu 20.10 x64,ubuntu 21.04 x64
CPU:2C
MEM:4G
认证: 集群节点需统一认证; 使用密码认证时,集群节点需使用同一用户名和密码,使用密钥认证时,集群节点需使用同一个密钥文件登陆。
未指定离线包时,需要连通外网,用于下载 kube 组件和 docker 镜像。
如需按照步骤安装集群,可参考https://lework.github.io/2019/10/01/kubeadm-install/
- 服务器初始化。
- 关闭
selinux - 关闭
swap - 关闭
firewalld - 配置
epel源 - 修改
limits - 配置内核参数
- 配置
history记录 - 配置
journal日志 - 配置
chrony时间同步 - 添加
ssh-login-info信息 - 配置
audit审计 - 安装
ipvs模块 - 更新内核
- 关闭
- 安装
kube组件。 - 初始化
kubernetes集群,以及增加或删除节点。 - 安装
ingress组件,可选nginx,traefik。 - 安装
network组件,可选flannel,calico,cilium。 - 安装
monitor组件,可选prometheus。 - 安装
log组件,可选elasticsearch。 - 安装
storage组件,可选rook,longhorn。 - 安装
web ui组件,可选dashboard,kubesphere。 - 安装
addon组件,可选metrics-server,nodelocaldns。 - 安装
cri组件,可选docker,containerd,cri-o - 升级到
kubernetes指定版本。 - 更新集群证书。
- 添加运维操作,如备份etcd快照。
- 支持离线部署。
- 支持sudo特权。
- 支持10年证书期限。
- 支持脚本更新。
| 分类 | 软件 | kainstall 默认版本 | 软件最新版本 |
|---|---|---|---|
| common | containerd | latest | |
| common | kubernetes | latest | |
| network | flannel | 0.24.0 | |
| network | calico | 3.27.0 | |
| network | cilium | 1.14.5 | |
| addons | metrics server | 0.6.4 | |
| addons | nodelocaldns | latest | 1.22.28 |
| ingress | ingress nginx controller | 1.9.5 | |
| ingress | traefik | 2.10.7 | |
| monitor | kube_prometheus | 0.13.0 | |
| log | elasticsearch | 8.11.3 | |
| storage | rook | 1.13.1 | |
| storage | longhorn | 1.5.3 | |
| ui | kubernetes_dashboard | 2.7.0 | |
| ui | kubesphere | 3.3.0 |
除kube组件 版本可以通过参数(--version) 指定外,其他的软件版本需在脚本中指定。
# centoswget https://ghproxy.com/https://raw.githubusercontent.com/lework/kainstall/master/kainstall-centos.sh# debianwget https://ghproxy.com/https://raw.githubusercontent.com/lework/kainstall/master/kainstall-debian.sh# ubuntuwget https://ghproxy.com/https://raw.githubusercontent.com/lework/kainstall/master/kainstall-ubuntu.sh
# bash kainstall-centos.shInstall kubernetes cluster using kubeadm.Usage: kainstall-centos.sh [command]Available Commands: init Init Kubernetes cluster. reset Reset Kubernetes cluster. add Add nodes to the cluster. del Remove node from the cluster. renew-cert Renew all available certificates. upgrade Upgrading kubeadm clusters. update Update script file.Flag: -m,--master master node, default:'' -w,--worker work node, default:'' -u,--user ssh user, default: root -p,--password ssh password --private-key ssh private key -P,--port ssh port, default: 22 -v,--version kube version, default: latest -n,--network cluster network, choose: [flannel,calico,cilium], default: flannel -i,--ingress ingress controller, choose: [nginx,traefik], default: nginx -ui,--ui cluster web ui, choose: [dashboard,kubesphere], default: dashboard -a,--addon cluster add-ons, choose: [metrics-server,nodelocaldns], default: metrics-server -M,--monitor cluster monitor, choose: [prometheus] -l,--log cluster log, choose: [elasticsearch] -s,--storage cluster storage, choose: [rook,longhorn] --cri cri runtime, choose: [docker,containerd,cri-o], default: containerd --cri-version cri version, default: latest --cri-endpoint cri endpoint, default: /var/run/dockershim.sock -U,--upgrade-kernel upgrade kernel -of,--offline-file specify the offline package file to load --10years the certificate period is 10 years. --sudo sudo mode --sudo-user sudo user --sudo-password sudo user passwordExample: [init cluster] kainstall-centos.sh init \ --master 192.168.77.130,192.168.77.131,192.168.77.132 \ --worker 192.168.77.133,192.168.77.134,192.168.77.135 \ --user root \ --password 123456 \ --version 1.20.6 [reset cluster] kainstall-centos.sh reset \ --user root \ --password 123456 [add node] kainstall-centos.sh add \ --master 192.168.77.140,192.168.77.141 \ --worker 192.168.77.143,192.168.77.144 \ --user root \ --password 123456 \ --version 1.20.6 [del node] kainstall-centos.sh del \ --master 192.168.77.140,192.168.77.141 \ --worker 192.168.77.143,192.168.77.144 \ --user root \ --password 123456 [other] kainstall-centos.sh renew-cert --user root --password 123456 kainstall-centos.sh upgrade --version 1.20.6 --user root --password 123456 kainstall-centos.sh update kainstall-centos.sh add --ingress traefik kainstall-centos.sh add --monitor prometheus kainstall-centos.sh add --log elasticsearch kainstall-centos.sh add --storage rook kainstall-centos.sh add --ui dashboard kainstall-centos.sh add --addon nodelocaldns
# 使用脚本参数bash kainstall-centos.sh init \ --master 192.168.77.130,192.168.77.131,192.168.77.132 \ --worker 192.168.77.133,192.168.77.134 \ --user root \ --password 123456 \ --port 22 \ --version 1.20.6# 使用环境变量export MASTER_NODES="192.168.77.130,192.168.77.131,192.168.77.132"export WORKER_NODES="192.168.77.133,192.168.77.134"export SSH_USER="root"export SSH_PASSWORD="123456"export SSH_PORT="22"export KUBE_VERSION="1.20.6"bash kainstall-centos.sh init
默认情况下,除了初始化集群外,还会安装
ingress: nginx,ui: dashboard两个组件。
还可以使用一键安装方式, 连下载都省略了。
bash -c"$(curl -sSL https://ghproxy.com/https://raw.githubusercontent.com/lework/kainstall/master/kainstall-centos.sh)" \ - init \ --master 192.168.77.130,192.168.77.131,192.168.77.132 \ --worker 192.168.77.133,192.168.77.134 \ --user root \ --password 123456 \ --port 22 \ --version 1.20.6操作需在 k8s master 节点上操作,ssh连接信息非默认时请指定
# 增加单个master节点bash kainstall-centos.sh add --master 192.168.77.135# 增加单个worker节点bash kainstall-centos.sh add --worker 192.168.77.134# 同时增加bash kainstall-centos.sh add --master 192.168.77.135,192.168.77.136 --worker 192.168.77.137,192.168.77.138
操作需在 k8s master 节点上操作,ssh连接信息非默认时请指定
# 删除单个master节点bash kainstall-centos.sh del --master 192.168.77.135# 删除单个worker节点bash kainstall-centos.sh del --worker 192.168.77.134# 同时删除bash kainstall-centos.sh del --master 192.168.77.135,192.168.77.136 --worker 192.168.77.137,192.168.77.138
bash kainstall-centos.sh reset \ --user root \ --password 123456 \ --port 22 \
操作需在 k8s master 节点上操作,ssh连接信息非默认时请指定注意: 添加组件时请保持节点的内存和cpu至少为
2C4G的空闲。否则会导致节点下线且服务器卡死。
# 添加 nginx ingressbash kainstall-centos.sh add --ingress nginx# 添加 prometheusbash kainstall-centos.sh add --monitor prometheus# 添加 elasticsearchbash kainstall-centos.sh add --log elasticsearch# 添加 rookbash kainstall-centos.sh add --storage rook# 添加 nodelocaldnsbash kainstall-centos.sh add --addon nodelocaldns# 升级版本bash kainstall-centos.sh upgrade --version 1.20.6# 重新颁发证书bash kainstall-centos.sh renew-cert# debug模式DEBUG=1 bash kainstall-centos.sh# 更新脚本bash kainstall-centos.sh update# 使用 cri-o containerd runtimebash kainstall-centos.sh init \ --master 192.168.77.130,192.168.77.131,192.168.77.132 \ --worker 192.168.77.133,192.168.77.134,192.168.77.135 \ --user root \ --password 123456 \ --cri containerd# 使用 cri-o cri runtimebash kainstall-centos.sh init \ --master 192.168.77.130,192.168.77.131,192.168.77.132 \ --worker 192.168.77.133,192.168.77.134,192.168.77.135 \ --user root \ --password 123456 \ --cri cri-o
注意: 以下变量都在脚本文件的
environment configuration部分。可根据需要自行修改,或者为变量设置同名的环境变量修改其默认内容。
# 版本KUBE_VERSION="${KUBE_VERSION:-latest}"FLANNEL_VERSION="${FLANNEL_VERSION:-0.24.0}"METRICS_SERVER_VERSION="${METRICS_SERVER_VERSION:-0.6.4}"INGRESS_NGINX="${INGRESS_NGINX:-1.9.5}"TRAEFIK_VERSION="${TRAEFIK_VERSION:-2.10.7}"CALICO_VERSION="${CALICO_VERSION:-3.27.0}"CILIUM_VERSION="${CILIUM_VERSION:-1.14.5}"KUBE_PROMETHEUS_VERSION="${KUBE_PROMETHEUS_VERSION:-0.13.0}"ELASTICSEARCH_VERSION="${ELASTICSEARCH_VERSION:-8.11.3}"ROOK_VERSION="${ROOK_VERSION:-1.9.13}"LONGHORN_VERSION="${LONGHORN_VERSION:-1.5.3}"KUBERNETES_DASHBOARD_VERSION="${KUBERNETES_DASHBOARD_VERSION:-2.7.0}"KUBESPHERE_VERSION="${KUBESPHERE_VERSION:-3.3.2}"# 集群配置KUBE_DNSDOMAIN="${KUBE_DNSDOMAIN:-cluster.local}"KUBE_APISERVER="${KUBE_APISERVER:-apiserver.$KUBE_DNSDOMAIN}"KUBE_POD_SUBNET="${KUBE_POD_SUBNET:-10.244.0.0/16}"KUBE_SERVICE_SUBNET="${KUBE_SERVICE_SUBNET:-10.96.0.0/16}"KUBE_IMAGE_REPO="${KUBE_IMAGE_REPO:-registry.cn-hangzhou.aliyuncs.com/kainstall}"KUBE_NETWORK="${KUBE_NETWORK:-flannel}"KUBE_INGRESS="${KUBE_INGRESS:-nginx}"KUBE_MONITOR="${KUBE_MONITOR:-prometheus}"KUBE_STORAGE="${KUBE_STORAGE:-rook}"KUBE_LOG="${KUBE_LOG:-elasticsearch}"KUBE_UI="${KUBE_UI:-dashboard}"KUBE_ADDON="${KUBE_ADDON:-metrics-server}"KUBE_FLANNEL_TYPE="${KUBE_FLANNEL_TYPE:-vxlan}"KUBE_CRI="${KUBE_CRI:-containerd}"KUBE_CRI_VERSION="${KUBE_CRI_VERSION:-latest}"KUBE_CRI_ENDPOINT="${KUBE_CRI_ENDPOINT:-unix:///run/containerd/containerd.sock}"# 定义的master和worker节点地址,以逗号分隔MASTER_NODES="${MASTER_NODES:-}"WORKER_NODES="${WORKER_NODES:-}"# 定义在哪个节点上进行设置MGMT_NODE="${MGMT_NODE:-127.0.0.1}"# 节点的连接信息SSH_USER="${SSH_USER:-root}"SSH_PASSWORD="${SSH_PASSWORD:-}"SSH_PRIVATE_KEY="${SSH_PRIVATE_KEY:-}"SSH_PORT="${SSH_PORT:-22}"SUDO_USER="${SUDO_USER:-root}"# 节点设置HOSTNAME_PREFIX="${HOSTNAME_PREFIX:-k8s}"# 脚本设置TMP_DIR="$(rm -rf /tmp/kainstall*&& mktemp -d -t kainstall.XXXXXXXXXX)"LOG_FILE="${TMP_DIR}/kainstall.log"SSH_OPTIONS="-o ConnectTimeout=600 -o StrictHostKeyChecking=no -o UserKnownHostsFile=/dev/null"ERROR_INFO="\n\033[31mERROR Summary: \033[0m\n"ACCESS_INFO="\n\033[32mACCESS Summary: \033[0m\n"COMMAND_OUTPUT=""SCRIPT_PARAMETER="$*"OFFLINE_DIR="/tmp/kainstall-offline-file/"OFFLINE_FILE=""OS_SUPPORT="centos7 centos8"GITHUB_PROXY="${GITHUB_PROXY:-https://mirror.ghproxy.com/}"GCR_PROXY="${GCR_PROXY:-k8sgcr.lework.workers.dev}"SKIP_UPGRADE_PLAN=${SKIP_UPGRADE_PLAN:-false}SKIP_SET_OS_REPO=${SKIP_SET_OS_REPO:-false}
注意, 脚本执行的宿主机上,需要安装
tar命令,用于解压离线包。详细部署请见:https://lework.github.io/2020/10/18/kainstall-offline/
下载指定版本的离线包
wget https://github.com/lework/kainstall-offline/releases/download/1.20.6/1.20.6_centos7.tgz
更多离线包信息,见kainstall-offline 仓库
初始化集群
指定
--offline-file参数。bash kainstall-centos.sh init \ --master 192.168.77.130,192.168.77.131,192.168.77.132 \ --worker 192.168.77.133,192.168.77.134 \ --user root \ --password 123456 \ --version 1.20.6 \ --upgrade-kernel \ --10years \ --offline-file 1.20.6_centos7.tgz
添加节点
指定 --offline-file 参数。
bash kainstall-centos.sh add \ --master 192.168.77.135 \ --worker 192.168.77.136 \ --user root \ --password 123456 \ --version 1.20.6 \ --offline-file 1.20.6_centos7.tgz
创建 sudo 用户
useraddtestpasswdtest --stdin<<<"12345678"echo'test ALL=(ALL) NOPASSWD:ALL'>> /etc/sudoers
sudo 参数
--sudo开启 sudo 特权--sudo-user指定 sudo 用户, 默认是root--sudo-password指定 sudo 密码
示例
# 初始化bash kainstall-centos.sh init \ --master 192.168.77.130,192.168.77.131,192.168.77.132 \ --worker 192.168.77.133,192.168.77.134 \ --usertest \ --password 12345678 \ --port 22 \ --version 1.20.6 \ --sudo \ --sudo-user root \ --sudo-password 12345678# 添加bash kainstall-centos.sh add \ --master 192.168.77.135 \ --worker 192.168.77.136 \ --usertest \ --password 12345678 \ --port 22 \ --version 1.20.6 \ --sudo \ --sudo-user root \ --sudo-password 12345678# 更新脚本文件bash kainstall-centos.sh update
注意: 此操作需要联网下载。
使用kubeadm-certs 项目编译的kubeadm 客户端, 其修改了kubeadm 源码,将 1 年期限修改成 10 年期限,具体信息见仓库介绍。
在初始化或添加时,加上--10years 参数,就可以使用kubeadm 10 years 的客户端
示例
# 初始化bash kainstall-centos.sh init \ --master 192.168.77.130,192.168.77.131,192.168.77.132 \ --worker 192.168.77.133,192.168.77.134 \ --user root \ --password 123456 \ --port 22 \ --version 1.20.6 \ --10years# 添加bash kainstall-centos.sh add \ --master 192.168.77.135 \ --worker 192.168.77.136 \ --user root \ --password 123456 \ --port 22 \ --version 1.20.6 \ --10years
MIT
About
Use shell scripts to install kubernetes(k8s) high availability clusters and addon components based on kubeadmin with one click.使用shell脚本基于kubeadmin一键安装kubernetes 高可用集群和addon组件。
Topics
Resources
License
Uh oh!
There was an error while loading.Please reload this page.
Stars
Watchers
Forks
Packages0
Contributors7
Uh oh!
There was an error while loading.Please reload this page.
