我有一对kubernetes
吊舱,一个用于nginx
,另一个用于Python Flask
+ uWSGI
。我已经在docker-compose
中本地测试了我的设置,并且运行良好,但是在以某种方式部署到kubernetes
之后,似乎两者之间没有通信。最终结果是,当我尝试到达我的位置时收到502网关错误。
所以我的问题不是我的设置真正出了什么问题,而是我可以使用哪些工具来调试此方案。是否有uwsgi的测试客户端?我可以使用ncat吗?我似乎没有从nginx获得任何有用的日志输出,而且我也不知道uwsgi是否甚至有日志。
我该如何调试?
供参考,这是我的Nginx位置:
location / {
# Trick to avoid nginx aborting at startup (set server in variable)
set $upstream_server ${APP_SERVER};
include uwsgi_params;
uwsgi_pass $upstream_server;
uwsgi_read_timeout 300;
uwsgi_intercept_errors on;
}
这是我的wsgi.ini:
[uwsgi]
module = my_app.app
callable = app
master = true
processes = 5
socket = 0.0.0.0:5000
die-on-term = true
uid = www-data
gid = www-data
这是Nginx的kubernetes deployment.yaml:
apiVersion: apps/v1
kind: Deployment
metadata:
labels:
service: nginx
name: nginx
spec:
replicas: 1
revisionHistoryLimit: 2
selector:
matchLabels:
service: nginx
strategy:
type: Recreate
template:
metadata:
labels:
service: nginx
spec:
imagePullSecrets:
- name: docker-reg
containers:
- name: nginx
image: <custom image url>
imagePullPolicy: Always
env:
- name: APP_SERVER
valueFrom:
secretKeyRef:
name: my-environment-config
key: APP_SERVER
- name: FK_SERVER_NAME
valueFrom:
secretKeyRef:
name: my-environment-config
key: SERVER_NAME
ports:
- containerPort: 80
- containerPort: 10443
- containerPort: 10090
resources:
requests:
cpu: 1m
memory: 200Mi
volumeMounts:
- mountPath: /etc/letsencrypt
name: my-storage
subPath: nginx
- mountPath: /dev/shm
name: dshm
restartPolicy: Always
volumes:
- name: my-storage
persistentVolumeClaim:
claimName: my-storage-claim-nginx
- name: dshm
emptyDir:
medium: Memory
这里是Nginx的kubernetes service.yaml:
apiVersion: v1
kind: Service
metadata:
labels:
service: nginx
name: nginx
spec:
type: LoadBalancer
ports:
- name: "nginx-port-80"
port: 80
targetPort: 80
protocol: TCP
- name: "nginx-port-443"
port: 443
targetPort: 10443
protocol: TCP
- name: "nginx-port-10090"
port: 10090
targetPort: 10090
protocol: TCP
selector:
service: nginx
这是用于python flask的kubernetes deployment.yaml:
apiVersion: apps/v1
kind: Deployment
metadata:
labels:
service: my-app
name: my-app
spec:
replicas: 1
revisionHistoryLimit: 2
selector:
matchLabels:
service: my-app
strategy:
type: Recreate
template:
metadata:
labels:
service: my-app
spec:
imagePullSecrets:
- name: docker-reg
containers:
- name: my-app
image: <custom image url>
imagePullPolicy: Always
ports:
- containerPort: 5000
resources:
requests:
cpu: 1m
memory: 100Mi
volumeMounts:
- name: merchbot-storage
mountPath: /app/data
subPath: my-app
- name: dshm
mountPath: /dev/shm
- name: local-config
mountPath: /app/secrets/local_config.json
subPath: merchbot-local-config-test.json
restartPolicy: Always
volumes:
- name: merchbot-storage
persistentVolumeClaim:
claimName: my-storage-claim-app
- name: dshm
emptyDir:
medium: Memory
- name: local-config
secret:
secretName: my-app-local-config
这里是Nginx的kubernetes service.yaml:
apiVersion: v1
kind: Service
metadata:
labels:
service: my-app
name: my-app
spec:
ports:
- name: "my-app-port-5000"
port: 5000
targetPort: 5000
selector:
service: my-app
在kubernetes中进行调试与在外部进行调试没有太大区别,对于kubernetes而言,只需要覆盖一些概念。
kubernetes中的Pod是从概念上您将在VM世界中看到的主机。在Pod中运行的每个容器都会在localhost上看到彼此的服务。从那里Pod到其他任何地方都将涉及网络连接。因此,开始在本地主机上对服务进行测试,并通过Pod IP,服务IP和服务名称解决问题。
某些复杂性来自容器中提供的调试工具。通常,容器是细长的,没有所有可用的东西。因此,您既需要在容器运行时安装工具(如果可以),也可以构建一个特殊的“调试”容器,以便可以在同一环境中按需部署。您总是可以从具有访问权限的群集节点退回到测试。
如果有python,可以test with uswgi_curl
uswgi_curl
否则,
pip install uwsgi-tools uwsgi_curl hostname:port /path
/nc
就足够了。
第一步是确保容器本身正在响应。在这种情况下,您可能可以使用python / pip来使用curl
uwsgi_curl
Pod到Pod /服务
接下来包括kubernetes网络。以IP开头,以名称结尾。
在这里很少有kubectl exec -ti my-app-XXXX-XXXX sh
nc -v localhost 5000
uwsgi_curl localhost:5000 /path
,甚至python
,但我认为在这里测试环境变量很重要:
nc
调试Pod到Pod /服务
如果确实需要使用调试容器,请尝试尽可能模仿您正在测试的容器。拥有一个通用的调试容器/部署来快速测试任何东西是很棒的,但是,如果这不能揭示问题,那么您可能需要自定义部署以模仿您正在测试的容器。
在这种情况下,环境变量在连接设置中起作用,因此应在调试容器中对其进行仿真。
Pods / Services将在群集节点上可用(如果您未使用限制性网络策略),因此通常的快速测试是检查Pods / Services在此处是否正常工作:
kubectl exec -ti nginx-XXXX-XXXX sh nc -v my-app-pod-IP 5000 nc -v my-app-service-IP 5000 nc -v my-app-service-name 5000 echo $APP_SERVER echo $FK_SERVER_NAME nc -v $APP_SERVER 5000 # or uwsgi_curl $APP_SERVER:5000 /path
在这种情况下:
nc -v <pod_ip> <container_port>
nc -v <service_ip> <service_port>
nc -v <service__dns> <service_port>