国产秋霞理论久久久电影-婷婷色九月综合激情丁香-欧美在线观看乱妇视频-精品国avA久久久久久久-国产乱码精品一区二区三区亚洲人-欧美熟妇一区二区三区蜜桃视频

15分鐘連接Jetson Nano與K8S,輕松搭建機(jī)器學(xué)習(xí)集群

共 10096字,需瀏覽 21分鐘

 ·

2020-11-05 11:39


明晚8點(diǎn),K3s自動(dòng)化工具AutoK3s線上demo來(lái)咯,讓你簡(jiǎn)化公有云部署,絕對(duì)提升工作效率,從此告別繁瑣的部署步驟!


點(diǎn)擊【閱讀原文】或掃描下方二維碼即可報(bào)名:


在本文中我將展示如何將Jetson Nano開(kāi)發(fā)板連接到Kubernetes集群以作為一個(gè)GPU節(jié)點(diǎn)。我將介紹使用GPU運(yùn)行容器所需的NVIDIA docker設(shè)置,以及將Jetson連接到Kubernetes集群。在成功將節(jié)點(diǎn)連接到集群后,我還將展示如何在Jetson Nano上使用GPU運(yùn)行簡(jiǎn)單的TensorFlow 2訓(xùn)練會(huì)話。


K3s還是K8s?


K3s是一個(gè)輕量級(jí)Kubernetes發(fā)行版,其大小不超過(guò)100MB。在我看來(lái),它是單板計(jì)算機(jī)的理想選擇,因?yàn)樗璧馁Y源明顯減少。你可以查看我們的往期文章,了解更多關(guān)于K3s的教程和生態(tài)。在K3s生態(tài)中,有一款不得不提的開(kāi)源工具K3sup,這是由Alex Ellis開(kāi)發(fā)的,用于簡(jiǎn)化K3s集群安裝。你可以訪問(wèn)Github了解這款工具:

https://github.com/alexellis/k3sup


我們需要準(zhǔn)備什么?


  • 一個(gè)K3s集群——只需要一個(gè)正確配置的主節(jié)點(diǎn)即可

  • NVIDIA Jetson Nano開(kāi)發(fā)板,并安裝好開(kāi)發(fā)者套件

    如果你想了解如何在開(kāi)發(fā)板上安裝開(kāi)發(fā)者套件,你可以查看以下文檔:

    https://developer.nvidia.com/embedded/learn/get-started-jetson-nano-devkit#write

  • K3sup

  • 15分鐘的時(shí)間


計(jì)劃步驟


  1. 設(shè)置NVIDIA docker

  2. 添加Jetson Nano到K3s集群

  3. 運(yùn)行一個(gè)簡(jiǎn)單的MNIST例子來(lái)展示Kubernetes pod內(nèi)GPU的使用


設(shè)置NVIDIA docker


在我們配置Docker以使用nvidia-docker作為默認(rèn)的運(yùn)行時(shí)之前,我需要先解釋一下為什么要這樣做。默認(rèn)情況下,當(dāng)用戶在Jetson Nano上運(yùn)行容器時(shí),運(yùn)行方式與其他硬件設(shè)備相同,你不能從容器中訪問(wèn)GPU,至少在沒(méi)有黑客攻擊的情況下不能。如果你想自己測(cè)試一下,你可以運(yùn)行以下命令,應(yīng)該會(huì)看到類似的結(jié)果:


root@jetson:~# echo "python3 -c 'import tensorflow'" | docker run -i icetekio/jetson-nano-tensorflow /bin/bash2020-05-14 00:10:23.370761: W tensorflow/stream_executor/platform/default/dso_loader.cc:59] Could not load dynamic library 'libcudart.so.10.2'; dlerror: libcudart.so.10.2: cannot open shared object file: No such file or directory; LD_LIBRARY_PATH: /usr/local/cuda-10.2/targets/aarch64-linux/lib:2020-05-14 00:10:23.370859: I tensorflow/stream_executor/cuda/cudart_stub.cc:29] Ignore above cudart dlerror if you do not have a GPU set up on your machine.2020-05-14 00:10:25.946896: W tensorflow/stream_executor/platform/default/dso_loader.cc:59] Could not load dynamic library 'libnvinfer.so.7'; dlerror: libnvinfer.so.7: cannot open shared object file: No such file or directory; LD_LIBRARY_PATH: /usr/local/cuda-10.2/targets/aarch64-linux/lib:2020-05-14 00:10:25.947219: W tensorflow/stream_executor/platform/default/dso_loader.cc:59] Could not load dynamic library 'libnvinfer_plugin.so.7'; dlerror: libnvinfer_plugin.so.7: cannot open shared object file: No such file or directory; LD_LIBRARY_PATH: /usr/local/cuda-10.2/targets/aarch64-linux/lib:2020-05-14 00:10:25.947273: W tensorflow/compiler/tf2tensorrt/utils/py_utils.cc:30] Cannot dlopen some TensorRT libraries. If you would like to use Nvidia GPU with TensorRT, please make sure the missing libraries mentioned above are installed properly./usr/lib/python3/dist-packages/h5py/__init__.py:36: FutureWarning: Conversion of the second argument of issubdtype from `float` to `np.floating` is deprecated. In future, it will be treated as `np.float64 == np.dtype(float).type`.  from ._conv import register_converters as _register_converters


如果你現(xiàn)在嘗試運(yùn)行相同的命令,但在docker命令中添--runtime=nvidia參數(shù),你應(yīng)該看到類似以下的內(nèi)容:


root@jetson:~# echo "python3 -c 'import tensorflow'" | docker run --runtime=nvidia -i icetekio/jetson-nano-tensorflow /bin/bash2020-05-14 00:12:16.767624: I tensorflow/stream_executor/platform/default/dso_loader.cc:48] Successfully opened dynamic library libcudart.so.10.22020-05-14 00:12:19.386354: I tensorflow/stream_executor/platform/default/dso_loader.cc:48] Successfully opened dynamic library libnvinfer.so.72020-05-14 00:12:19.388700: I tensorflow/stream_executor/platform/default/dso_loader.cc:48] Successfully opened dynamic library libnvinfer_plugin.so.7/usr/lib/python3/dist-packages/h5py/__init__.py:36: FutureWarning: Conversion of the second argument of issubdtype from `float` to `np.floating` is deprecated. In future, it will be treated as `np.float64 == np.dtype(float).type`.  from ._conv import register_converters as _register_converters


nvidia-docker已經(jīng)配置完成,但是默認(rèn)情況下并沒(méi)有啟用。要啟用docker運(yùn)行nvidia-docker運(yùn)行時(shí)作為默認(rèn)值,需要將"default-runtime":"nvidia"添加到/etc/docker/daemon.json配置文件中,如下所示:


{    "runtimes": {        "nvidia": {            "path": "nvidia-container-runtime",            "runtimeArgs": []        }    },    "default-runtime": "nvidia"}


現(xiàn)在你可以跳過(guò)docker run命令中--runtime=nvidia參數(shù),GPU將被默認(rèn)初始化。這樣K3s就會(huì)用nvidia-docker運(yùn)行時(shí)來(lái)使用Docker,讓Pod不需要任何特殊配置就能使用GPU。


將Jetson作為K8S節(jié)點(diǎn)連接


使用K3sup將Jetson作為Kubernetes節(jié)點(diǎn)連接只需要1個(gè)命令,然而要想成功連接Jetson和master節(jié)點(diǎn),我們需要能夠在沒(méi)有密碼的情況下同時(shí)連接到Jetson和master節(jié)點(diǎn),并且在沒(méi)有密碼的情況下做sudo,或者以root用戶的身份連接。


如果你需要生成SSH 密鑰并復(fù)制它們,你需要運(yùn)行以下命令:


ssh-keygen -t rsa -b 4096 -f ~/.ssh/rpi -P ""ssh-copy-id -i .ssh/rpi user@host


默認(rèn)情況下,Ubuntu安裝要求用戶在使用sudo命令時(shí)輸入密碼,因此,更簡(jiǎn)單的方法是用root賬戶來(lái)使用K3sup。要使這個(gè)方法有效,需要將你的~/.ssh/authorized_keys復(fù)制到/root/.ssh/目錄下。


在連接Jetson之前,我們查看一下想要連接到的集群:


upgrade@ZeroOne:~$ kubectl get node -o wideNAME      STATUS   ROLES    AGE   VERSION        INTERNAL-IP    EXTERNAL-IP   OS-IMAGE             KERNEL-VERSION      CONTAINER-RUNTIMEnexus     Ready    master   32d   v1.17.2+k3s1   192.168.0.12   <none>        Ubuntu 18.04.4 LTS   4.15.0-96-generic   containerd://1.3.3-k3s1rpi3-32   Ready    <none>   32d   v1.17.2+k3s1   192.168.0.30   <none>        Ubuntu 18.04.4 LTS   5.3.0-1022-raspi2   containerd://1.3.3-k3s1rpi3-64   Ready    <none>   32d   v1.17.2+k3s1   192.168.0.32   <none>        Ubuntu 18.04.4 LTS   5.3.0-1022-raspi2   containerd://1.3.3-k3s1


你可能會(huì)注意到,master節(jié)點(diǎn)是一臺(tái)IP為192.168.0.12nexus主機(jī),它正在運(yùn)行containerd。默認(rèn)狀態(tài)下,k3s會(huì)將containerd作為運(yùn)行時(shí),但這是可以修改的。由于我們?cè)O(shè)置了nvidia-docker與docker一起運(yùn)行,我們需要修改containerd。無(wú)需擔(dān)心,將containerd修改為Docker我們僅需傳遞一個(gè)額外的參數(shù)到k3sup命令即可。所以,運(yùn)行以下命令即可連接Jetson到集群:


k3sup join --ssh-key ~/.ssh/rpi  --server-ip 192.168.0.12  --ip 192.168.0.40   --k3s-extra-args '--docker'


IP 192.168.0.40是我的Jetson Nano。正如你所看到的,我們傳遞了--k3s-extra-args'--docker'標(biāo)志,在安裝k3s agent 時(shí),將--docker標(biāo)志傳遞給它。多虧如此,我們使用的是nvidia-docker設(shè)置的docker,而不是containerd。


要檢查節(jié)點(diǎn)是否正確連接,我們可以運(yùn)行kubectl get node -o wide


upgrade@ZeroOne:~$ kubectl get node -o wideNAME      STATUS   ROLES    AGE   VERSION        INTERNAL-IP    EXTERNAL-IP   OS-IMAGE             KERNEL-VERSION      CONTAINER-RUNTIMEnexus     Ready    master   32d   v1.17.2+k3s1   192.168.0.12   <none>        Ubuntu 18.04.4 LTS   4.15.0-96-generic   containerd://1.3.3-k3s1rpi3-32   Ready    <none>   32d   v1.17.2+k3s1   192.168.0.30   <none>        Ubuntu 18.04.4 LTS   5.3.0-1022-raspi2   containerd://1.3.3-k3s1rpi3-64   Ready    <none>   32d   v1.17.2+k3s1   192.168.0.32   <none>        Ubuntu 18.04.4 LTS   5.3.0-1022-raspi2   containerd://1.3.3-k3s1jetson    Ready    <none>   11s   v1.17.2+k3s1   192.168.0.40   <none>        Ubuntu 18.04.4 LTS   4.9.140-tegra       docker://19.3.6


簡(jiǎn)易驗(yàn)證


我們現(xiàn)在可以使用相同的docker鏡像和命令來(lái)運(yùn)行pod,以檢查是否會(huì)有與本文開(kāi)頭在Jetson Nano上運(yùn)行docker相同的結(jié)果。要做到這一點(diǎn),我們可以應(yīng)用這個(gè)pod規(guī)范:


apiVersion: v1kind: Podmetadata:  name: gpu-testspec:  nodeSelector:    kubernetes.io/hostname: jetson  containers:  - image: icetekio/jetson-nano-tensorflow    name: gpu-test    command:    - "/bin/bash"    - "-c"    - "echo 'import tensorflow' | python3"  restartPolicy: Never


等待docker鏡像拉取,然后通過(guò)運(yùn)行以下命令查看日志:


upgrade@ZeroOne:~$ kubectl logs gpu-test 2020-05-14 10:01:51.341661: I tensorflow/stream_executor/platform/default/dso_loader.cc:48] Successfully opened dynamic library libcudart.so.10.22020-05-14 10:01:53.996300: I tensorflow/stream_executor/platform/default/dso_loader.cc:48] Successfully opened dynamic library libnvinfer.so.72020-05-14 10:01:53.998563: I tensorflow/stream_executor/platform/default/dso_loader.cc:48] Successfully opened dynamic library libnvinfer_plugin.so.7/usr/lib/python3/dist-packages/h5py/__init__.py:36: FutureWarning: Conversion of the second argument of issubdtype from `float` to `np.floating` is deprecated. In future, it will be treated as `np.float64 == np.dtype(float).type`.  from ._conv import register_converters as _register_converters


如你所見(jiàn),我們的日志信息與之前在Jetson上運(yùn)行Docker相似。


運(yùn)行MNIST訓(xùn)練


我們有一個(gè)支持GPU的運(yùn)行節(jié)點(diǎn),所以現(xiàn)在我們可以測(cè)試出機(jī)器學(xué)習(xí)的 "Hello world",并使用MNIST數(shù)據(jù)集運(yùn)行TensorFlow 2模型示例。


要運(yùn)行一個(gè)簡(jiǎn)單的訓(xùn)練會(huì)話,以證明GPU的使用情況,應(yīng)用下面的manifest:


apiVersion: v1kind: Podmetadata:  name: mnist-trainingspec:  nodeSelector:    kubernetes.io/hostname: jetson  initContainers:    - name: git-clone      image: iceci/utils      command:        - "git"        - "clone"        - ""        - "/workspace"      volumeMounts:        - mountPath: /workspace          name: workspace  containers:    - image: icetekio/jetson-nano-tensorflow      name: mnist      command:        - "python3"        - "/workspace/mnist.py"      volumeMounts:        - mountPath: /workspace          name: workspace  restartPolicy: Never  volumes:    - name: workspace      emptyDir: {}


從下面的日志中可以看到,GPU正在運(yùn)行:


...2020-05-14 11:30:02.846289: I tensorflow/core/common_runtime/gpu/gpu_device.cc:1697] Adding visible gpu devices: 02020-05-14 11:30:02.846434: I tensorflow/stream_executor/platform/default/dso_loader.cc:48] Successfully opened dynamic library libcudart.so.10.2....


如果你在節(jié)點(diǎn)上,你可以通過(guò)運(yùn)行tegrastats命令來(lái)測(cè)試CPU和GPU的使用情況:


upgrade@jetson:~$ tegrastats --interval 5000RAM 2462/3964MB (lfb 2x4MB) SWAP 362/1982MB (cached 6MB) CPU [52%@1479,41%@1479,43%@1479,34%@1479] EMC_FREQ 0% GR3D_FREQ 9% PLL@23.5C CPU@26C PMIC@100C GPU@24C AO@28.5C thermal@25C POM_5V_IN 3410/3410 POM_5V_GPU 451/451 POM_5V_CPU 1355/1355RAM 2462/3964MB (lfb 2x4MB) SWAP 362/1982MB (cached 6MB) CPU [53%@1479,42%@1479,45%@1479,35%@1479] EMC_FREQ 0% GR3D_FREQ 9% PLL@23.5C CPU@26C PMIC@100C GPU@24C AO@28.5C thermal@24.75C POM_5V_IN 3410/3410 POM_5V_GPU 451/451 POM_5V_CPU 1353/1354RAM 2461/3964MB (lfb 2x4MB) SWAP 362/1982MB (cached 6MB) CPU [52%@1479,38%@1479,43%@1479,33%@1479] EMC_FREQ 0% GR3D_FREQ 10% PLL@24C CPU@26C PMIC@100C GPU@24C AO@29C thermal@25.25C POM_5V_IN 3410/3410 POM_5V_GPU 493/465 POM_5V_CPU 1314/1340


總? 結(jié)


如你所見(jiàn),將Jetson Nano連接到Kubernetes集群是一個(gè)非常簡(jiǎn)單的過(guò)程。只需幾分鐘,你就能利用Kubernetes來(lái)運(yùn)行機(jī)器學(xué)習(xí)工作負(fù)載——同時(shí)也能利用NVIDIA袖珍GPU的強(qiáng)大功能。你將能夠在Kubernetes上運(yùn)行任何為Jetson Nano設(shè)計(jì)的GPU容器,這可以簡(jiǎn)化你的開(kāi)發(fā)和測(cè)試。


作者:

Jakub Czapliński,Icetek編輯

原文鏈接:

https://medium.com/icetek/how-to-connect-jetson-nano-to-kubernetes-using-k3s-and-k3sup-c715cf2bf212



推薦閱讀

簡(jiǎn)化公有云K3s部署體驗(yàn),Rancher開(kāi)源自動(dòng)化工具AutoK3s

利用K3s低成本在流水線中添加測(cè)試

如何基于K3s構(gòu)建云原生邊緣基礎(chǔ)設(shè)施?



About k3s


k3s 是首個(gè)進(jìn)入 CNCF 沙箱項(xiàng)目的 K8S 發(fā)行版,同時(shí)也是當(dāng)前全球用戶量最大的 CNCF 認(rèn)證輕量級(jí) K8S 發(fā)行版。自2019年3月發(fā)布以來(lái),備受全球開(kāi)發(fā)者們關(guān)注,至今GitHub Star數(shù)已超過(guò) 14,600,成為了開(kāi)源社區(qū)最受歡迎的邊緣計(jì)算 K8S 解決方案。截至目前,K3s全球下載量超過(guò)100萬(wàn)次,每周平均被安裝超過(guò)2萬(wàn)次,其中30%的下載量來(lái)自中國(guó)。


k3s 專為在資源有限的環(huán)境中運(yùn)行 Kubernetes 的研發(fā)和運(yùn)維人員設(shè)計(jì),將滿足日益增長(zhǎng)的在邊緣計(jì)算環(huán)境中運(yùn)行在 x86、ARM64 和 ARMv7 處理器上的小型、易于管理的 Kubernetes 集群需求。k3s 的發(fā)布,為開(kāi)發(fā)者們提供了以“Rancher 2.X + k3s”為核心的從數(shù)據(jù)中心到云到邊到端的 K8S 即服務(wù)(Kubernetes-as-a-Service),推動(dòng) Kubernetes Everywhere。

掃碼添加k3s中文社區(qū)助手

加入官方中文技術(shù)社區(qū)

官網(wǎng):https://k3s.io

點(diǎn)擊下方“閱讀原文”,解放K3s生產(chǎn)力!

↓↓↓
瀏覽 108
點(diǎn)贊
評(píng)論
收藏
分享

手機(jī)掃一掃分享

分享
舉報(bào)
評(píng)論
圖片
表情
推薦
點(diǎn)贊
評(píng)論
收藏
分享

手機(jī)掃一掃分享

分享
舉報(bào)

感谢您访问我们的网站,您可能还对以下资源感兴趣:

国产秋霞理论久久久电影-婷婷色九月综合激情丁香-欧美在线观看乱妇视频-精品国avA久久久久久久-国产乱码精品一区二区三区亚洲人-欧美熟妇一区二区三区蜜桃视频 永久AV免费网站| 亚洲欧美视频在线观看| 大香蕉久操视频| 国产农村妇女精品一二区| 男女一区二区| 日本少妇高潮喷水XXXXXXX| 中文字幕淫乱视频欧美| 国产一区二区不卡| av中文在线观看| 亚洲色图一区二区三区| 亚洲精品乱码久久久久久| 韩国免费一级a一片在线播放| 91国内精品| 日韩人妻精品一区二区| 日韩在线观看网站| 一区二区三区在线看| 一本道高清无码视频| 日本黄色视频网址| 自拍做爱视频| 久久精品无码视频| 又黄又爽视频| 亚洲热视频在线观看| 蜜乳av红桃嫩久久| 一级a在线| 开心色色五月天| 一本色道久久综合亚洲精东小说| 成人h在线| 中文字幕乱| 男人天堂2024| 熟妇人妻中文AV无码| 久久色资源| 五月丁香激情婷婷| 免费Av在线| 搡bbbb| 91丨精品丨国产丨丝袜| 国产91www| 亚洲九九在线| 亚洲精品图片| 男女网站在线观看| av玖玖| 亚洲无码成人电影| 亚洲中文无码在线| 欧美激情一区二区三区| 国产精品v| 成人黄网免费观看视频| 人人妻人人妻| 91人人妻人人澡人人爽人人| 久久免费视屏| 一区二区三区色| 久久黄色大片| 亚洲.欧美.丝袜.中文.综合| 老司机视频在线视频18| 久热视频在线| 国产日女人| 欧美色图另类图片| 100国产精品人妻无码| 国产无码电影在线观看| 潮喷AV| 黄色片网站视频| 日韩最新高清无码| 无码人妻丰满熟妇啪啪| 中文字幕成人在线播放| 中文字幕精品久久久久人妻红杏Ⅰ | 国内自拍偷拍视频| 丁香五月激情在线| 青草视频网| 欧美天天性爱| 亚洲成人二区| 亚洲精品suv视频| 一卡二卡三卡| 综合久久亚洲| 欧美亚洲成人网| 熟女综合| 五月丁香婷婷综合网| 婷婷综合素质二区| 丁香五月网站| 可以免费看AV的网站| 精品久久一区二区| 精品欧美一区二区三区久久久| 成人A片免费视频| 国产精品成人一区二区| 国产av不卡| 久久女女| 大鸡吧视频在线观看| 丰满人妻一区二区三区不卡二| 日韩久久电影| 免费看的毛片| 日韩成人一区| 河南少妇搡BBBB搡BBBB| 在线二区| 免费在线观看黄片| 午夜无码鲁丝片午夜精品一区二区 | 国产午夜福利视频| 99性爱视频| 特黄视频| 黄色视频在线免费观看高清视频| 亚洲操逼无码| AAA级片| 国产免费黄色视频网站| 日韩在线视频二区| 91精品国产综合久久久久久久| 97资源在线视频| 深夜福利一区二区| 免费在线观看视频黄| 中国免费XXXX18| 午夜无码高清| 无码免费视频观看| 欧美日韩成人视频| 亚洲区视频| 精品福利视频导航| 天天精品| 五月天色色婷婷| 日本一区二区三区四区| 欧美色图视频在线观看| 欧美亚洲国产一区二区三区| 婷婷婷色| 精品aaa| 老熟妇一区二区三区啪啪| AV色色| 日韩综合久久| 边摸边做| 亚洲无码二区| 青青青在线| 国产成人视频在线播放| 国产精品色情A级毛片| 息子交尾一区二区三区| 免费内射| 久久久久蜜桃| 国产一级a一级a免费视频| 无码视频一区| 黄色成人视频在线观看| 国产日韩性爱视频| 午夜免费AV| 婷婷丁香五月网| 国产人妖网站| 一二区免费视频| 国产在线高清| 亚洲无码网| 黄片免费看网站| 成人国产精品在线看| 国产黄色精品| 悠悠无码一区日韩妇女| 伊人综合成人网| 在线观看无码高清视频| 国产h在线| Av大香蕉| 黄色视频免费看| 插入综合网| 亚洲婷婷在线视频| 无码在线观看免费视频| 成人午夜无码视频| 亚洲一区二区在线| 国产一区免费观看| 黄色一级大片在线免费看产| 国产做受91一片二片老头| 亚洲无aV在线中文字幕| 成人一级片| 亚州一级二级| 日逼网站视频| 国产91网| 射久久| 性爱久久久| 探花在线播放| 欧美婬乱片A片AAA毛片地址| 国产色视频在线| 丝袜无码| 精品视频久| 亲子伦一区二区三区观看方式| 日韩AV小电影| 久久爆乳一区二区三区| 在线观看三级网址| ThePorn精品无码| 天天免费视频| 五月婷婷在线播放| 制服丝袜无码| 久久AV无码| 亚洲国产精品二二三三区| 17c精品麻豆一区二区免费| 天天射综合| 9l人人澡人人妻人人精品| 亚洲AV无码专区在线播放中文| 福利导航在线| 三级视频网站| 久久精品无码一区二区无码性色| 乱子伦国产精品视频一级毛| 人人妻人人操人人| 亚洲在线观看| 日韩黄色电影网| 99一区| 黄色av免费| 乌克兰xxxx| 9I成人免费版视频| 亚洲无线视频| caobi视频| 国产一级A片视频| 激情无码精品| 99色综合| 懂色av一区蜜桃| 中文字幕在线高清| 欧美成人在线视频网站| 色婷婷成人做爰A片免费看网站| 欧美性猛交XXXX乱大交| 欧美熟妇搡BBBB搡BBBBB| 北岛玲在线视频| 秋霞福利| 男女草比视频| 亚洲成人久久久| 色老板免费视频| 91人人妻人人做人人爽| 狠狠躁日日躁夜夜躁A片小说免费 色综合久久久无码中文字幕999 | 91绿帽人妻-ThePorn| 国产欧美综合精品| 天天天日天天天天天天天日歌词| 大香蕉在线伊| 久久成人123| 性性性性性XXXXX| 99热最新国产| 成人做爰黄A片免费看陈冠| 国产精品久久久久久亚洲毛片| 欧美老女人性| 九色PORNY9l原创自拍| 午夜亚洲国产一区视频网站| 在线看v片| 熟女18p| 国产情趣网站| 蜜臀久久精品久久久久| 成人亚洲视频| 蜜臀AV一区二区三区免费看| 岛国电影av| 水蜜桃视频免费观看| 国产一级美女操逼视频免费播放 | 日本黄色电影网站| 黄色视频大全在线观看| 成人1区| 五月丁香啪啪| 久久伊人电影| 欧美精品三级| 日韩在线1| 伊人在线视频观看| 内射视频在线观看| 日韩AV无码高清| 欧美成人精品在线观看| 四川妇BBB桑BBB桑BBB| 99无码精品| 色天堂网站| 日本三级片网站在线观看| 五月大香蕉| 青草91| 亚洲一区免费| 亚洲A片V一区二区三区| av无码在线观看| 欧美老妇另类BBwBBw| 臭小子晚上让你爽个够视频| 国产精品欧美综合在线| 亚洲无码色色| 亚洲a在线观看| 男女免费av| 日韩三级成人| 九鼎联盟骗子| 免费看黄色视频的网站| 国产成人99久久亚洲综合精品| 中文字幕第一页亚洲| 亚洲第一色图| 国产成人AV| 久久波多野结衣一区二区| 99热自拍| 国产无遮挡又黄又爽又| 91精品国产aⅴ一区二区| 天堂亚洲AV无码精品成人| 韩国无码一区二区| 一级片在线免费观看| 天天操大香蕉| 日韩一区二区在线视频| 国产精品色情A级片| 老太婆擦BBBB撩BBBB| 午夜国产码网站码| 久久动态图| 2018天天干天天操| 香蕉视频免费| 激情五月天导航| 日本操逼在线播放| 五月天精品视频| 五月丁香六月婷| 欧一美一婬一伦一区?| 99热在线免费| 女人久久久久| 日日夜夜拍| 另类老妇性bbwbbwbbw| 亚洲综合在线观看视频| 亚洲女人天堂| 久操超碰| 嫩BBB嫩BBB嫩BBBn嫩| 人人爽人人操人人爱| 北条麻妃高清无码| www.黄色在线| 精品成人无码| 日韩高清色| 色碰碰| 成人免费毛片视频| 男人天堂大香蕉| 91AV视频在线观看| 激情久久AV一区AV二区AV三区 | 在线国产激情视频| 人妻无码一区二区三区摄像头| 久久婷婷热| 无码人妻精品一区二区三千菊电影| 波多野结衣高潮| 一级性爱| 日韩AV性爱| 九九精品视频在线播放| 亚洲精品国产成人无码区在线| 国产视频不卡| 中文字幕午夜福利| 狠狠操天天干| 免费中文字幕| 日韩三级片无码| 欧美footjob| 91吴梦梦一区二区传媒| 在线中文字幕777| 91社成人影院| 翔田千里无码流出两部| 亚色视频| 手机在线成人视频| 日韩精品免费观看| 国际精品久久久| 欧美黄片免费在线观看| 国产精品无码一区二区三| 一级特黄AA片| 先锋影音亚洲无码av| 狠狠草狠狠干| 伊人99在线| 99re在线观看视频| 久久动态图| av免费在线播放| 中文字幕人妻丝袜二区电影| www国产亚洲精品久久网站| 国产视频成人| 97毛片| 粉嫩99精品99久久久久| A亚洲天堂| AV网站免费在线观看| 一级大毛片| 北条麻妃在线不卡| 久久特黄| 亚洲三级久久| 国产又粗又大又爽| 人人澡人人看| 亚洲免费黄色片| 一区精品| 99er在线| 日韩人妻电影| 免费看国产黄色视频| 91久久精品国产91久久公交车| 看毛片网址| 操美女91| 亚洲欧美视频在线观看| 久久国产一区| 初学影院WWWBD英语完整版在线观看| 成人黄色视频网站在线观看| 波多野结衣成人网站| 欧美a级视频| 亚洲美女视频网| 一级A片60分钟免费看| 中文字幕av一区| 欧美狠狠干| 狠狠操天天干| 熟女人妻一区二区三区免费看| www.17c嫩嫩草色蜜桃网站| 爱爱爱爱网| 国产有码| 日日操日日摸| 国产精品伦理| 亚州在线视频| 女邻居的B好大| 亚洲天堂偷拍| 上海熟妇搡BBBB搡BBBB| 国内精产品一二区秘| 免费操逼网| 国产精品人人| 国产群交| 亚洲综合成人网| 亚洲一级婬片A片AAAA网址| 狠狠一区| 国产亚洲99久久精品熟女| 一区二区三区欧美| 欧美伦妇AAAAAA片| av免费观看网站| 无码视频一区| 国产成人av在线观看| 亚洲午夜久久久之蝌蚪窝| 亚洲AV成人无码精品直播在线| 免费观看一级黄片| 91久久精品日日躁夜夜躁国产| 日韩免费中文字幕A片| 人妻无码HEYZO少妇精品| 在线免费观看黄色片| 麻豆91蜜桃传媒在线观看| 亚洲无码中文字幕在线观看| 插菊花综合网站| 无遮挡动态图| 亚州成熟少妇视频在线观看| 围内精品久久久久久久久久‘变脸| 亚洲久久色| 污污污www精品国产网站| 91麻豆视频在线观看| 日本精品电影| 亚洲色图一区二区三区| 色哟哟视频| www.99热| 欧美丰满老熟妇XXXXX性| 国产精品在线看| 天天日天天干天天操| 精品有码| www.97cao| 青青操逼| 激情视频在线免费观看| 97干在线| 久久永久免费精品人妻专区| 蝌蚪窝视频在线| 牛牛在线精品视频| 国精品无码人妻一区二区三区免费| 18毛片| 五月天福利影院| 精品久久久久久AV2025| 午夜高清无码视频| 中文字幕乱码无码人妻系列蜜桃 | 亚洲AV图片| 97人妻精品黄网站| aaa在线| 色国产在线视频| 精品人妻一区二区三区四区| 日本成人黄色视频| 亚洲无码专区视频| 国产一区视频在线| 人人爱人人插| 豆花av在线| 国产欧美综合三级伦| 午夜毛片| 国产欧美综合一区二区三区| 激情操逼视频| 欧美一道本在线| 色婷婷综合久久久中文字幕| 国产h在线| 蝌蚪窝在线视频观看| 五月天网址| 一本一道无码免费看视频| 国产精品美女在线观看| 啪啪视频国产| 在线观看国产免费视频| 内射免费网站| 国产在线精品自拍| 吴梦梦《女教师时间暂停》| 欧美性爱91| 亚洲AV成人网| 人人av在线| 青草视频在线| 91九色91蝌蚪91窝成人 | 国产黄色精品视频| 9l视频自拍九色9l视频成人 | 欧美性爱小说| 精品国产欧美一区二区三区成人 | 伊人久艹| 国产精品久久久久精| 偷拍亚洲综合| 久久久3| 成人区精品一区二区婷婷| 免费黄色视频在线| 欧美XX888做受| 无码任你躁久久久久| 黄页网站免费观看| 日本成人电影在线观看| 1204手机看片| 欧美综合亚洲图片综合区| 亚洲精品大片| 亚洲成人影音| 国产成人一区二区无码| 久久精品色| 久久这里只有| 在线天堂AV| 91精品国产成人做爰观看奶头| 美日韩A片| h片在线播放| 三级久久久| 欧美日韩不卡视频| 无码人妻中文| 黄色网址av| 91视频久久| 色香蕉在线| 国产精品天天狠天天看| 日韩18在线| 国产精品色在线回看| 另类激情| 在线观看免费成人网站| 婷婷亚洲精品| 国产一级在线免费观看| 国产成人免费视频| 久久波多野结衣| 国产精品无码ThePorn| 91免费福利视频| AV第一页| 国产AV资源| 欧美黄片免费观看| 久久蝌蚪窝| 91AV在线免费观看| 无码人妻免费视频| 亚洲色播放| 国产午夜成人福利在线| 久操福利| 人人妻人人要| 亚洲成人a| 丁香花中文字幕| 91av在线播放| 97久久久| AV中文字幕网| 探花在线综合| jlzz18| 一级黄色av| 三洞齐开Av在线免费观看| 色男人色天堂| AV网站免费观看| ThePorn-成人网站入口| 天天草天天草| 亚洲视频99| 中文字幕午夜福利| 国产激情av| 91精品国自产在线观看| 日皮视频在线看| 久草视频福利在线| 高清不卡一区二区| 国产高清精品无码| 中文字幕浅井香舞被黑人俘虏| 日韩一级特黄A片免费观| 男人天堂色男人| R四虎18| 欧美成人三级在线播放| 曰韩一级片| 在线成人小视频| 国产乱伦网站| 久热国产视频| 国产精品一线| 激情亚洲婷婷| 久草免费在线观看视频| 在线国产激情| jizz免费观看| 加勒比日韩无码| 翔田千里被操120分钟| 激情六月天| 黄色成人视频在线免费观看| 久久精品国产精品| 黄色视频导航| 色国产在线| 国产欧美综合三级伦| 亚洲第一综合网| 久久久久久无码日韩欧美电影 | 在线日韩一区二区| 天天操人人妻| 亚洲在线观看| 久久久亚洲无码| 第一福利视频导航| 国产一级aa| va在线| 欧美在线无码| 国产69久久精品成人看| 日韩日韩日韩日韩日韩| 看免费黄色录像| 美女裸体视频网站| 亚洲秘AV无码一区二区qq群| 亚洲AV网站| 黄色无码网站| 久久国产精品网站| 欧美超碰在线| 天天弄天天操| 日韩高清无码毛片| 国产探花在线观看| 日韩专区中文字幕| 无码专区在线播放| 国产a片视频| 99久久久久久久无码| 玖玖爱资源站| AV天堂免费播放| 久久天天| 91无码人妻传媒tv| 午夜国产码网站码| 九色PORNY自拍视频| 国产黄色在线免费观看| 亚洲成人性爱网站| 五月天成人网址| 翔田千里AV| 上床视频网站| 婷婷高清无码| 国产一区一区| 国产乱码精品一品二品| 欧美二区视频| 91乱了伦国产乱子伦| 国产性播放| 亚洲影院第一页| 成人黄网在线观看| 北条麻妃在线播放一区| 日韩欧AV| 日韩视频播放在线综合| 大香蕉国产| 中文无码字幕| 日本人妻A片成人免费看片| 欧美A片在线观看| 丁香五月中文字幕| 中文字幕乱| 偷拍一区二区| 日本AV在线播放| 亚洲第一色网| 欧美视频中文字幕| 91人妻在线视频| 99九九久久| 中文字幕+乱码+中文乱码电影 | 亚洲第一免费视频| 日本特级黄A片免费观看| 美女黄色免费网站| 午夜电影福利| 欧美A在线| 蜜桃av一区二区三区| 影音先锋天堂网| 亚洲精品资源在线| 91在线无码精品秘入口国战| 日本在线视频一区二区| 艳妇乳肉豪妇荡乳AV无码福利| 极品久久| 亚洲欧美日韩色图| 91麻豆精品国产91久久久吃药| 久操视频在线观看免费| 国产精品国产精品| 国产日韩在线观看视频| 欧美日韩视频在线播放| 五月中文字幕| 婷婷内射| 亚洲图片一区| 青娱乐毛片| 一级特黄大片录像i| 天天操夜夜操狠狠操| 久久久久综合| 日本精品一区二区三区四区的功能| 亚洲视频综合| 国产精品性爱| 欧美成人无码片免费看A片秀色 | 人人上人人操| 在线观看中文字幕网站| 猛男大粗猛爽h男人味| 久久久91人妻无码精品蜜桃ID| 成人精品一区日本无码网站suv/| 亚洲黄色在线观看视频| 欧美插菊花综合网| 亚洲无码婷婷| 在线观看成人18| 亚洲视频在线免费看| 操逼操123| 日韩怡春院| 91草视频| 26∪u∪成人网站| 欧美肏屄| 操逼视频在线免费观看| 一区二区三区四区精品| 亚洲AV电影在线观看| 狼友视频在在观看| 亚洲av成人网| 免费看特别黄色视频| 五月丁香婷婷成人| 夜夜操天天| 成人无码网站在线观看| 欧美黄片一区二区| 国产不卡在线视频| 人人妻人人插| 91啦丨露脸丨熟女色啦| www.91国产| 亚洲秘无码一区二区三区,| 国产AV一级片| 亚洲中文字幕第一页| 99热在线播放| 午夜成人小视频| 亚洲内射网| 91成人电影院| 新超碰97| 性爱AV天堂| 国产永久精品| www.91国产| 在线观看者亚洲| 天堂中文在线资源| 久操视频在线观看| 搞搞网日本9| 亚洲中文免费| 五月天操逼网站| 老熟女伦一区二区三区| 自拍偷拍15p| 亚洲欧美激情小说| 欧美精品久久| 欧美日韩黄| 超碰免费在线| 天天日天天日天天日| 日本大香蕉在线视频| 国产精品卡一| 免费国产在线视频| 成人久久久久一级大黄毛片中国 | 日韩无码系列| 操B视频免费看| 最新国产精品| 日韩1区| 国产怡红院| 天天综合视频| 女BBBBBB女BBB| 精品免费黄色视频| 天天操人人操| 久久久久久久久久国产精品| 爱爱视频天天干| 熟女18p| 免费日逼视频| 成人自拍视频| 人妻三级| 久久视频这里有精品| 最新毛片网站| 久久亚洲综合| 18岁毛片| 自拍偷拍网站| 麻豆MD传媒MD0071| 97免费在线视频| 日韩无码电影| 日本高清视频免费观看| 熟妇人妻中文AV无码| 色色五月婷婷| 91成人在线| 内射黄片| 少妇厨房愉情理伦BD在线观 | 一级a免一级a做片免费| 久久久久亚洲AV无码麻豆| 日产毛片| 山东熟妇搡BBBB搡BBBB| 日韩色导航| 日韩欧美成人网| 国产又爽又黄免费网站在| 中文字幕乱码中文字幕电视剧| 亚洲午夜成人| 夜夜骚AV一二三区无码| 亚洲一二期视频| 亚洲中文无码AV在线| 国产成人免费看| 中文字幕777| 欧美成人一级| 久久亚洲福利视频| 蜜桃在线无码| 午夜视频免费| 欧美性爱五月天| 亚洲免费成人| 久久亚洲中文字幕乱码| 久久精品国产AV| 少妇人妻av| 久热福利视频| 亚洲欧洲视频| 中文字幕免费在线看一区七区 | 日本wwwwww| 美女视频毛片| 日韩精品视频一区二区| 18禁在线播放| 亚洲无码操逼视频| 99久免费视频| 中文字幕国产AV| 色片视频| 亚洲无码天堂| 天堂综合网久久| 国产A级视频| 欧美成人三级在线| 久久久国产精品黄毛片| 一级国产黄色视频| 国产亚洲精品久久久波多野结衣 | 艹逼片| 日本三级黄色| 免费视频| 国产人国产视频成人免费观看… | aa久久| 国产成人秘免费观看一区二区三区 | 激情黄色五月天| 免费无码| 久久久久久大香蕉| 黄色免费看| 插菊花综合网2| 午夜福利2025| 蜜桃久久久亚洲| AAA久久| 欧美人操逼| 日韩在线中文字幕亚洲| 99精品视频在线免费观看| 奇米97| 成年人黄色网址| 后入少妇视频| 亚洲天堂视频网站| 日韩欧美操逼视频| 无码精品一区二区三区同学聚会| 色色网站免费| 最近最火中文字幕mv歌词| 亚洲精品69| 影音先锋成人资源站| 黄色亚洲无码| 国产乱╳╳AⅤ毛片| 亚洲午夜在线观看| 黄色片在线免费观看| 国产精品一级A片| 亚洲中文无码电影| 日韩成人小电影| www天天操| 天天透天天干| 东方a在线| 狠狠干狠狠干| 97色色婷婷五月天| 欧美日韩国产性爱| 日韩高清一区二区| 亚洲精品国产精品乱玛不99| 啪啪视频在线观看| 欧美黄片免费在线观看| 成人A片视频| 性爱AV网| 精品人妻一区二区三区在线视频不卡 | 国产精品成人影视| www.天天干| 国产精品色哟哟| 大奶AV| 爱搞搞就搞搞| 黄色电影一区二区三区| 免费无码在线视频| 人人操大香蕉| a片在线电影网| 日韩一区二区三区无码电影| 亚洲成人黄色网| 在线观看黄片| 在线观看AV资源| 欧美丰满美乳XXⅩ高潮www | 99在线免费视频| 久久动态图| 黄色AV网| 国产AV福利| 无码69| 日韩黄片免费看| 久久久久久国产精品| 三级理论网站| 天天日天天搞| 91视频观看| 1024大香蕉| 大香蕉欧美视频| 六月婷婷五月丁香| 先锋AV资源在线| 九九碰九九爱97超碰| 国产视频久久| 吃奶做爱视频| 国产一a毛一a毛A免费| 日韩免费高清在线视频| 好吊妞在线观看| 在线免费观看黄色小视频| 亚洲精品欧美久久婷婷| 久久尹人| 人妻少妇一区二区三区| 成人a一级片| 日韩中文字幕在线人成网站| 午夜成人av| 毛片入口| 粉嫩护士小泬18p| 日日干日日操| 免费观看黄色在线视频| 91人妻人人澡人人爽人人精| 亚洲日韩在线播放| 欧美亚洲操逼视频| 日韩无码免费播放| 亭亭色| 豆花视频久久| 亚洲成人网站在线| 日本成人免费电影| 欧美又粗又长| 伊人在线视频| 国产精品成| 91欧美视频| 国产在线久久久| 国产AV播放| 欧洲精品在线观看| 久久久久久久久久久国产精品| 91人妻人人澡人人爽人人精| 日韩23岁观看| 色哟哟一中文字慕| 久久久久综合| 自拍偷拍福利视频网站| 伊人影院在线观看| 91香蕉| 精品欧美成人片在线| 四虎黄色网址| 3DAV一区二区三区动漫| 亚洲三级在线视频| 欧美亚洲天堂| 啪啪视频在线观看| 在线观看黄片视频| 日韩无码不卡电影| 玖玖资源站中文字幕| 高清无码一区| 青娱乐精品在线视频| 国产乱视频| 大鸡巴日小逼| 少妇白洁视频| 综合影院| 无码免费毛片一区二区三区古代 |