国产秋霞理论久久久电影-婷婷色九月综合激情丁香-欧美在线观看乱妇视频-精品国avA久久久久久久-国产乱码精品一区二区三区亚洲人-欧美熟妇一区二区三区蜜桃视频

某大型證券公司DevOps持續(xù)交付應(yīng)用實(shí)踐

共 8311字,需瀏覽 17分鐘

 ·

2021-11-16 01:24

作者介紹

張永啟、向元武、于娜娜,中泰證券股份有限公司科技研發(fā)部,本文選自《交易技術(shù)前沿》總第三十九期文章。

近些年金融科技在證券行業(yè)發(fā)揮的作用越來(lái)越重要,運(yùn)用金融科技賦能業(yè)務(wù)發(fā)展,通過(guò)個(gè)性化服務(wù)構(gòu)建護(hù)城河,將金融科技與業(yè)務(wù)創(chuàng)收和降本增效相結(jié)合開(kāi)始成為證券從業(yè)人員所關(guān)注的問(wèn)題,如何提升研發(fā)交付效率、小步快跑、快速迭代是所有證券行業(yè)科技研發(fā)團(tuán)隊(duì)共同關(guān)心的話題。敏捷為快速迭代提供了理論思想和方法指導(dǎo),DevOps為敏捷落地提供了補(bǔ)充和工具支持。


中泰證券股份有限公司科技研發(fā)部互聯(lián)網(wǎng)研發(fā)團(tuán)隊(duì)通過(guò)對(duì)DevOps相關(guān)理論和技術(shù)的研究、分析,設(shè)計(jì)并實(shí)現(xiàn)了蜂鳥(niǎo)效能管理平臺(tái)。通過(guò)蜂鳥(niǎo)效能管理平臺(tái)實(shí)現(xiàn)了編碼后續(xù)研發(fā)環(huán)節(jié)的降本增效。


DevOps是一套創(chuàng)新且有效的文化和思想,本平臺(tái)借鑒其中的持續(xù)集成、持續(xù)交付和持續(xù)運(yùn)營(yíng)的關(guān)鍵思想,并結(jié)合互聯(lián)網(wǎng)研發(fā)過(guò)程遇到的實(shí)際情況,解決了研發(fā)、測(cè)試和運(yùn)維等角色溝通協(xié)作中遇到的一系列問(wèn)題,實(shí)現(xiàn)了產(chǎn)品多環(huán)境交付、流程可視化、測(cè)試自動(dòng)化、運(yùn)維智能化、流程規(guī)范化和效能指標(biāo)可視化等功能。


蜂鳥(niǎo)效能平臺(tái)上線后的應(yīng)用實(shí)踐結(jié)果表明,通過(guò)運(yùn)用DevOps相關(guān)理論和技術(shù)能夠提升互聯(lián)網(wǎng)研發(fā)在市場(chǎng)快速變化的過(guò)程中實(shí)現(xiàn)產(chǎn)品應(yīng)用的快速迭代,從而達(dá)到減少產(chǎn)品試錯(cuò)與迭代過(guò)程中的時(shí)間成本和技術(shù)人力成本,為公司業(yè)務(wù)創(chuàng)收提供技術(shù)保障的目的。


一、背景及意義


DevOps因其先進(jìn)性和全面性,已被認(rèn)為是軟件工程的第三次革命;由PUPPET和DORA聯(lián)合發(fā)布的《2017 State of DevOps Report》報(bào)告中,故障恢復(fù)時(shí)間縮短了96倍,業(yè)務(wù)需求從提出到投產(chǎn)的周期從3個(gè)月到6個(gè)月縮短到3周甚至更短,使得企業(yè)更好適應(yīng)市場(chǎng)變化。DevOps已經(jīng)被證實(shí)能在IT和商業(yè)兩方面提升效率。


DevOps定義:DevOps(Development和Operations的組合詞)是一組過(guò)程、方法與系統(tǒng)的統(tǒng)稱(chēng),用于促進(jìn)開(kāi)發(fā)(應(yīng)用程序/軟件工程)、技術(shù)運(yùn)營(yíng)和質(zhì)量保障(QA)部門(mén)之間的溝通、協(xié)作與整合。它是一種重視“軟件開(kāi)發(fā)人員(Dev)”和“IT運(yùn)維技術(shù)人員(Ops)”之間溝通合作的文化、運(yùn)動(dòng)或慣例。


透過(guò)自動(dòng)化“軟件交付”和“架構(gòu)變更”的流程,來(lái)使得構(gòu)建、測(cè)試、發(fā)布軟件能夠更加地快捷、頻繁和可靠。它的出現(xiàn)是由于軟件行業(yè)日益清晰地認(rèn)識(shí)到:為了按時(shí)交付軟件產(chǎn)品和服務(wù),開(kāi)發(fā)和運(yùn)維工作必須緊密合作。


特別是敏捷迭代已經(jīng)成為金融行業(yè)研發(fā)團(tuán)隊(duì)的主流研發(fā)模式,這對(duì)開(kāi)發(fā)、測(cè)試、運(yùn)維提出了更高效的要求。


圖1:敏捷迭代流程


中泰證券互聯(lián)網(wǎng)研發(fā)團(tuán)隊(duì)采用敏捷研發(fā)模式進(jìn)行團(tuán)隊(duì)間的協(xié)作,敏捷的實(shí)施需要通過(guò)小迭代形式不斷的交付應(yīng)用產(chǎn)品。敏捷開(kāi)發(fā)驅(qū)動(dòng)開(kāi)發(fā)人員更快的交付代碼,新的代碼需要被更快的測(cè)試,并需要頻繁的被部署到開(kāi)發(fā)、測(cè)試和生產(chǎn),由于運(yùn)維和測(cè)試不能盡快的參與到軟件開(kāi)發(fā)生命周期,導(dǎo)致交付流水線阻塞的情況,而通過(guò)DevOps的運(yùn)用很好解決了這些問(wèn)題。


在DevOps實(shí)施的過(guò)程中,涉及的角色主要包括開(kāi)發(fā)、測(cè)試(質(zhì)量)、運(yùn)維三個(gè)角色,見(jiàn)下圖:


圖2:開(kāi)發(fā)、測(cè)試(質(zhì)量保證)、運(yùn)維


其中研發(fā)主要關(guān)注產(chǎn)品研發(fā)的高效、穩(wěn)定、快速的實(shí)現(xiàn),以及對(duì)應(yīng)的產(chǎn)品開(kāi)發(fā)完成后,交付制品對(duì)應(yīng)上線時(shí)間點(diǎn)能夠可預(yù)期;運(yùn)維則更多的關(guān)注如何通過(guò)自動(dòng)化運(yùn)維和持續(xù)監(jiān)控等工具降低產(chǎn)品上線后的維護(hù)成本;測(cè)試(質(zhì)量保障)角色則關(guān)注研發(fā)提交過(guò)來(lái)的產(chǎn)品能夠盡快的得到測(cè)試,因此在提高質(zhì)量保障效率的過(guò)程中,該角色更多的關(guān)注產(chǎn)品的持續(xù)自動(dòng)化測(cè)試,以及產(chǎn)品交付質(zhì)量的提升。


而DevOps實(shí)現(xiàn)了將研發(fā)、運(yùn)維和質(zhì)量三個(gè)角色統(tǒng)一起來(lái),實(shí)現(xiàn)了研發(fā)、運(yùn)維和質(zhì)量的一體化,同時(shí)通過(guò)持續(xù)集成和持續(xù)交付的能力,使運(yùn)維人員更早的參與到產(chǎn)品的交付過(guò)程中區(qū),減少了不同角色之間的交付壁壘。


圖3:DevOps過(guò)程


綜上所述,盡管新工具思想的推進(jìn)在一定程度上能夠提升產(chǎn)品的交付效率,但由于企業(yè)自動(dòng)化程度低、軟件開(kāi)發(fā)流程的不規(guī)范導(dǎo)致的交付效率慢、交付流程不規(guī)范、線上故障反映不及時(shí)、運(yùn)營(yíng)數(shù)據(jù)獲取困難等問(wèn)題的存在,使企業(yè)在實(shí)際的產(chǎn)品交付過(guò)程中依然不能實(shí)現(xiàn)快速交付有價(jià)值的產(chǎn)品給用戶(hù)。這就需要一個(gè)平臺(tái)解決以上問(wèn)題,但是目前市面上已有的相關(guān)產(chǎn)品存在不能和流程結(jié)合以及不支持混合制品(容器和非容器)的持續(xù)集成與持續(xù)交付,且不能獲取實(shí)際場(chǎng)景的業(yè)務(wù)數(shù)據(jù)。因此,一個(gè)能夠解決當(dāng)前困境的統(tǒng)一自研DevOps平臺(tái)變得尤為重要。


圖4:DevOps能力地圖與實(shí)踐落地


二、中泰證券Devops蜂鳥(niǎo)效能平臺(tái)整體功能規(guī)劃


蜂鳥(niǎo)效能平臺(tái)是一個(gè)以DevOps相關(guān)理念為指導(dǎo)思想,結(jié)合證券行業(yè)安全、合規(guī)等需求特性實(shí)現(xiàn)的一個(gè)集多環(huán)境(開(kāi)發(fā)、測(cè)試、預(yù)發(fā)布、生產(chǎn))持續(xù)集成(CI)/持續(xù)發(fā)布(CD)、代碼質(zhì)量檢測(cè)、自動(dòng)化測(cè)試、上線流程審批、研發(fā)效能數(shù)據(jù)跟蹤及報(bào)表統(tǒng)計(jì)的綜合效能管理平臺(tái)。通過(guò)蜂鳥(niǎo)效能平臺(tái)在互聯(lián)網(wǎng)研發(fā)過(guò)程中的應(yīng)用,提升了互聯(lián)網(wǎng)研發(fā)在市場(chǎng)快速變化的過(guò)程中實(shí)現(xiàn)產(chǎn)品應(yīng)用的快速迭代,從而達(dá)到減少產(chǎn)品試錯(cuò)與迭代過(guò)程中的時(shí)間成本和技術(shù)人力成本,并為公司業(yè)務(wù)創(chuàng)收提供技術(shù)了保障的目標(biāo)。


依托DevOps相關(guān)理念,結(jié)合當(dāng)前互聯(lián)網(wǎng)技術(shù)中最前沿的容器化技術(shù)、容器編排管理kubernetes、微服務(wù)架構(gòu)、配置中心、分布式消息存儲(chǔ)隊(duì)列、靜態(tài)代碼掃描和自動(dòng)化測(cè)試等技術(shù),蜂鳥(niǎo)效能平臺(tái)實(shí)現(xiàn)了具有持續(xù)集成、持續(xù)交付和持續(xù)運(yùn)營(yíng)能力的統(tǒng)一綜合效能管理平臺(tái),各階段詳細(xì)技術(shù)如下圖:


圖5:蜂鳥(niǎo)效能平臺(tái)規(guī)劃


蜂鳥(niǎo)效能平臺(tái)整體技術(shù)架構(gòu)劃分為三層,最底層為基礎(chǔ)設(shè)施層,該層主要為各混合云環(huán)境下的基礎(chǔ)環(huán)境,如 私有云、華為云和行業(yè)云等環(huán)境下的開(kāi)發(fā)、測(cè)試和生產(chǎn)環(huán)境,建立在基礎(chǔ)層之上搭建了支撐平臺(tái)的工具,形成了平臺(tái)的工具層,如需求管理jira、代碼管理Git、容器管理k8s和監(jiān)控工具等,通過(guò)工具層提供的能力,建立并實(shí)現(xiàn)了價(jià)值流層,價(jià)值流層對(duì)應(yīng)的功能直接為對(duì)應(yīng)的職能化人員賦能,主要為持續(xù)集成、持續(xù)交付和持續(xù)運(yùn)營(yíng)。


三、蜂鳥(niǎo)效能平臺(tái)相關(guān)技術(shù)節(jié)點(diǎn)簡(jiǎn)介


1、與項(xiàng)目管理平臺(tái)JIRA集成


為了將具體需求與迭代上線進(jìn)行對(duì)應(yīng),從而達(dá)到系統(tǒng)上線需求可追蹤,同時(shí)也為后續(xù)對(duì)需求進(jìn)行價(jià)值分析提供基礎(chǔ)數(shù)據(jù),因此需要將項(xiàng)目管理平臺(tái)JIRA與蜂鳥(niǎo)效能平臺(tái)持續(xù)交付進(jìn)行打通。研發(fā)人員在蜂鳥(niǎo)效能平臺(tái)進(jìn)行提測(cè)和發(fā)布上線時(shí)可以根據(jù)提示選擇對(duì)應(yīng)的STORY,從而完成提測(cè)、上線與JIRA項(xiàng)目的關(guān)聯(lián)打通。


2、CI/CD流水線整體設(shè)計(jì)


蜂鳥(niǎo)效能平臺(tái)CI/CD功能主要包括靜態(tài)代碼掃描、開(kāi)發(fā)環(huán)境CI/CD、測(cè)試環(huán)境CI/CD和自動(dòng)化測(cè)試、上線流程審批、生產(chǎn)環(huán)境CI/CD、交付制品的環(huán)境流轉(zhuǎn)等功能。其中應(yīng)用產(chǎn)品的制品在各環(huán)境中詳細(xì)流轉(zhuǎn)邏輯圖如下:


?圖6:CI/CD流程

從上圖可知,制品在多環(huán)境CI/CD流轉(zhuǎn)的過(guò)程中,主要包括三個(gè)環(huán)境的流轉(zhuǎn),分別為開(kāi)發(fā)環(huán)境、測(cè)試環(huán)境和生產(chǎn)環(huán)境,其中開(kāi)發(fā)環(huán)境采用自動(dòng)構(gòu)建、自動(dòng)集成和自動(dòng)部署的方案,測(cè)試環(huán)境的流轉(zhuǎn)與發(fā)布根據(jù)技術(shù)經(jīng)理在蜂鳥(niǎo)效能平臺(tái)上的提測(cè),測(cè)試組人員可以根據(jù)自身需要進(jìn)行按需自動(dòng)化發(fā)布部署,發(fā)布部署完成后,可以對(duì)相應(yīng)的功能模塊進(jìn)行自動(dòng)化測(cè)試。制品在生產(chǎn)環(huán)境的流轉(zhuǎn)與發(fā)布方式和測(cè)試環(huán)境的發(fā)布部署方式類(lèi)似,在蜂鳥(niǎo)效能平臺(tái)上走完審批流程后根據(jù)實(shí)際需要,運(yùn)維人員按需自動(dòng)化發(fā)布部署。蜂鳥(niǎo)效能平臺(tái)實(shí)現(xiàn)了線上審批流程和測(cè)試、發(fā)布操作的關(guān)聯(lián)控制,保證每次提測(cè)和發(fā)布上線都有嚴(yán)格的流程把控。


其中對(duì)于容器化應(yīng)用各環(huán)境流轉(zhuǎn)發(fā)布部署細(xì)節(jié)如下:


1)開(kāi)發(fā)環(huán)境鏡像生成與發(fā)布:

在Gitlab上創(chuàng)建工程后,研發(fā)人員可以自助在平臺(tái)上對(duì)該Gitlab工程綁定自動(dòng)構(gòu)建和部署模塊,當(dāng)該工程主分支發(fā)生branch合并時(shí)觸發(fā)自動(dòng)構(gòu)建,鏡像創(chuàng)建后,會(huì)將對(duì)應(yīng)的鏡像推送到鏡像倉(cāng)庫(kù),然后再觸發(fā)自動(dòng)化部署腳本將該鏡像自動(dòng)部署到開(kāi)發(fā)環(huán)境。


2)測(cè)試環(huán)境下的鏡像流轉(zhuǎn)與發(fā)布:

在開(kāi)發(fā)人員將對(duì)應(yīng)的需求開(kāi)發(fā)完后,在蜂鳥(niǎo)效能平臺(tái)上進(jìn)行應(yīng)用產(chǎn)品提測(cè),提測(cè)后測(cè)試組能夠在蜂鳥(niǎo)效能平臺(tái)上的測(cè)試模塊看到提測(cè)的具體鏡像內(nèi)容,根據(jù)提測(cè)詳情,可以實(shí)現(xiàn)一鍵自動(dòng)部署,然后再對(duì)測(cè)試環(huán)境的鏡像進(jìn)行自動(dòng)化功能、接口、性能和UI測(cè)試。


3)生產(chǎn)環(huán)境下的鏡像流轉(zhuǎn)與發(fā)布:

在走完產(chǎn)品上線流程審批后,運(yùn)維人員能夠在蜂鳥(niǎo)效能平臺(tái)上看到具體的上線流程信息,根據(jù)實(shí)際情況進(jìn)行自動(dòng)化發(fā)布部署、回滾和復(fù)核。


通過(guò)CI/CD流水線,使產(chǎn)品、UED、研發(fā)、測(cè)試、運(yùn)維和合規(guī)等職能化角色可以在其對(duì)應(yīng)職責(zé)的權(quán)限下完成產(chǎn)品上線過(guò)程中對(duì)應(yīng)的具體操作,如測(cè)試人員完成自動(dòng)化測(cè)試操作、運(yùn)維人員完成自動(dòng)化部署操作和合規(guī)人員完成合規(guī)審核操作等,最終達(dá)到產(chǎn)品交付的目的。同時(shí)蜂鳥(niǎo)效能平臺(tái)隔離了開(kāi)發(fā)、測(cè)試、生產(chǎn)環(huán)境,對(duì)應(yīng)的角色只能在對(duì)應(yīng)的環(huán)境進(jìn)行操作,操作環(huán)境的隔離符合《證券基金經(jīng)營(yíng)機(jī)構(gòu)信息技術(shù)管理辦法》的相關(guān)要求。


3、代碼管理及構(gòu)建


代碼的科學(xué)管理對(duì)團(tuán)隊(duì)高效協(xié)作以及流程規(guī)范具有特別重要的作用,蜂鳥(niǎo)效能平臺(tái)采用Git作為代碼管理工具。GitFlow模式是若干模式的集大成者,包含一個(gè)主干分支、一個(gè)開(kāi)發(fā)分支、許多的特性分支、許多的發(fā)布發(fā)布分支和Hotfix分支,以及許多的合并規(guī)則,通過(guò)GitFlow模式的運(yùn)用,能夠解決開(kāi)發(fā)過(guò)程中大部分代碼協(xié)作的問(wèn)題。同時(shí)通過(guò)分支的管理,也為后續(xù)開(kāi)發(fā)環(huán)境的CI/CD奠定了基礎(chǔ)。


4、制品庫(kù)管理


蜂鳥(niǎo)效能平臺(tái)的制品倉(cāng)庫(kù)在持續(xù)交付的過(guò)程中扮演著中轉(zhuǎn)站的作用,如何結(jié)合制品倉(cāng)庫(kù)實(shí)現(xiàn)制品在不同環(huán)境中的流轉(zhuǎn)對(duì)保持制品交付前后的一致性與可追溯性有著重要的作用。對(duì)于當(dāng)前的制品主要分為Docker鏡像類(lèi)和非鏡像類(lèi)制品,為了能夠?qū)ocker鏡像類(lèi)進(jìn)行管理,鏡像倉(cāng)庫(kù)采用開(kāi)源Harbor進(jìn)行管理,對(duì)于非鏡像類(lèi)制品采用Artifactory進(jìn)行管理,為了能夠達(dá)到環(huán)境流轉(zhuǎn)的效果,采用基于倉(cāng)庫(kù)的不同賬號(hào)之間的權(quán)限管理方案,具體見(jiàn)關(guān)鍵模塊方案。對(duì)于唯一性問(wèn)題,容器類(lèi)制品采用鏡像id非容器類(lèi)制品采用MD5碼保證制品的唯一性。


5、接口管理


蜂鳥(niǎo)效能平臺(tái)接口管理功能對(duì)于不同的研發(fā)角色作用不同,開(kāi)發(fā)人員能夠利用接口管理功能進(jìn)行前后端接口調(diào)用、多項(xiàng)目接口統(tǒng)一管理、接口調(diào)試和多團(tuán)隊(duì)協(xié)同開(kāi)發(fā);測(cè)試人員能夠基于接口管理功能中登記的接口進(jìn)行簡(jiǎn)單接口測(cè)試、場(chǎng)景化接口測(cè)試;運(yùn)維人員可以基于接口管理功能中登記的接口實(shí)現(xiàn)業(yè)務(wù)監(jiān)控;產(chǎn)品人員可以快速進(jìn)行數(shù)據(jù)統(tǒng)計(jì)。


6、配置中心


蜂鳥(niǎo)效能平臺(tái)的配置中心能夠?qū)崿F(xiàn)對(duì)不同環(huán)境、多云環(huán)境的系統(tǒng)參數(shù)配置進(jìn)行管理,同時(shí)配置中心也是多環(huán)境(開(kāi)發(fā)、測(cè)試、仿真、生產(chǎn))CI/CD的關(guān)鍵。蜂鳥(niǎo)效能平臺(tái)的配置中心基于Apollo實(shí)現(xiàn),Apollo是一個(gè)開(kāi)源的分布式配置中心,能夠集中化管理應(yīng)用不同環(huán)境、不同集群的配置,配置修改后能夠?qū)崟r(shí)推送到應(yīng)用端,并且具備規(guī)范的權(quán)限、流程治理等特性,適用于微服務(wù)配置管理場(chǎng)景。配置中心實(shí)現(xiàn)了開(kāi)發(fā)、測(cè)試、生產(chǎn)多環(huán)境的系統(tǒng)參數(shù)配置功能,同時(shí)支持多云架構(gòu)下的分布式系統(tǒng)配置管理。配置中心為CI、CD的平滑交付提供了技術(shù)保障。


?圖7:分布式配置中心


7、單元測(cè)試、靜態(tài)代碼掃描及開(kāi)發(fā)環(huán)境CI/CD


單元測(cè)試能夠讓開(kāi)發(fā)人員在提測(cè)前發(fā)現(xiàn)新增變動(dòng)對(duì)系統(tǒng)可能造成的不利影響,并通過(guò)將單元測(cè)試與開(kāi)發(fā)環(huán)境CI/CD進(jìn)行結(jié)合,當(dāng)開(kāi)發(fā)人員進(jìn)行代碼提交或者進(jìn)行代碼merge時(shí)將觸發(fā)自動(dòng)單元測(cè)試并將結(jié)果反饋給對(duì)應(yīng)研發(fā)人員。


為了提高研發(fā)過(guò)程中的代碼質(zhì)量并盡快發(fā)現(xiàn)已有系統(tǒng)代碼中存在的漏洞缺陷,蜂鳥(niǎo)效能平臺(tái)提供了靜態(tài)代碼掃描功能,靜態(tài)代碼掃描功能可以對(duì)研發(fā)人員的代碼進(jìn)行分析并進(jìn)一步提升編碼規(guī)范。靜態(tài)代碼掃描功能需要能夠識(shí)別代碼中一些常見(jiàn)的漏洞,如資源類(lèi)問(wèn)題(資源釋放、無(wú)效指針等)、安全性要求(數(shù)據(jù)污染、注入等)、潛在的缺陷(數(shù)組越界、初始化、除零錯(cuò)誤、空指針引用等)、多線程和同步性(雙重鎖定、未釋放的鎖等)和異常處理(NullPointerException)等。


靜態(tài)代碼掃描平臺(tái)采用增量掃描和全面掃描相結(jié)合的方式,日常開(kāi)發(fā)對(duì)于不斷的代碼提交采用自動(dòng)增量掃描,便于快速發(fā)現(xiàn)新增代碼中的缺陷,同時(shí)結(jié)合定時(shí)全量掃描和提測(cè)前全量掃描的方式,發(fā)現(xiàn)代碼中所有的缺陷,只有當(dāng)高危、中危、低危等級(jí)的缺陷全部修復(fù)完后才能由開(kāi)發(fā)人員在蜂鳥(niǎo)效能平臺(tái)上提測(cè)版本給測(cè)試人員,提升了開(kāi)發(fā)人員提測(cè)版本的質(zhì)量和安全性。


8、自動(dòng)化測(cè)試及測(cè)試環(huán)境CI/CD


蜂鳥(niǎo)效能平臺(tái)的自動(dòng)化測(cè)試功能實(shí)現(xiàn)了互聯(lián)網(wǎng)研發(fā)團(tuán)隊(duì)測(cè)試人員的效率飛躍,通過(guò)將自動(dòng)化測(cè)試平臺(tái)與持續(xù)交付的流程進(jìn)行結(jié)合大大提升了測(cè)試效率。在蜂鳥(niǎo)效能平臺(tái)上,測(cè)試人員能夠看到研發(fā)人員提測(cè)的具體內(nèi)容,并識(shí)別出具體的制品版本及唯一碼,測(cè)試人員可以在蜂鳥(niǎo)效能平臺(tái)上對(duì)開(kāi)發(fā)人員提測(cè)的版本進(jìn)行一鍵部署和一鍵自動(dòng)化測(cè)試,最后測(cè)試的結(jié)果將以報(bào)告的方式反饋給研發(fā)人員。


通過(guò)蜂鳥(niǎo)效能平臺(tái)的接口管理功能與自動(dòng)化測(cè)試功能的集成。目前已經(jīng)支持UI及接口自動(dòng)化測(cè)試。UI自動(dòng)化基于Appium實(shí)現(xiàn),Appium要能真正自動(dòng)化手機(jī)上的應(yīng)用必須依賴(lài)于各個(gè)移動(dòng)平臺(tái)所帶的自動(dòng)化框架;IOS平臺(tái)目前依賴(lài)于XCUITest實(shí)現(xiàn),安卓目前主要依賴(lài)于Uiautomator??蚣芴峁┑氖沁\(yùn)行庫(kù),運(yùn)行庫(kù)運(yùn)行在移動(dòng)設(shè)備上。


AppiumServer服務(wù)起來(lái)后會(huì)在移動(dòng)設(shè)備上安裝一個(gè)幫助自動(dòng)化的應(yīng)用,可理解為“控制許可”或者“代理”應(yīng)用,通過(guò)這樣應(yīng)用可以編譯我們自動(dòng)化給出的指令,然后按指令測(cè)試移動(dòng)設(shè)備上的應(yīng)用。


圖8:UI自動(dòng)化流程


蜂鳥(niǎo)效能平臺(tái)的接口自動(dòng)化功能基于接口分層測(cè)試設(shè)計(jì)的思想,采用python+unittest+ddt框架自研實(shí)現(xiàn)。把測(cè)試數(shù)據(jù)與測(cè)試代碼完全分離,將數(shù)據(jù)操作、用例配置、日志記錄、接口請(qǐng)求等公用方法封裝成單獨(dú)類(lèi),使用DDT數(shù)據(jù)驅(qū)動(dòng)工具管理每個(gè)接口的多種測(cè)試場(chǎng)景,使用unittest組織、執(zhí)行多個(gè)接口的測(cè)試用例集合,通過(guò)添加多種斷言形式,如接口的狀態(tài)碼、返回值、差異化(diff)對(duì)比等對(duì)接口測(cè)試結(jié)果進(jìn)行判斷,最后通過(guò)HtmlTestRunner生成測(cè)試報(bào)告,把返回的測(cè)試結(jié)果用圖形和文本形式形象的展現(xiàn)出來(lái)。


圖9:接口自動(dòng)化體系


接口自動(dòng)化測(cè)試功能是Devops實(shí)踐中不可或缺的一部分,具備持續(xù)測(cè)試能力,大大提升測(cè)試效率,使測(cè)試人員快速適應(yīng)敏捷開(kāi)發(fā)工作模式,從而減少了產(chǎn)品迭代過(guò)程中的時(shí)間成本和技術(shù)人力成本,為產(chǎn)品快速迭代和發(fā)布提供了質(zhì)量保障。


圖10:接口自動(dòng)化流程


9、混合云管理及生產(chǎn)發(fā)布


在真實(shí)的部署環(huán)境中,經(jīng)常涉及多云環(huán)境下的發(fā)布管理,為了實(shí)現(xiàn)多云環(huán)境下的制品流轉(zhuǎn)及發(fā)布部署,蜂鳥(niǎo)效能平臺(tái)實(shí)現(xiàn)了一套混合云環(huán)境的發(fā)布管理功能。


中泰證券互聯(lián)網(wǎng)應(yīng)用系統(tǒng)的部署環(huán)境為一個(gè)混合云場(chǎng)景,蜂鳥(niǎo)效能平臺(tái)通過(guò)對(duì)混合云環(huán)境資源的整合,解決了混合云環(huán)境的CI/CD發(fā)布部署和系統(tǒng)監(jiān)控問(wèn)題,具體方案如下圖:


圖11:混合云多云環(huán)境部署


通過(guò)該方案與CI/CD制品流轉(zhuǎn)設(shè)計(jì)相結(jié)合,使研發(fā)人員交付的應(yīng)用制品可以通過(guò)蜂鳥(niǎo)效能平臺(tái)實(shí)現(xiàn)多環(huán)境流轉(zhuǎn),最終發(fā)布部署到混合云的環(huán)境中去。


10、自動(dòng)化監(jiān)控及技術(shù)運(yùn)營(yíng)


為提升線上問(wèn)題和故障的發(fā)現(xiàn)、反饋效率,蜂鳥(niǎo)效能平臺(tái)集成了自動(dòng)化監(jiān)控功能,自動(dòng)化監(jiān)控能夠提高運(yùn)維的效率,并能夠滿(mǎn)足頻繁發(fā)布部署過(guò)程中的應(yīng)用監(jiān)控問(wèn)題,通過(guò)對(duì)應(yīng)用服務(wù)的自動(dòng)化監(jiān)控與故障自愈相結(jié)合能夠在用戶(hù)無(wú)感知的情況下修復(fù)線上故障,同時(shí)在蜂鳥(niǎo)效能平臺(tái)上對(duì)線上故障數(shù)據(jù)進(jìn)行跟蹤收集分析,達(dá)到盡快反饋給研發(fā)人員并能夠?qū)收匣厮菥哂袇⒖甲饔谩?/span>


11、效能指標(biāo)跟蹤及改善


效能指標(biāo)能夠體現(xiàn)研發(fā)過(guò)程的實(shí)施情況,客觀的效能數(shù)據(jù)可以對(duì)我們研發(fā)改進(jìn)起到指導(dǎo)效果,沒(méi)有客觀數(shù)據(jù)和成功標(biāo)準(zhǔn)就無(wú)法做到持續(xù)反饋和持續(xù)改進(jìn)。蜂鳥(niǎo)效能平臺(tái)中關(guān)鍵效能指標(biāo)見(jiàn)下圖:


圖12:效能數(shù)據(jù)


研發(fā)效能數(shù)據(jù)多維度展示產(chǎn)品交付各階段的數(shù)據(jù),如開(kāi)發(fā)階段的代碼數(shù)據(jù)統(tǒng)計(jì)、測(cè)試階段的自動(dòng)化測(cè)試數(shù)據(jù)統(tǒng)計(jì)、運(yùn)維上線后的故障數(shù)據(jù)統(tǒng)計(jì)等;其中流水線指標(biāo)從交付效率和吞吐率兩方面主要反映研發(fā)過(guò)程整體效能情況;項(xiàng)目/需求指標(biāo)能夠從需求的成本和上線后的價(jià)值兩個(gè)角度對(duì)需求進(jìn)行價(jià)值數(shù)據(jù)衡量;研發(fā)指標(biāo)反映了當(dāng)前研發(fā)人員的工作負(fù)荷以及產(chǎn)出及質(zhì)量情況;測(cè)試指標(biāo)對(duì)產(chǎn)品質(zhì)量保證具有關(guān)鍵指導(dǎo)的作用;運(yùn)維指標(biāo)能夠反映運(yùn)維工作效率的情況,如線上故障情況及功能上線發(fā)布效率。


四、DevOps蜂鳥(niǎo)效能平臺(tái)關(guān)鍵功能截圖


目前蜂鳥(niǎo)效能平臺(tái)已經(jīng)覆蓋中泰證券互聯(lián)網(wǎng)金融全部業(yè)務(wù),接入項(xiàng)目模塊180多個(gè),支持容器及非容器應(yīng)用,累計(jì)CI/CD(持續(xù)集成/持續(xù)交付)次數(shù)6萬(wàn)+。


1、產(chǎn)品關(guān)鍵截圖一:提測(cè)及上線流程跟蹤如下:


圖13


該圖為一個(gè)完整提測(cè)、上線發(fā)布流程圖,各職能化角色都有參與到該流程中,開(kāi)發(fā)人員提測(cè)、測(cè)試人員執(zhí)行測(cè)試、技術(shù)經(jīng)理確認(rèn)上線發(fā)布、產(chǎn)品經(jīng)理發(fā)布前驗(yàn)收、產(chǎn)品及技術(shù)負(fù)責(zé)人確認(rèn)上線、合規(guī)確認(rèn)發(fā)布流程、運(yùn)維人員A執(zhí)行發(fā)布、運(yùn)維人員B復(fù)核發(fā)布、業(yè)務(wù)部門(mén)生產(chǎn)驗(yàn)收。


2、產(chǎn)品關(guān)鍵截圖二:提測(cè)詳情頁(yè)關(guān)鍵截圖如下:


圖14


該圖為提測(cè)詳情圖,技術(shù)經(jīng)理可以通過(guò)該提測(cè)詳情頁(yè)完成容器或者非容器化的提測(cè)。


3、產(chǎn)品關(guān)鍵截圖三:蜂鳥(niǎo)效能數(shù)據(jù)截圖如下:


圖15


該圖為效能數(shù)據(jù)對(duì)研發(fā)階段的某一場(chǎng)景進(jìn)行展示。蜂鳥(niǎo)效能平臺(tái)通過(guò)多維度對(duì)不同交付階段進(jìn)行數(shù)據(jù)跟蹤并繪制全面的圖表對(duì)全過(guò)程進(jìn)行效能分析。


4、產(chǎn)品關(guān)鍵截圖四:自動(dòng)化測(cè)試結(jié)果關(guān)鍵截圖如下:


圖16


通過(guò)自動(dòng)化測(cè)試報(bào)告能夠詳細(xì)完整的查看具體的功能模塊測(cè)試詳情。


5、產(chǎn)品關(guān)鍵截圖五:靜態(tài)代碼掃描關(guān)鍵截圖如下:

圖17


通過(guò)靜態(tài)代碼掃描的報(bào)告詳情,能夠查看當(dāng)前項(xiàng)目的缺陷情況,同時(shí)通過(guò)缺陷展示快速定位缺陷位置。


五、總結(jié)


中泰證券互聯(lián)網(wǎng)研發(fā)團(tuán)隊(duì)基于DevOps思想構(gòu)建的蜂鳥(niǎo)效能平臺(tái)上線以來(lái),經(jīng)過(guò)累計(jì)6萬(wàn)+次的CI/CD(持續(xù)集成/持續(xù)交付),已經(jīng)成為目前互聯(lián)網(wǎng)研發(fā)過(guò)程中不可或缺的核心研發(fā)工具平臺(tái)。帶來(lái)的價(jià)值如下:


1、規(guī)范研發(fā)過(guò)程,實(shí)現(xiàn)安全可控


蜂鳥(niǎo)效能平臺(tái)將開(kāi)發(fā)、測(cè)試、生產(chǎn)環(huán)境進(jìn)行了有效隔離,實(shí)現(xiàn)了各環(huán)節(jié)操作的安全可控及合規(guī)。所有的發(fā)布操作均通過(guò)蜂鳥(niǎo)效能平臺(tái)留痕并且操作綁定流程制度,做到了問(wèn)題可追溯、減少了誤操作、操作符合公司IT管理規(guī)定。? ?


2、提升交付效率,縮短交付時(shí)間


蜂鳥(niǎo)效能平臺(tái)旨在縮短開(kāi)發(fā)人員完成功能代碼編寫(xiě)到生產(chǎn)發(fā)布過(guò)程中的時(shí)間消耗,提升研發(fā)交付效率。


縮短了開(kāi)發(fā)時(shí)間周期,通過(guò)靜態(tài)代碼掃描可以在10~20分鐘內(nèi)實(shí)現(xiàn)對(duì)一個(gè)應(yīng)用系統(tǒng)的代碼檢查,提升了開(kāi)發(fā)人員CodeReview的效率。每個(gè)迭代的時(shí)間縮短0.5~1天。


縮短了測(cè)試時(shí)間周期,全功能回歸測(cè)試從2~3天人工測(cè)試降低到自動(dòng)化測(cè)試6~8小時(shí)。每個(gè)迭代的時(shí)間縮短2天左右。


縮短了各環(huán)節(jié)流轉(zhuǎn)的時(shí)間,蜂鳥(niǎo)效能平臺(tái)自動(dòng)化CI/CD次數(shù)自上線以來(lái)達(dá)到幾萬(wàn)次,已經(jīng)實(shí)現(xiàn)了從開(kāi)發(fā)人員提交代碼到生產(chǎn)發(fā)布過(guò)程中的自動(dòng)化,節(jié)約了大量的人力成本。其中各環(huán)境下的發(fā)布部署改造前后具體參考圖如下:


圖18


從上圖可知,通蜂鳥(niǎo)效能平臺(tái)的實(shí)現(xiàn)與應(yīng)用,使應(yīng)用制品在開(kāi)發(fā)、測(cè)試和運(yùn)維階段的發(fā)布部署過(guò)程中,對(duì)應(yīng)的發(fā)布部署效率提升10倍以上。


3、提升交付質(zhì)量,減少線上故障


靜態(tài)代碼掃描可以識(shí)別一定的代碼邏輯設(shè)計(jì)、編碼缺陷及安全漏洞,減少了程序問(wèn)題導(dǎo)致的生產(chǎn)問(wèn)題。


應(yīng)用發(fā)布過(guò)程中,應(yīng)用包在開(kāi)發(fā)、測(cè)試和生產(chǎn)的環(huán)境流轉(zhuǎn)過(guò)程中,應(yīng)用包不用重新編譯打包,實(shí)現(xiàn)了同一應(yīng)用包多環(huán)境流轉(zhuǎn),系統(tǒng)、業(yè)務(wù)配置參數(shù)通過(guò)配置中心讀取,減少了因?yàn)閼?yīng)用包變更和參數(shù)配置問(wèn)題導(dǎo)致的生產(chǎn)發(fā)布問(wèn)題。


通過(guò)容器化技術(shù)實(shí)現(xiàn)了各環(huán)境對(duì)應(yīng)用的隔離性和封裝性,減少了因?yàn)殚_(kāi)發(fā)、測(cè)試、生產(chǎn)環(huán)境的差異性導(dǎo)致的生產(chǎn)發(fā)布問(wèn)題。


- END -

?推薦閱讀?
31天拿下K8s含金量最高的CKA+CKS證書(shū)!
Kubernetes 實(shí)現(xiàn)灰度和藍(lán)綠發(fā)布
Gitlab+Jenkins+k8s+Helm 的自動(dòng)化部署實(shí)踐
終于明白了 DevOps 與 SRE 的區(qū)別!
民生銀行 IT運(yùn)維故障管理 可視化案例
Nginx配置中一個(gè)不起眼字符"/"的巨大作用,失之毫厘謬以千里
Kubernetes上生產(chǎn)環(huán)境后,99%都會(huì)遇到這2個(gè)故障
K8s kubectl 常用命令總結(jié)(建議收藏)
Kubernetes 的這些核心資源原理,你一定要了解
基于Nginx實(shí)現(xiàn)灰度發(fā)布與AB測(cè)試
編寫(xiě) Dockerfile 最佳實(shí)踐
12年資深運(yùn)維老司機(jī)的成長(zhǎng)感悟
搭建一套完整的企業(yè)級(jí) K8s 集群(二進(jìn)制方式)



點(diǎn)亮,服務(wù)器三年不宕機(jī)

瀏覽 78
點(diǎn)贊
評(píng)論
收藏
分享

手機(jī)掃一掃分享

分享
舉報(bào)
評(píng)論
圖片
表情
推薦
點(diǎn)贊
評(píng)論
收藏
分享

手機(jī)掃一掃分享

分享
舉報(bào)

感谢您访问我们的网站,您可能还对以下资源感兴趣:

国产秋霞理论久久久电影-婷婷色九月综合激情丁香-欧美在线观看乱妇视频-精品国avA久久久久久久-国产乱码精品一区二区三区亚洲人-欧美熟妇一区二区三区蜜桃视频 99视频+国产日韩欧美| 大黄网站在线观看| 亚洲免费看黄| 色婷婷AV在线| 超碰C| 久青草视频| 久久久国产91桃色一区二区三区 | 成人国产精品在线观看| 性爱无码| 人人摸人人艹| 日皮视频免费在线观看| а√最新版在线中文8| 中文字幕人妻在线中文乱码怎么解决 | 国产成人一级片| 天堂AV在线免费观看| japanese在线观看| 色999亚洲人成色| 福利所导航| 手机毛片在线播放| 国产精品无毛五区六区| 国产色视频| 国产精品AV在线| 国产精品1区| 午夜乱论| 国产精品无码免费视频| 麻豆精品无码| 一级AAAAA片裸体做受| 亚洲综合成人在线| 黄色免费高清视频| 苍井空无码一区二区三区| 欧美成人A片| 日韩黄色毛片| 国产一级二级三级| 成人电影91| 黄色日逼片| 躁BBB躁BBB躁BBBBB乃| 欧美日韩成人一区二区三区| 大吊AV| 青青娱乐亚洲无| 亚洲久操| 9I免费看片黄| a视频免费观看| 精品玖玖| 精品色片| 九九热精品视频99| a片视频免费观看| 91麻豆福利在线| 国产激情视频在线| 北条麻妃视频在线观看| 中文字幕乱码亚洲无线码在线日噜噜| 九九视频免费在线观看| 国产成人精品在线| 一级黄色电影在线观看| 高清无码在线观看免费| 91青青草视频| 激情视频在线免费观看| 深夜福利18| 日韩不卡在线观看| 中文字幕人妻系列| 黄a无码| 午夜在线免费视频| 婷婷五月国产| 久久精品秘一区二区三免费| 日本亲子乱婬一级A片| 欧美性生交18XXXXX无码| 在线播放一区二区三区| 国产a片免费观看| 色综合99久久久无码国产精品| 中文字幕一区二区三区四区| 黃色一级A一片人与| 久久WW| 91在线无码精品秘入口国战| 91九色国产| 黄片大全在线免费观看| 又黄又色的视频| 精品1区2区| 围内精品久久久久久久久白丝制服| 操操操AV| 亚洲影视中文字幕| 亚洲国产精品久久久久婷婷老年 | 特黄网站| 一本道视频在线| 中文字幕在线播放视频| 午夜AV在线免费观看| 国产精品一区二区三区在线| 国产AV一区二区三区四区五区| 亚洲第一中文字幕网| 大香蕉97| 国产a区| 蜜桃av秘无码一区三区四| 欧美自拍偷拍| 国产成人网| 九九精品热播| 九九性爱网| 日韩亚洲中文字幕| 午夜操逼网| 蜜芽AV在线| 久草手机视频| 午夜免费网站| 免费看黄色片视频| 久视频在线观看| 99热精品免费在线观看| 脓肿是什么原因引起的,该怎么治疗 | 国产黄片免费视频| 日韩无码字幕| 亚人精品中文字幕在线观看| 操日本逼| 天天躁夜夜躁av| 欧美色图俺去了| 人人草人人舔| 免费看黄色AV| 三级在线网站| 成人一区在线观看| 男人天堂视频网站| 中文一区在线| www.无码视频| 六月综合激情| 亚洲天堂国产视频| 久久8| 国产成人A∨| 欧美性之站| 亚洲一区免费| 18禁成人A∨片| 996热re视频精品视频这里| 亚洲无码理论片| 国产精品777777| 中文字幕AV在线免费观看| 日韩一区二区无码视频| 国产91久久婷婷一区二区| 91久久精品日日躁夜夜躁欧美 | 视频一区二区三区在线观看| 国产精品卡一卡二| 欧美性爱无码| 伊人久久婷婷| 欧美一区二区无码视频| 99在线视频观看| 日韩一级| 国产成人无码毛片| 东京热网站在线观看| 伊人影院在线免费观看| 97超碰自拍| 经典三级在线视频| 日本亚洲中文字幕| 西西人体44www大胆无码| 黄色大片免费在线观看| 日韩AV中文字幕在线| 亚洲aa| 精品人无码一区二区三区下载| 青青伊人网| 蜜桃一区二区视频在线观看| 亚州毛多色色精品| 日韩高清精品在线| 天堂中文8资源在线8| 日韩A片免费观看| 中文字幕在线成人| 影音先锋国产av| 久草久久| 中文在线字幕免费观看电视剧大全| 国产精品国产成人国产三级| 天天爽天天操| 在线免费观看黄片| 久久久久久麻豆| 有免费的欧美操逼视频吗| 亚洲色图15| 人妻在线免费视频| 国产探花| 国产欧美成人| 麻豆国产| 黄色国产视频| 一级片黑人| 日韩18在线| 日本在线一级| 国产做受91电影| 国产日韩在线观看视频| 伊人久久大香线蕉av一区| 美女被操免费网站| 做爱激情视频网站| 黄片视频网站| 久久成人精品| 特黄AAAAAAAA片视频| 超碰毛片| 亚欧精品久久久| 操操av| AV无码在线播放| 中国操逼视频| 黄片在线视频| 乱伦99| 天天干婷婷五月天| 日韩精品丰满无码一级A片∴| 日韩电影| 色二区| 国产无码专区| 強暴人妻一区二区三区| AV中文无码| 草逼动态图| 第四色激情网| 欧美视频在线观看免费| 免费成人黄视频| 艹逼中文字幕| 亚洲一区翔田千里无码| 成人毛片100免费观看| 2014天堂网| 国产99热| 色综合五月婷婷| 广州媚黑妇系列视频在线| 嫩BX区二区三区的区别| 色婷婷AV一区二区三区软件| AV资源在线| 农村一级婬片A片| 777米奇视频| 国产三级片AV| 中文字幕人妻一区| 中文字幕精品无码| 久久青草影院| 亚洲精品国产精品国自产| 中文字幕乱码中文字幕| 国产精品无码永久免费不卡| gogogo高清在线观看免费直播中国| 大香蕉美女视频| eeuss在线| 久久久久无码精品国产91福利| 中文字幕第98页| 欧美日韩中国操逼打炮| 男女免费av| 国产成人精品无码| 色婷婷视频在线播放| 九九成人| 国产人妻中文字幕| 欧美日韩国产性爱| 播五月婷婷| 插菊花综合| 精品无码一区二区三区四区五区| 亚洲黄色免费看| 一级欧美一级日韩片| 亚洲日韩中文字幕在线观看| 毛片av在线| 激情综合在线| 人妻熟妇乱子伦精品无码专区毛片| 亚洲激情网| 国产AV一区二区三区四区五区| 欧洲性爱视频在线观看| 91精品国产综合久久久蜜臀主演| 午夜国产在线| 无码不卡一区| 99re在线观看观看这里只有精品| 欧美色色色色色| 一区二区三区日韩| 亚洲无码你懂的| 北条麻妃JUX-869无码播放| www.17c嫩嫩草色蜜桃网站| 在线观看A片| av天天操| 天天看片天天爽| 日韩一级特黄A片免费观| 色伊人久操视频| 99国产一区| 国产aⅴ激情无码久久久无码 | 影音先锋男人资源网| 成人三级视频在线观看| aa无码视频| 曰韩精品| 熟女嗷嗷叫高潮合集91| 大香蕉伊人在线视频| 西西人体BBBBBB| 毛片黄色视频| 欧美视频在线观看免费| 久久综合站| 九九精品在线视频| 人妻少妇无码| 欧美久久一区二区三区四区视频 | 中文字幕不卡视频| 成人免费观看的毛视频| 一级内射片在线网站观看| 国产精品77777| 欧美爱爱网| 国产乱子伦一区二区三区视频| 日皮视频在线免费观看| 欧美日韩国产一区| 大香蕉在线视频观看| 免费看黄的网站在线观看| 色香蕉视频| 久久婷婷影院| 国产一级a毛一级a毛视频在线网站)| 99精品视频在线观看免费| 加勒比日韩无码| 九九韩剧网最新电视剧免费观看| 亚洲久久久久| 日韩七区| 国产97在线观看| 内射免费视频| 丁香婷婷网| 北条麻妃精品| 三洞齐开Av在线免费观看| 免费黄色av网址| 欧美一区二区三曲的| 黑人vs亚洲人在线播放| 爆操欧美| 久操视频免费观看| 欧美性爱无码在线| 男女日皮的视频| 日韩精品三区| 2018天天日天天操| 国产黄色精品视频| 一级黄色录相片| 91人妻人人澡人人爽人人爽| 乱婬妺妺躁爽A片| 西西888WWW大胆视频| 精品亚洲无码视频| 国产高清AV| 53岁露大奶熟女偷情贴吧| 日韩欧美操逼| 国产成人视频在线播放| XXXXⅩHD亚洲人HD| 国产精品123| 中文字幕日韩AV| 日韩无码视| 久久99精品久久久久婷婷| 国产无遮挡又黄又爽又色视频 | 亚洲aa| 青娱乐国产精品| 熟妇女人妻丰满少妇中文字幕 | 日韩天堂在线| 超碰在线观看免费版| 精品视频免费观看| 天天射夜夜骑| 人妻天天操| 午夜福利无码视频| AV五月| www.黄色在线观看| 免费AV网站在线| 国产真实露脸乱子伦对白高清视频| 午夜撸一撸| 成人黄色电影在线| 欧洲三级网观看| 一本大道东京热av无码| 后入av| 亚洲欧美成人在线| av无码免费| 亚洲精品鲁一鲁一区二区三区| 国产精品久久久久精| 欧美午夜网站| 老骚老B老太太BBW| а√在线中文网新版地址在线| 欧美XX888做受| 性中国熟妇| 国产欧美成人| 日韩精品成人| 狼人综合色| 无码在线观看免费| www九九热| 久久99久久99久久99人受| 午夜精品秘一区二区三区| 松岛枫在线视频| 黄色AV网| 四川少妇BBBB槡BBBB槡| 五月无码视频| 免费人成网站| 欧美亚洲成人精品| 欧美色图综合| 欧美男女日逼视频| 无码黄漫| AV热热| 九九午夜| 人人做人人爽| 日韩射| 97色色得| 一本道视频在线| 欧美性爱操逼视频| 激情五月天视频| 91热99| 日韩亚洲天堂| 免费一级婬片AA片观看| 天天操人人| 免费成人AV| 人人草大香蕉| 国产粉嫩小泬白浆18p| 欧美一区二区三区免费| 欧美一区三区视频z| 嫩草视频在线观看| 亚洲va欧美va天堂v国产综合| 91精品国产综合久久久蜜臀主演| 老司机福利在线视频| 操东北女人逼| 免费AV资源在线观看| 福利在线播放| 无码三级在线播放| 国产成人精品在线| 在线高清无码视频| 亚洲综合日韩在线| 九九人妻| 先锋av资源| 国产乱伦中文字幕| 人妻性爱| 国产精品乱| 亚洲视频入口| 亚洲中文字幕码mv| 日韩一级在线免费观看| 国产一级大片| 一级免费片| 91成人片| 狠狠av| 欧美性爱XXXX| 热久久中文字幕| 嘿嘿午夜影院| 91偷拍视频| 婷婷五月天啪啪| 亚洲成人自拍| 亚州操逼片| 暴操美女网站| 国内老熟妇对白HDXXXX| 热re99久久精品国产99热| 欧美五月婷婷| 美国无码| 激情AV在线观看| 老女人日逼视频| xxxx亚洲| 中文字幕一区二区三区四区50岁 | 国产丝袜在线| 亚洲国产成人va| 成人亚洲电影| av免费观看网址| 国产三级片视频| 精品无码一区二区Av蜜桃| 一区二区三区国产视频| 国产成人视频免费观看| 久久国产日韩| 乱伦A片| 无码免费毛片一区二区三区古代 | 久久久精品中文字幕麻豆发布| 亚洲中文在线播放| 日韩免费中文字幕A片| 久久激情国产| 97视频在线免费观看| 影音先锋三级资源| 黄色一级网站| 韩国中文无码| 欧美天天性| 欧美三级视频在线观看| 日韩无码少妇| 伊人操逼网| 黄色小视频在线免费观看| 国产精品国产三级国产| 日韩另类| AV无码中文| 亚洲欧美日本在线| 婷婷五月天AV| 一级a免一级a做免费线看内裤的注意事项 | 人人干人人草| 麻豆md0049免费| 久久午夜成人电影| 国产精成人品| 在线免费观看网站| 成人乱码一区二区三区| 婷婷色小说| 日韩性爱片| 亚洲国产97| 黑人一级| 黄色a一级| 亚欧av无码| www.俺来也| 九色PORNY国产成人| 翔田千里无码在线观看| 色哟哟国产精品| 久久国产精品99久久人人澡| 佳佳女王footjob超级爽| 男人天堂色男人| 99热播在线| 成人做爱免费网站| 国产精品人妻AⅤ在线看| 免费高清无码| 精品字幕| 欧美乱码| 无码动漫av| 天天日天天操天天日| 亚洲AV在线免费观看| 99精品免费在线观看| 欧美熟女内射| 江苏妇搡BBBB搡BBB| 一本色综合亚洲精品| 久热这里只有| 91人妻人人澡人人精品| 亚洲无码在线视频播放| 精品国精品自拍自在线| 午夜福利干B在线免费小视频 | 欧美黄网站| 亚洲精品人妻在线| 免费看黄色片视频| 麻豆蜜桃wwww精品无码| 日本A∨| 欧美日韩无码视频| 青娱亚洲| 中文字幕毛片| 国产毛片一区二区| 中文字幕日本| 成人三级黄色| 午夜福利毛片| 日本中文字幕免费| 亚洲国产综合AV在线| 91蜜桃婷婷狠狠久久综合9色| 操逼福利| 最近日本中文字幕中文翻译歌词| 五月天久久久久久| 99视频内射三四| 美女福利在线| 大地中文资源5页的更新内容| 91激情在线| 91在线视频精品| 成人免费激情视频| 中文字幕在线无码视频| 懂色成人Av| 神马午夜久久| 国产伦子伦一级A片在线| 2021av| 激情AV在线观看| 免费A片国产毛无码A片| 北条麻妃毛片| 特级西西人体www高清大胆| 成人AV免费观看| 国产无码高清视频| 亚洲成人五月天| 特黄一级片| 影音先锋AV资源网站| 日韩一区二区视频| 午夜无码人妻AV大片| 2025最新国产成人精品| 好爽~要尿了~要喷了~同桌| 久操免费视频| 亚洲欧美日韩久久| 围内精品久久久久久久久久‘变脸| 怡红院成人在线| 亚洲天堂人妻少妇| 河南少妇搡BBBB搡BBBB| a天堂8在线资源| 国产美女做爱视频| 超碰最新在线观看| 亚洲秘无码一区二区三区胖子| 波多野结衣成人在线| 人妻人人骑| 四虎看片| 小黄片高清无码| www.91av| 五月婷婷中文| 久久婷婷网| 日韩精品在线视频观看| 亚洲av二区| 91精品综合久久久久久五月丁香| 一级a片在线观看| 中文有码在线观看| 伊人免费成人视频| 久久九九视频| 无套影院| 欧美一级性爱| 西西人体大胆ww4444多少集| 大鷄巴成人A片视频| 一级黄色电影免费在线观看| 91福利视频网| 久久精品亚洲| 中文字幕+乱码+中文乱码www | 丁香五月婷婷啪啪| 搡bbbb| 日韩最新高清无码| 欧美五月在线网址| 亚洲国产一区二区三区| 操逼视频无码| 奇米97| 桃花岛tⅴ+亚洲品质| www.色中色| 亚洲精品字幕久久久久| 在线播放中文字幕| 欧美国产综合| 蜜芽成人在线| 三级片一区| 日韩免费AV电影| 男女一区二区三区| 香蕉一级视频| 少妇被躁到高潮无码| 日韩视频免费观看| 亚洲天堂一区二区| 美女白嫩嫩大BBB欣赏| 乱伦激情| 黑人乱伦| 精品玖玖| 日韩一级乱伦| 无码任你躁久久久久| 六月色| 91人妻人人澡人人爽人人| 亚洲色老板| 福利视频三区| 成人精品一区二区三区无码视频| 欧美精品在线免费观看| 国产精品视频瘾无码| 久久福利| 91九色蝌蚪| 午夜操逼视频| 亚洲精品人伦一区二区| 深夜福利av| 日韩激情一区| 黄色电影视频在线| 日韩在线免费看| 99久久国产视频| 国产成人a亚洲精品www| 国产96在线亚洲| 天堂一区二区| 久久精品视频在线| 中文字幕麻豆| 性爱视频无码| 亚洲自拍网站| 人人看人人色| 亚洲AV无码成人精品区在线欢看| 先锋影音AV资源站| av在线小说| 国产传媒av| 亚洲啊V| 国精品无码人妻一区二区三区免费| 婷婷激情综合| 加勒比无码在线| 五月婷婷激情网| 国产精品观看| 国产又爽又黄在线看视频| 偷拍二区| 日本无码成人| 久久精品在线播放| 欧美后门菊门交3p、| 午夜欧美性爱视频| 一区二区免费在线观看| 天天干夜夜操| 国产高清AV无码| 亚州AV在线| 午夜午夜福利理论片在线播放| 久久丁香五月婷婷五月天激情视频 | 色色色色网| 亚洲AV无码国产精品二区| 欧美黄色激情视频网站| 人人舔视频| 久久香蕉网| 日韩AV免费| 大鸡巴在线视频| 加勒比精品| 一级女婬片A片AAAA片| 操BAV| 亚洲三级在线播放| 蜜桃精品在线观看| 蝌蚪窝视频在线| 亚洲中文字幕一| 亚洲第一黄网| 亚洲天码中字| 天天想夜夜操| 欧美日韩国产中文字幕| 亚洲五月天婷婷| JlZZJLZZ亚洲美女18| 日韩成人网站在线观看| 国产毛片777777| 婷婷丁香五月亚洲| 嫩BX区二区三区的区别| 牛牛精品一区| 男人天堂大香蕉| 熟女人妻在线观看| 久久婷婷五月综合伊人| A天堂视频| 亚洲国产无码在线观看| 日产电影一区二区三区| 青青草精品在线视频| 一本到在线视频| 台湾毛片| 懂色AV一区二区三区国产中文在线 | 国产乱视频| 91免费小视频| A片视频在线观看| 中文字幕第83页| 69视频网| 一区二区三区亚洲| 91无码精品| 在线小视频| 亚洲在线中文字幕| 操逼网123| 人人操人人| 激情淫荡少妇| 精品字幕| 99久久婷婷国产综合精品青牛牛| 搞搞电影91| 豆花视频成人网站入口| 久草网址| 日韩无码三级视频| 台湾AV在线| 亚洲无码在线精品| 黄色A片免费| 国产免费内射| 91艹逼| 中文字幕区| 91丨露脸丨熟女抽搐| 成人黄色视频免费| 欧美成人性爱网站| 91九色视频| 无码视频观看| 一级免费黄片| 亚洲一区二区视频| 欧美天天干| 欧美城综合在线观看网| 日本不卡一区二区三区四区| 欧美精品一区二区三区蜜臀 | 天天天做夜夜夜夜爽无码| 伊人性视频| 亚洲网站免费在线观看| 韩国一区二区在线观看| 久久超碰99| аⅴ资源新版在线天堂| 美女视频毛片| 亚洲爆乳无码一区二区三区| 亚洲a网| 国产精品色8| 欧美精品一二三区| 久久久国产精品视频| 97超碰碰| 韩剧《邻居的妻子》电视剧| 成人女人18女人毛片| 日韩免费在线观看| 波多野结衣av一区| 成人免费操| 99re超碰| 久久极品| 不卡视频在线观看| 中文字幕亚洲在线观看| 日韩三级小说| 欧美怡春院| 国产粉嫩小泬白浆18p| 日韩三级片网址| 91人人妻人人爽| 亚洲欧美天堂| 欧美亚洲成人网| 黄色视频网站国产| 五月丁香成人网| 久久黄色网| 丝袜内射| 天天操天天操天天操天天| 色婷婷AV在线| 另类性爱视频| 一级片a片| 能看的av网站| 日韩特级片| 99国产在线视频| 欧美一二三区黄色免费视屏| 日本色情网| 中文字幕精品三区无码| 色国产在线| 六月婷婷中文字幕| 国内老熟妇对白HDXXXX| 国产午夜无码福利视频| 超碰在线91| 久久久免费黄色视频| 五月丁香婷中文字幕| www.久热| 又大又粗又爽| 亚洲天堂综合网| 亚洲操逼网站| 女人特级毛片18| 久久九九国产精品怡红院| 亚洲色图88| www.久久久| 国产综合久久久7777777| 中文字幕+乱码+中文乱码www | 91综合娱乐| 网站色色免费看| 久草三级片| 国产免费av网站| 人妻精品久久久久中文字幕69| AV色站| 精品国产国产没封| 熊猫AⅤ| 国产AV一卡| 亚洲天堂婷婷| 三级片中文| 亚洲精品中文字幕无码| 久久99精品国产| 国产精品日韩欧美| 亚洲国产精品精JIZZ老师| 毛片操逼| 中文字幕人妻互换av久久| 国产精品无码在线观看| 色婷婷视频一区二区| 欧美亚洲日韩一区| 91伊人在线| 亚洲va视频| 国产精品内射婷婷一级二| 亚洲搞清视频日本| 欧美日韩色视频| 大香蕉免费网站| 久操人妻| 国产精品一二三区| 大香蕉大香蕉大香蕉| 日韩视频在线观看一区| 欧美三级一级| 欧美天堂在线观看| 91成人影片| 午夜黄色影视| 2021天天夜日| 极品久久| 成人免费观看视频| 亚洲欧洲无码在线| 99精品网站| 日韩特一级| 国产一级a毛一级a毛视频在线网站| 五月天黄色电影| 中文字幕人成人乱| 无码视频在线免费播放| 国产精品93333333| 婷婷五月天AV| 日韩在线1| 亚洲娱乐在线| 高清无码中文字幕在线观看| 江苏妇搡BBBB搡BBBB| 精品AV无码一区二区三区| 欧洲无码精品| 午夜久久电影| 偷拍综合网| 青青青在线| 久久久123| 国产精品粉嫩福利在线| 伊人久久婷婷| 亚洲综合免费| WWW.99热| 国产一级黄色录像| 国产无码高清| 五月色婷婷综合| 开心五月激情网| 久久国产精品久久| 91成人电影| 在线播放a| 极品美鮑20p| 国产精品扒开腿做爽爽爽A片唱戏| 一级黄色电影A片| 亚洲国产成人久久| 五月天成人网址| 91精品一区| 夜夜嗨AV一区二区三区啊| 男女乱伦视频| 亚洲人妻无码在线| 婷婷色色婷婷五月天| 91探花秘入囗| 69av在线视频| 天天干天天操天天射| 免费黄色小视频在线观看| 日韩操片| 偷拍视频网站| 亚洲AV自拍| 天天干,夜夜爽| 美女91视频网站| 日韩成人片| 亚洲黄色在线播放| 成人无码区免费A片在线软件 | 欧美精品无码久久久精品酒店| 北条麻妃91人妻互换| 91久久婷婷国产| 亚洲中文视频| 黄色视频大全在线观看| 中文字幕成人视频| 大香蕉国产精品| 国产3p露脸普通话对白| 日韩无码五月天| 最新中文字幕777私人在线| 成人五月天黄色电影| 韩日一区二区三区| 青青草97国产精品麻豆| 天天摸天天肏| 无码伦理| 国产91无码精品秘入口新欢| 欧美视频综合网| 大鷄巴成人A片| 先锋资源AV| 在线看V片| 青娱乐精品在线| 自拍偷拍亚洲| 高清毛片AAAAAAAAA片| 大香蕉AV在线观看| 干片网| 国产高潮视频在线观看| 天堂资源在线观看| 亚洲69| 无码人妻精品一区二区三区温州 | 日逼天堂| 人人操人人摸人人射| 大香蕉性爱网| 人人妻人人草| 中文字幕天天在线| 日本一区二区三区在线播放| 久草人妻| www.毛片| 18av在线观看| 国产黄色不卡| 国产网友自拍| 午夜无码熟妇丰满人妻| 日韩欧美国产黄色电影| 狠狠狠狠狠操| 色噜噜狠狠色综无码久久合欧美| 小小拗女BBw搡BBBB搡| 中文字幕高清无码视频| 亚洲成人无码视频| 2021天天夜日| 日韩国产中文字幕| 人妻丝袜蕾丝高跟双飞| 天天干在线观看|