大文件上傳服務(wù)器、支持超大文件HTTP斷點(diǎn)續(xù)傳實(shí)踐總結(jié)

最近由于筆者所在的研發(fā)集團(tuán)產(chǎn)品需要，需要支持高性能的大文件http上傳，并且要求支持http斷點(diǎn)續(xù)傳。這里在簡(jiǎn)要?dú)w納一下，方便記憶：

1. 服務(wù)器端由C語(yǔ)言實(shí)現(xiàn)，而不是用java、PHP這種解釋型語(yǔ)言來(lái)實(shí)現(xiàn)；
2. 服務(wù)器端即時(shí)寫(xiě)入硬盤(pán)，因此無(wú)需再次調(diào)用move_uploaded_file、InputStreamReader 這種需要緩存的技術(shù)來(lái)避免服務(wù)器內(nèi)存占用與瀏覽器請(qǐng)求超時(shí)；
3. 支持HTML5與IFRAME（針對(duì)老瀏覽器），并且支持獲取文件上傳進(jìn)度。

為了更好的適應(yīng)當(dāng)前的移動(dòng)互聯(lián)網(wǎng)，要求對(duì)上傳服務(wù)支持?jǐn)帱c(diǎn)續(xù)傳，斷線(xiàn)重連。因?yàn)橐苿?dòng)互聯(lián)網(wǎng)并不非常穩(wěn)定；再者，上傳一個(gè)大文件發(fā)生異常掉線(xiàn)的可能性非常大，為了避免重新上傳，支持?jǐn)帱c(diǎn)續(xù)傳就變得非常必要了。

支持?jǐn)帱c(diǎn)續(xù)傳的思路是：

客戶(hù)端（通常是瀏覽器）向服務(wù)器端上傳某個(gè)文件，并不斷記錄上傳的進(jìn)度，如果一旦掉線(xiàn)或發(fā)生其它異常，客戶(hù)端可以向服務(wù)器查詢(xún)某個(gè)文件已經(jīng)上傳的狀態(tài)，從上次上傳的文件位置接著上傳。

網(wǎng)上也有大師采用分片文件上傳方式來(lái)實(shí)現(xiàn)大文件上傳，方法是將文件切成小片，例如4MB一個(gè)片段，服務(wù)器端每次接收一小片文件保存成一個(gè)臨時(shí)文件，等待所有片段傳輸完畢后，再執(zhí)行合并。筆者認(rèn)為，如果原始文件足夠小，這種方式是可以的，但一旦文件有幾百兆或者幾個(gè)GB或者幾十個(gè)GB，則合并文件的時(shí)間會(huì)非常長(zhǎng)，常常導(dǎo)致瀏覽器響應(yīng)超時(shí)或服務(wù)器阻塞。

如果自己實(shí)現(xiàn)獨(dú)立客戶(hù)端（或?yàn)g覽器的ActiveX插件）來(lái)上傳文件，則支持?jǐn)帱c(diǎn)續(xù)傳將是一件非常簡(jiǎn)單的事情，只需在客戶(hù)端記錄文件上傳狀態(tài)。而支持瀏覽器斷點(diǎn)續(xù)傳（無(wú)需安裝第三方插件）一般來(lái)說(shuō)是要比自己做獨(dú)立客戶(hù)端上傳難度大一些，但也不難。我的實(shí)現(xiàn)思路如下：

一、瀏覽器在上傳某個(gè)文件時(shí)候，先給這個(gè)文件生成一個(gè)HASH值，必須在瀏覽器端生成這個(gè)HASH值。

不能單循地依據(jù)文件名來(lái)查詢(xún)文件上傳記錄，文件名的重復(fù)性很大，文件名 + 文件尺寸組成的值重復(fù)性縮小，如果再加上文件修改時(shí)間，則重復(fù)性進(jìn)一步縮小，如果再加上一個(gè)瀏覽器的 ID可以進(jìn)一步縮小重復(fù)性沖突。最好的HASH值的計(jì)算方法是用文件的內(nèi)容進(jìn)行MD5計(jì)算，但計(jì)算量極大（其實(shí)也沒(méi)有必要這么做），過(guò)多的耗時(shí)會(huì)影響上傳的體驗(yàn)。

基于上述理由，我的HASH值計(jì)算思路如下：

1. 首先給瀏覽器賦予一個(gè)ID，這個(gè)ID保存在Cookie里；
2. 瀏覽器的 ID+ 文件的修改時(shí)間 + 文件名 + 文件尺寸 的結(jié)果進(jìn)行MD5來(lái)計(jì)算一個(gè)文件的HASH值；
3. 瀏覽器的ID 是系統(tǒng)在瀏覽器訪(fǎng)問(wèn)文件上傳站點(diǎn)時(shí)自動(dòng)給瀏覽器授予的。

//簡(jiǎn)單的Cookie幫助函數(shù)  
function setCookie(cname,cvalue,exdays)  
{  
  var d = new Date();  
  d.setTime(d.getTime()+(exdays*24*60*60*1000));  
  var expires = "expires="+d.toGMTString();  
  document.cookie = cname + "=" + cvalue + "; " + expires;  
}  
   
   
function getCookie(cname)  
{  
  var name = cname + "=";  
  var ca = document.cookie.split(';');  
  for(var i=0; i<ca.length; i++)   
  {  
    var c = ca[i].trim();  
    if (c.indexOf(name)==0) return c.substring(name.length,c.length);  
  }  
  return "";  
}  
//  
//簡(jiǎn)單的文件HASH值計(jì)算，如果您不是十分考究，應(yīng)該可以用于產(chǎn)品。  
//由于計(jì)算文件HASH值用到了多種數(shù)據(jù)，因此在HYFileUploader系統(tǒng)范圍內(nèi)發(fā)生HASH沖突的可能性應(yīng)該非常小，應(yīng)該可以放心使用。  
//獲取文件的ID可以用任何算法來(lái)實(shí)現(xiàn)，只要保證做到同一文件的ID是相同的即可，獲取的ID長(zhǎng)度不要超過(guò)32字節(jié)  
//  
function getFileId (file)   
{  
    //給瀏覽器授予一個(gè)唯一的ID用于區(qū)分不同的瀏覽器實(shí)例（不同機(jī)器或者相同機(jī)器不同廠家的瀏覽器）  
    var clientid = getCookie("HUAYIUPLOAD");  
    if (clientid == "") {  
        //用一個(gè)隨機(jī)值來(lái)做瀏覽器的ID，將作為文件HASH值的一部分  
        var rand = parseInt(Math.random() * 1000);  
        var t = (new Date()).getTime();  
        clientid =rand+'T'+t;  
          
        setCookie("HUAYIUPLOAD",clientid,365);  
    }  
      
    var info = clientid;  
    if (file.lastModified)  
        info += file.lastModified;  
    if (file.name)  
        info += file.name;  
    if (file.size)  
        info += file.size;  
    //https://cdn.bootcss.com/blueimp-md5/2.10.0/js/md5.min.js  
    var fileid = md5(info);  
    return fileid;  
}  

筆者認(rèn)為：不必通過(guò)讀取文件的內(nèi)容來(lái)計(jì)算HASH值，這樣會(huì)非常慢的。如果確實(shí)需要實(shí)現(xiàn)HTTP秒傳，可能得這么做，這樣如果不同的人上傳的文件內(nèi)容一致，就可避免重復(fù)上傳，直接返回結(jié)果即可。

之所以給瀏覽器賦予一個(gè)ID，這樣可以進(jìn)一步避免別的計(jì)算機(jī)的同名同尺寸文件的HASH值沖突。

二、查詢(xún)文件的HASH值

在文件上傳支持，先通過(guò)文件的HASH值從上傳服務(wù)器查詢(xún)文件的上傳進(jìn)度信息，然后從上傳進(jìn)度位置開(kāi)始上傳，代碼如下：

var fileObj = currentfile;  
var fileid = getFileId(fileObj);  
var t = (new Date()).getTime();  
//通過(guò)以下URL獲取文件的斷點(diǎn)續(xù)傳信息，必須的參數(shù)為fileid，后面追加t參數(shù)是避免瀏覽器緩存  
var url = resume_info_url + '?fileid='+fileid + '&t='+t;  
  
var ajax = new XMLHttpRequest();  
  
ajax.onreadystatechange = function () {   
    if(this.readyState == 4){  
        if (this.status == 200){  
            var response = this.responseText;  
              
            var result = JSON.parse(response);  
            if (!result) {  
                alert('服務(wù)器返回的數(shù)據(jù)不正確，可能是不兼容的服務(wù)器');  
                return;  
            }  
            //斷點(diǎn)續(xù)傳信息返回的文件對(duì)象包含已經(jīng)上傳的尺寸  
            var uploadedBytes = result.file && result.file.size;  
            if (!result.file.finished && uploadedBytes < fileObj.size) {  
                upload_file(fileObj,uploadedBytes,fileid);  
            }  
            else {  
                //文件已經(jīng)上傳完成了，就不要再上傳了，直接返回結(jié)果就可以了  
                showUploadedFile(result.file);  
                //模擬進(jìn)度完成  
                //var progressBar = document.getElementById('progressbar');  
                //progressBar.value = 100;  
            }  
              
        }else {  
            alert('獲取文件斷點(diǎn)續(xù)傳信息失敗');  
        }    
    }   
}  
  
ajax.open('get',url,true);  
ajax.send(null);  

以上是通過(guò) jQuery-file-upload組件的實(shí)現(xiàn)，通過(guò)原始Javascript的實(shí)現(xiàn)代碼請(qǐng)參見(jiàn)demos目錄的h4resume.html樣本代碼。

三、執(zhí)行上傳

在查詢(xún)完文件的斷點(diǎn)續(xù)傳信息后，如果文件確實(shí)以前已經(jīng)上傳，服務(wù)器將返回已經(jīng)上傳過(guò)的文件尺寸，我們接著從已經(jīng)上傳的文件尺寸位置開(kāi)始上傳數(shù)據(jù)即可。

html5的File對(duì)象的 slice 可以用于從文件切取片段來(lái)上傳。

定義和用法

slice() 方法可提取字文件的某個(gè)部分，并以新的字符串返回被提取的部分。

語(yǔ)法

File.slice(start,end)

參數(shù) 描述

start 要抽取的片斷的起始下標(biāo)。如果是負(fù)數(shù)，則該參數(shù)規(guī)定的是從字符串的尾部開(kāi)始算起的位置。也就是說(shuō)，-1 指字符串的最后一個(gè)字符，-2 指倒數(shù)第二個(gè)字符，以此類(lèi)推。

end 緊接著要抽取的片段的結(jié)尾的下標(biāo)。若未指定此參數(shù)，則要提取的子串包括 start 到原字符串結(jié)尾的字符串。

如果該參數(shù)是負(fù)數(shù)，那么它規(guī)定的是從字符串的尾部開(kāi)始算起的位置。

實(shí)現(xiàn)分片文件上傳的代碼如下：

/*  
文件上傳處理代碼  
fileObj : html5 File 對(duì)象  
start_offset: 上傳的數(shù)據(jù)相對(duì)于文件頭的起始位置  
fileid: 文件的ID，這個(gè)是上面的getFileId 函數(shù)獲取的，  
*/  
function upload_file(fileObj,start_offset,fileid)  
{  
 var xhr = new XMLHttpRequest();  
 var formData = new FormData();  
   
 var blobfile;  
   
 if(start_offset >= fileObj.size){  
  return false;  
 }  
   
 var bitrateDiv = document.getElementById("bitrate");  
 var finishDiv = document.getElementById("finish");  
 var progressBar = document.getElementById('progressbar');  
 var progressDiv = document.getElementById('percent-label');  
   
 var oldTimestamp = 0;  
 var oldLoadsize = 0;  
 var totalFilesize = fileObj.size;  
 if (totalFilesize == 0) return;  
   
 var uploadProgress = function (evt) {  
  if (evt.lengthComputable) {  
   var uploadedSize = evt.loaded + start_offset;   
   var percentComplete = Math.round(uploadedSize * 100 / totalFilesize);  
   
   var timestamp = (new Date()).valueOf();  
   var isFinish = evt.loaded == evt.total;  
   
   if (timestamp > oldTimestamp || isFinish) {  
    var duration = timestamp - oldTimestamp;  
    if (duration > 500 || isFinish) {  
     var size = evt.loaded - oldLoadsize;  
   
     var bitrate = (size * 8 / duration /1024) * 1000; //kbps  
     if (bitrate > 1000)  
      bitrate = Math.round(bitrate / 1000) + 'Mbps';  
     else  
      bitrate = Math.round(bitrate) + 'Kbps';  
   
     var finish = evt.loaded + start_offset;  
   
     if (finish > 1048576)  
      finish = (Math.round(finish / (1048576/100)) / 100).toString() + 'MB';  
     else  
      finish = (Math.round(finish / (1024/100) ) / 100).toString() + 'KB';  
   
     progressBar.value = percentComplete;  
     progressDiv.innerHTML = percentComplete.toString() + '%';  
     bitrateDiv.innerHTML = bitrate;  
     finishDiv.innerHTML = finish;  
   
     oldTimestamp = timestamp;  
     oldLoadsize = evt.loaded;  
    }  
   }  
  }  
  else {  
   progressDiv.innerHTML = 'N/A';  
  }  
 }  
   
 xhr.onreadystatechange = function(){  
    if ( xhr.readyState == 4 && xhr.status == 200 ) {  
      console.log( xhr.responseText );  
        
    }  
  else if (xhr.status == 400) {  
     
  }  
  };  
   
 var uploadComplete = function (evt) {  
  progressDiv.innerHTML = '100%';  
   
  var result = JSON.parse(evt.target.responseText);  
  if (result.result == 'success') {  
   showUploadedFile(result.files[0]);  
  }  
  else {  
   alert(result.msg);  
  }  
 }  
   
 var uploadFailed = function (evt) {  
  alert("上傳文件失??！");  
 }  
   
 var uploadCanceled = function (evt) {  
  alert("上傳被取消或者瀏覽器斷開(kāi)了連接！");  
 }  
   
 //設(shè)置超時(shí)時(shí)間,由于是上傳大文件，因此千萬(wàn)不要設(shè)置超時(shí)  
 //xhr.timeout = 20000;  
 //xhr.ontimeout = function(event){  
  //  alert('文件上傳時(shí)間太長(zhǎng)，服務(wù)器在規(guī)定的時(shí)間內(nèi)沒(méi)有響應(yīng)！');  
  //}           
   
 xhr.overrideMimeType("application/octet-stream");   
   
 var filesize = fileObj.size;  
 var blob = fileObj.slice(start_offset,filesize);  
 var fileOfBlob = new File([blob], fileObj.name);  
 //附加的文件數(shù)據(jù)應(yīng)該放在請(qǐng)求的前面  
 formData.append('filename', fileObj.name);  
 //必須將fileid信息傳送給服務(wù)器，服務(wù)器只有在獲得了fileid信息后才對(duì)文件做斷點(diǎn)續(xù)傳處理  
 formData.append('fileid', fileid);  
 //請(qǐng)將文件數(shù)據(jù)放在最后的域  
 //formData.append("file",blob, fileObj.name);  
 formData.append('file', fileOfBlob);  
   
 xhr.upload.addEventListener("progress", uploadProgress, false);  
   
 xhr.addEventListener("load", uploadComplete, false);  
 xhr.addEventListener("error", uploadFailed, false);  
 xhr.addEventListener("abort", uploadCanceled, false);  
 xhr.open('POST', upload_file_url);  
 //  
 xhr.send(formData);  
}  

為了驗(yàn)證文件斷點(diǎn)續(xù)傳，筆者做了一個(gè)簡(jiǎn)單的界面，用于顯示文件上傳的過(guò)程中的狀態(tài)信息，界面如下：

為了驗(yàn)證HTML5斷點(diǎn)續(xù)傳，可以通過(guò) github來(lái)下載 這個(gè)文件上傳服務(wù)器來(lái)進(jìn)行測(cè)試。

https://github.com/wenshui2008/UploadServer