Part1前言

最近由于筆者所在的研發(fā)集團(tuán)產(chǎn)品需要，需要支持高性能的大文件（大都數(shù)是4GB以上）的http上傳，并且要求支持http斷點(diǎn)續(xù)傳。筆者在以前的博客如何實(shí)現(xiàn)支持大文件的高性能HTTP文件上傳服務(wù)器已經(jīng)介紹了實(shí)現(xiàn)大文件上傳的一些基本概念，其實(shí)非常簡單，這里在簡要?dú)w納一下，方便記憶：

服務(wù)器端由C語言實(shí)現(xiàn)，而不是用java、PHP這種解釋型語言來實(shí)現(xiàn)；服務(wù)器端即時(shí)寫入硬盤，因此無需再次調(diào)用move_uploaded_file、InputStreamReader 這種需要緩存的技術(shù)來避免服務(wù)器內(nèi)存占用與瀏覽器請(qǐng)求超時(shí)；支持HTML5與IFRAME（針對(duì)老瀏覽器），并且支持獲取文件上傳進(jìn)度。為了更好的適應(yīng)當(dāng)前的移動(dòng)互聯(lián)網(wǎng)，要求對(duì)上傳服務(wù)支持?jǐn)帱c(diǎn)續(xù)傳，斷線重連。因?yàn)橐苿?dòng)互聯(lián)網(wǎng)并不非常穩(wěn)定；再者，上傳一個(gè)大文件發(fā)生異常掉線的可能性非常大，為了避免重新上傳，支持?jǐn)帱c(diǎn)續(xù)傳就變得非常必要了。

Part2實(shí)現(xiàn)思路

支持?jǐn)帱c(diǎn)續(xù)傳的思路是：

• 客戶端（通常是瀏覽器）向服務(wù)器端上傳某個(gè)文件，服務(wù)器端不斷記錄上傳的進(jìn)度，如果一旦掉線或發(fā)生其它異常，客戶端可以向服務(wù)器查詢某個(gè)文件已經(jīng)上傳的狀態(tài)，從上次上傳的文件位置接著上傳。

• 網(wǎng)上也有大師采用分片文件上傳方式來實(shí)現(xiàn)大文件上傳，方法是將文件切成小片，例如4MB一個(gè)片段，服務(wù)器端每次接收一小片文件保存成一個(gè)臨時(shí)文件，等待所有片段傳輸完畢后，再執(zhí)行合并。筆者認(rèn)為，如果原始文件足夠小，這種方式是可以的，但一旦文件有幾百兆或者幾個(gè)GB或者幾十個(gè)GB，則合并文件的時(shí)間會(huì)非常長，常常導(dǎo)致瀏覽器響應(yīng)超時(shí)或服務(wù)器阻塞。

如果自己實(shí)現(xiàn)獨(dú)立客戶端（或?yàn)g覽器的ActiveX插件）來上傳文件，則支持?jǐn)帱c(diǎn)續(xù)傳將是一件非常簡單的事情，只需在客戶端記錄文件上傳狀態(tài)。而支持瀏覽器斷點(diǎn)續(xù)傳（無需安裝第三方插件）一般來說是要比自己做獨(dú)立客戶端上傳難度大一些，但也不難。

我的實(shí)現(xiàn)思路如下：

1瀏覽器在上傳某個(gè)文件時(shí)候，先給這個(gè)文件生成一個(gè)HASH值，必須在瀏覽器端生成這個(gè)HASH值。

不能單循地依據(jù)文件名來查詢文件上傳記錄，文件名的重復(fù)性很大，文件名 + 文件尺寸組成的值重復(fù)性縮小，如果再加上文件修改時(shí)間，則重復(fù)性進(jìn)一步縮小，如果再加上一個(gè)瀏覽器的 ID可以進(jìn)一步縮小重復(fù)性沖突。最好的HASH值的計(jì)算方法是用文件的內(nèi)容進(jìn)行MD5計(jì)算，但計(jì)算量極大（其實(shí)也沒有必要這么做），過多的耗時(shí)會(huì)影響上傳的體驗(yàn)。

基于上述理由，我的HASH值計(jì)算思路如下：

1. 首先給瀏覽器賦予一個(gè)ID，這個(gè)ID保存在Cookie里；
2. 瀏覽器的 ID+ 文件的修改時(shí)間 + 文件名 + 文件尺寸 的結(jié)果進(jìn)行MD5來計(jì)算一個(gè)文件的HASH值；
3. 瀏覽器的ID 是系統(tǒng)在瀏覽器訪問文件上傳站點(diǎn)時(shí)自動(dòng)給瀏覽器授予的。

//簡單的Cookie幫助函數(shù)
function?setCookie(cname,cvalue,exdays)
{
var?d?=?new?Date();
d.setTime(d.getTime()+(exdays*24*60*60*1000));
var?expires?=?"expires="+d.toGMTString();
document.cookie?=?cname?+?"="?+?cvalue?+?";?"?+?expires;
}

function?getCookie(cname)
{
var?name?=?cname?+?"=";
var?ca?=?document.cookie.split(';');
for(var?i=0;?i{
var?c?=?ca[i].trim();
if?(c.indexOf(name)==0)?return?c.substring(name.length,c.length);
}
return?"";
}
//
//簡單的文件HASH值計(jì)算，如果您不是十分考究，應(yīng)該可以用于產(chǎn)品。
//由于計(jì)算文件HASH值用到了多種數(shù)據(jù)，因此在HYFileUploader系統(tǒng)范圍內(nèi)發(fā)生HASH沖突的可能性應(yīng)該非常小，應(yīng)該可以放心使用。
//獲取文件的ID可以用任何算法來實(shí)現(xiàn)，只要保證做到同一文件的ID是相同的即可，獲取的ID長度不要超過32字節(jié)
//
function?getFileId?(file)
{
//給瀏覽器授予一個(gè)唯一的ID用于區(qū)分不同的瀏覽器實(shí)例（不同機(jī)器或者相同機(jī)器不同廠家的瀏覽器）
var?clientid?=?getCookie("HUAYIUPLOAD");
if?(clientid?==?"")?{
//用一個(gè)隨機(jī)值來做瀏覽器的ID，將作為文件HASH值的一部分
var?rand?=?parseInt(Math.random()?*?1000);
var?t?=?(new?Date()).getTime();
clientid?=rand+'T'+t;

setCookie("HUAYIUPLOAD",clientid,365);
}

var?info?=?clientid;
if?(file.lastModified)
????info?+=?file.lastModified;
if?(file.name)
????info?+=?file.name;
if?(file.size)
????info?+=?file.size;
//https://cdn.bootcss.com/blueimp-md5/2.10.0/js/md5.min.js
var?fileid?=?md5(info);
return?fileid;
}

筆者認(rèn)為：不必通過讀取文件的內(nèi)容來計(jì)算HASH值，這樣會(huì)非常慢的。如果確實(shí)需要實(shí)現(xiàn)HTTP秒傳，可能得這么做，這樣如果不同的人上傳的文件內(nèi)容一致，就可避免重復(fù)上傳，直接返回結(jié)果即可。

只所以給瀏覽器賦予一個(gè)ID，這樣可以進(jìn)一步避免別的計(jì)算機(jī)的同名同尺寸文件的HASH值沖突。

2查詢文件的HASH值

在文件上傳支持，先通過文件的HASH值從上傳服務(wù)器查詢文件的上傳進(jìn)度信息，然后從上傳進(jìn)度位置開始上傳，代碼如下：

var?fileObj?=?currentfile;
var?fileid?=?getFileId(fileObj);
var?t?=?(new?Date()).getTime();
//通過以下URL獲取文件的斷點(diǎn)續(xù)傳信息，必須的參數(shù)為fileid，后面追加t參數(shù)是避免瀏覽器緩存
var?url?=?resume_info_url?+?'?fileid='+fileid?+?'&t='+t;

var?ajax?=?new?XMLHttpRequest();

ajax.onreadystatechange?=?function?()?{?
????if(this.readyState?==?4){
????????if?(this.status?==?200){
????????????var?response?=?this.responseText;
????????????
????????????var?result?=?JSON.parse(response);
????????????if?(!result)?{
????????????????alert('服務(wù)器返回的數(shù)據(jù)不正確，可能是不兼容的服務(wù)器');
????????????????return;
????????????}
????????????//斷點(diǎn)續(xù)傳信息返回的文件對(duì)象包含已經(jīng)上傳的尺寸
????????????var?uploadedBytes?=?result.file?&&?result.file.size;
????????????if?(!result.file.finished?&&?uploadedBytes?????????????????upload_file(fileObj,uploadedBytes,fileid);
????????????}
????????????else?{
????????????????//文件已經(jīng)上傳完成了，就不要再上傳了，直接返回結(jié)果就可以了
????????????????showUploadedFile(result.file);
????????????????//模擬進(jìn)度完成
????????????????//var?progressBar?=?document.getElementById('progressbar');
????????????????//progressBar.value?=?100;
????????????}
????????????
????????}else?{
????????????alert('獲取文件斷點(diǎn)續(xù)傳信息失敗');
????????}??
????}?
}




ajax.open('get',url,true);
ajax.send(null);

以上是通過 jQuery-file-upload組件的實(shí)現(xiàn)，通過原始Javascript的實(shí)現(xiàn)代碼請(qǐng)參見demos目錄的h4resume.html樣本代碼。

3執(zhí)行上傳

在查詢完文件的斷點(diǎn)續(xù)傳信息后，如果文件確實(shí)以前已經(jīng)上傳，服務(wù)器將返回已經(jīng)上傳過的文件尺寸，我們接著從已經(jīng)上傳的文件尺寸位置開始上傳數(shù)據(jù)即可。

html5的File對(duì)象的 slice 可以用于從文件切取片段來上傳。

定義和用法

slice() 方法可提取字文件的某個(gè)部分，并以新的字符串返回被提取的部分。

語法

File.slice(start,end)

實(shí)現(xiàn)分片文件上傳的代碼如下：

/*
文件上傳處理代碼
fileObj?:?html5?File?對(duì)象
start_offset:?上傳的數(shù)據(jù)相對(duì)于文件頭的起始位置
fileid:?文件的ID，這個(gè)是上面的getFileId?函數(shù)獲取的，
*/
function?upload_file(fileObj,start_offset,fileid)
{
var?xhr?=?new?XMLHttpRequest();
var?formData?=?new?FormData();

var?blobfile;

if(start_offset?>=?fileObj.size){
?return?false;
}

var?bitrateDiv?=?document.getElementById("bitrate");
var?finishDiv?=?document.getElementById("finish");
var?progressBar?=?document.getElementById('progressbar');
var?progressDiv?=?document.getElementById('percent-label');

var?oldTimestamp?=?0;
var?oldLoadsize?=?0;
var?totalFilesize?=?fileObj.size;
if?(totalFilesize?==?0)?return;

var?uploadProgress?=?function?(evt)?{
?if?(evt.lengthComputable)?{
??var?uploadedSize?=?evt.loaded?+?start_offset;?
??var?percentComplete?=?Math.round(uploadedSize?*?100?/?totalFilesize);

??var?timestamp?=?(new?Date()).valueOf();
??var?isFinish?=?evt.loaded?==?evt.total;

??if?(timestamp?>?oldTimestamp?||?isFinish)?{
???var?duration?=?timestamp?-?oldTimestamp;
???if?(duration?>?500?||?isFinish)?{
????var?size?=?evt.loaded?-?oldLoadsize;

????var?bitrate?=?(size?*?8?/?duration?/1024)?*?1000;?//kbps
????if?(bitrate?>?1000)
?????bitrate?=?Math.round(bitrate?/?1000)?+?'Mbps';
????else
?????bitrate?=?Math.round(bitrate)?+?'Kbps';

????var?finish?=?evt.loaded?+?start_offset;

????if?(finish?>?1048576)
?????finish?=?(Math.round(finish?/?(1048576/100))?/?100).toString()?+?'MB';
????else
?????finish?=?(Math.round(finish?/?(1024/100)?)?/?100).toString()?+?'KB';

????progressBar.value?=?percentComplete;
????progressDiv.innerHTML?=?percentComplete.toString()?+?'%';
????bitrateDiv.innerHTML?=?bitrate;
????finishDiv.innerHTML?=?finish;

????oldTimestamp?=?timestamp;
????oldLoadsize?=?evt.loaded;
???}
??}
?}
?else?{
??progressDiv.innerHTML?=?'N/A';
?}
}

xhr.onreadystatechange?=?function(){
????if?(?xhr.readyState?==?4?&&?xhr.status?==?200?)?{
??????console.log(?xhr.responseText?);

????}
else?if?(xhr.status?==?400)?{
}
};
var?uploadComplete?=?function?(evt)?{
?progressDiv.innerHTML?=?'100%';

?var?result?=?JSON.parse(evt.target.responseText);
?if?(result.result?==?'success')?{
??showUploadedFile(result.files[0]);
?}
?else?{
??alert(result.msg);
?}
}

var?uploadFailed?=?function?(evt)?{
?alert("上傳文件失??！");
}

var?uploadCanceled?=?function?(evt)?{
?alert("上傳被取消或者瀏覽器斷開了連接！");
}

//設(shè)置超時(shí)時(shí)間,由于是上傳大文件，因此千萬不要設(shè)置超時(shí)
//xhr.timeout?=?20000;
//xhr.ontimeout?=?function(event){
??//? alert('文件上傳時(shí)間太長，服務(wù)器在規(guī)定的時(shí)間內(nèi)沒有響應(yīng)！');
??//}

xhr.overrideMimeType("application/octet-stream");?

var?filesize?=?fileObj.size;
var?blob?=?fileObj.slice(start_offset,filesize);
var?fileOfBlob?=?new?File([blob],?fileObj.name);
//附加的文件數(shù)據(jù)應(yīng)該放在請(qǐng)求的前面
formData.append('filename',?fileObj.name);
//必須將fileid信息傳送給服務(wù)器，服務(wù)器只有在獲得了fileid信息后才對(duì)文件做斷點(diǎn)續(xù)傳處理
formData.append('fileid',?fileid);
//請(qǐng)將文件數(shù)據(jù)放在最后的域
//formData.append("file",blob,?fileObj.name);
formData.append('file',?fileOfBlob);

xhr.upload.addEventListener("progress",?uploadProgress,?false);

xhr.addEventListener("load",?uploadComplete,?false);
xhr.addEventListener("error",?uploadFailed,?false);
xhr.addEventListener("abort",?uploadCanceled,?false);
xhr.open('POST',?upload_file_url);
//
xhr.send(formData);
}

為了驗(yàn)證文件斷點(diǎn)續(xù)傳，筆者做了一個(gè)簡單的界面，用于顯示文件上傳的過程中的狀態(tài)信息，界面如下：通過HTML可以計(jì)算文件上傳的進(jìn)度，文件已經(jīng)上傳的尺寸，文件上傳的位率等信息，如果在上傳過程中出現(xiàn)任何異常，則重新上傳即可，已經(jīng)上傳的部分將不需要重新上傳。

Part3驗(yàn)證

為了驗(yàn)證HTML5斷點(diǎn)續(xù)傳，可以通過 github來下載 這個(gè)文件上傳服務(wù)器來進(jìn)行測試。

https://github.com/wenshui2008/UploadServer