Hibernate的批量處理與內(nèi)存溢出_第1頁
Hibernate的批量處理與內(nèi)存溢出_第2頁
Hibernate的批量處理與內(nèi)存溢出_第3頁
Hibernate的批量處理與內(nèi)存溢出_第4頁
全文預(yù)覽已結(jié)束

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

批量插入在項目的開發(fā)過程之中,由于項目需求,我們常常需要把大批量的數(shù)據(jù)插入到數(shù)據(jù)庫。數(shù)量級有萬級、十萬級、百萬級、甚至千萬級別的。如此數(shù)量級別的數(shù)據(jù)用Hibernate做插入操作,就可能會發(fā)生異常,常見的異常是OutOfMemoryError(內(nèi)存溢出異常)。首先,我們簡單來回顧一下Hibernate插入操作的機制。Hibernate要對它內(nèi)部緩存進行維護,當我們執(zhí)行插入操作時,就會把要操作的對象全部放到自身的內(nèi)部緩存來進行管理。談到Hibernate的緩存,Hibernate有內(nèi)部緩存與二級緩存之說。由于Hibernate對這兩種緩存有著不同的管理機制,對于二級緩存,我們可以對它的大小進行相關(guān)配置,而對于內(nèi)部緩存,Hibernate就采取了“放任自流”的態(tài)度了,對它的容量并沒有限制?,F(xiàn)在癥結(jié)找到了,我們做海量數(shù)據(jù)插入的時候,生成這么多的對象就會被納入內(nèi)部緩存(內(nèi)部緩存是在內(nèi)存中做緩存的),這樣你的系統(tǒng)內(nèi)存就會一點一點的被蠶食,如果最后系統(tǒng)被擠“炸”了,也就在情理之中了。我們想想如何較好的處理這個問題呢?有的開發(fā)條件又必須使用Hibernate來處理,當然有的項目比較靈活,可以去尋求其他的方法。筆者在這里推薦兩種方法:(1):優(yōu)化Hibernate,程序上采用分段插入及時清除緩存的方法。(2):繞過HibernateAPI,直接通過JDBCAPI來做批量插入,這個方法性能上是最好的,也是最快的。對于上述中的方法1,其基本是思路為:優(yōu)化Hibernate,在配置文件中設(shè)置hibernate.jdbc.batch_size參數(shù),來指定每次提交SQL的數(shù)量;程序上采用分段插入及時清除緩存的方法(Session實現(xiàn)了異步write-behind,它允許Hibernate顯式地寫操作的批處理),也就是每插入一定量的數(shù)據(jù)后及時的把它們從內(nèi)部緩存中清除掉,釋放占用的內(nèi)存。設(shè)置hibernate.jdbc.batch_size參數(shù),可參考如下配置。<hibernate-configuration><session-factory>〈propertyname=”hibernate.jdbc.batch_size”>50</property><session-factory><hibernate-configuration>配置hibernate.jdbc.batch_size參數(shù)的原因就是盡量少讀數(shù)據(jù)庫,hibernate.jdbc.batch_size參數(shù)值越大,讀數(shù)據(jù)庫的次數(shù)越少,速度越快。從上面的配置可以看出,Hibernate是等到程序積累到了50個SQL之后再批量提交。筆者也在想,hibernate.jdbc.batch_size參數(shù)值也可能不是設(shè)置得越大越好,從性能角度上講還有待商榷。這要考慮實際情況,酌情設(shè)置,一般情形設(shè)置30、50就可以滿足需求了。程序?qū)崿F(xiàn)方面,筆者以插入10000條數(shù)據(jù)為例子,如Sessionsession=HibernateUtil.currentSession();Transatciontx=session.beginTransaction();for(inti=0;i<10000;i++)(Studentst=newStudent();st.setName(“feifei”);session.save(st);if(i%50==0)//以每50個數(shù)據(jù)作為一個處理單元(session.flush();//保持與數(shù)據(jù)庫數(shù)據(jù)的同步session.clear();//清除內(nèi)部緩存的全部數(shù)據(jù),及時釋放出占用的內(nèi)存}}mit();在一定的數(shù)據(jù)規(guī)模下,這種做法可以把系統(tǒng)內(nèi)存資源維持在一個相對穩(wěn)定的范圍。注意:前面提到二級緩存,筆者在這里有必要再提一下。如果啟用了二級緩存,從機制上講Hibernate為了維護二級緩存,我們在做插入、更新、刪除操作時,Hibernate都會往二級緩存充入相應(yīng)的數(shù)據(jù)。性能上就會有很大損失,所以筆者建議在批處理情況下禁用二級緩存。對于方法2,采用傳統(tǒng)的JDBC的批處理,使用JDBCAPI來處理。些方法請參照java批處理自執(zhí)行SQL看看上面的代碼,是不是總覺得有不妥的地方?對,沒發(fā)現(xiàn)么!這還是JDBC的傳統(tǒng)編程,沒有一點Hibernate味道。可以對以上的代碼修改成下面這樣:Transactiontx=session.beginTransaction();//使用Hibernate事務(wù)處理邊界Connectionconn=session.connection();PrepareStatementstmt二conn.prepareStatement(“insertintoT_STUDENT(name)values(?)”);for(intj=0;j++;j<200){for(inti=0;i++;j<50)(stmt.setString(1,”feifei”);}}stmt.executeUpdate();mit();〃使用Hibernate事務(wù)處理邊界這樣改動就很有Hibernate的味道了。筆者經(jīng)過測試,采用JDBCAPI來做批量處理,性能上比使用HibernateAPI要高將近10倍,性能上JDBC占優(yōu)這是無疑的。批量更新與刪除Hibernate2中,對于批量更新操作,Hibernate是將符合要求的數(shù)據(jù)查出來,然后再做更新操作。批量刪除也是這樣,先把符合條件的數(shù)據(jù)查出來,然后再做刪除操作。這樣有兩個大缺點::占用大量的內(nèi)存。:處理海量數(shù)據(jù)的時候,執(zhí)行update/delete語句就是海量了,而且一條update/delete語句只能操作一個對象,這樣頻繁的操作數(shù)據(jù)庫,性能低下應(yīng)該是可想而知的了。Hibernate3發(fā)布后,對批量更新/刪除操作引入了bulkupdate/delete,其原理就是通過一條HQL語句完成批量更新/刪除操作,很類似JDBC的批量更新/刪除操作。在性能上,比Hibernate2的批量更新/刪除有很大的提升。Transactiontx=session.beginSession();StringHQL=”deleteSTUDENT”;Queryquery二session.createQuery(HQL);intsize二query.executeUpdate();mit();控制臺輸出了也就一條刪除語句Hibernate:deletefromT_STUDENT,語句執(zhí)行少了,性能上也與使用JDBC相差無幾,是一個提升性能很好的方法。當然為了有更好的性能,筆者建議批量更新與刪除操作還是使用JDBC,方法以及基本的知識點與上面的批量插入方法2基本相同,這里就不在冗述。筆者這里再提供一個方法,就是從數(shù)據(jù)庫端來考慮提升性能,在Hibernate程序端調(diào)用存儲過程。存儲過程在數(shù)據(jù)庫端運行,速度更快。以批量更新為例,給出參考代碼。首先在數(shù)據(jù)庫端建立名為batchUpdateStudent存儲過程:createorreplaceprodurebatchUpdateStudent(ainnumber)asbeginupdateSTUDENTsetAGE=AGE+1whereAGE>a;end;調(diào)用代碼如下:Transactiontx=session.beginSession();Connectionconn=session.connection();Stringpd=”{callbatchUpdateStudent(?)}”;CallableStatementcstmt二conn.PrepareCall(pd);cstmt.setInt(1,20);//把年齡這個參數(shù)設(shè)為20mit();觀察上面的代碼,也是繞過HibernateAPI,使用JDBCAPI來調(diào)用存儲過程,使用的還是Hibernate的事務(wù)

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論