強烈推薦MyBatis?三種批量插入方式的比較
前言
數(shù)據(jù)庫使用的是SQLServer,JDK版本1.8,運行在SpringBoot環(huán)境下 對比3種可用的方式:
- 反復執(zhí)行單條插入語句
- xml拼接sql
- 批處理執(zhí)行
先說結(jié)論:少量插入請使用反復插入單條數(shù)據(jù),方便。數(shù)量較多請使用批處理方式。(可以考慮以有需求的插入數(shù)據(jù)量20條左右為界吧,在我的測試和數(shù)據(jù)庫環(huán)境下耗時都是百毫秒級的,方便最重要)
無論何時都不用xml拼接sql的方式。
代碼
拼接SQL的xml
newId()是sqlserver生成UUID的函數(shù),與本文內(nèi)容無關(guān)
<insert?id="insertByBatch"?parameterType="java.util.List"> ????INSERT?INTO?tb_item?VALUES ????<foreach?collection="list"?item="item"?index="index"?separator=","> ????????(newId(),#{item.uniqueCode},#{item.projectId},#{item.name},#{item.type},#{item.packageUnique}, ????????#{item.isPackage},#{item.factoryId},#{item.projectName},#{item.spec},#{item.length},#{item.weight}, ????????#{item.material},#{item.setupPosition},#{item.areaPosition},#{item.bottomHeight},#{item.topHeight}, ????????#{item.serialNumber},#{item.createTime}</foreach> </insert> Mapper接口Mapper?是?mybatis插件tk.Mapper?的接口,與本文內(nèi)容關(guān)系不大 public?interface?ItemMapper?extends?Mapper<Item>?{ ????int?insertByBatch(List<Item>?itemList); }
Service類
@Service public?class?ItemService?{ ????@Autowired ????private?ItemMapper?itemMapper; ????@Autowired ????private?SqlSessionFactory?sqlSessionFactory; ????//批處理 ????@Transactional ????public?void?add(List<Item>?itemList)?{ ????????SqlSession?session?=?sqlSessionFactory.openSession(ExecutorType.BATCH,false); ????????ItemMapper?mapper?=?session.getMapper(ItemMapper.class); ????????for?(int?i?=?0;?i?<?itemList.size();?i++)?{ ????????????mapper.insertSelective(itemList.get(i)); ????????????if(i%1000==999){//每1000條提交一次防止內(nèi)存溢出 ????????????????session.commit(); ????????????????session.clearCache(); ????????????} ????????} ????????session.commit(); ????????session.clearCache(); ????} ????//拼接sql ????@Transactional ????public?void?add1(List<Item>?itemList)?{ ????????itemList.insertByBatch(itemMapper::insertSelective); ????} ????//循環(huán)插入 ????@Transactional ????public?void?add2(List<Item>?itemList)?{ ????????itemList.forEach(itemMapper::insertSelective); ????} }
測試類
@RunWith(SpringRunner.class) @SpringBootTest(webEnvironment?=?SpringBootTest.WebEnvironment.RANDOM_PORT,?classes?=?ApplicationBoot.class) public?class?ItemServiceTest?{ ????@Autowired ????ItemService?itemService; ????private?List<Item>?itemList?=?new?ArrayList<>(); ????//生成測試List ????@Before? ????public?void?createList(){ ????????String?json?="{\n"?+ ????????????????"????????\"areaPosition\":?\"TEST\",\n"?+ ????????????????"????????\"bottomHeight\":?5,\n"?+ ????????????????"????????\"factoryId\":?\"0\",\n"?+ ????????????????"????????\"length\":?233.233,\n"?+ ????????????????"????????\"material\":?\"Q345B\",\n"?+ ????????????????"????????\"name\":?\"TEST\",\n"?+ ????????????????"????????\"package\":?false,\n"?+ ????????????????"????????\"packageUnique\":?\"45f8a0ba0bf048839df85f32ebe5bb81\",\n"?+ ????????????????"????????\"projectId\":?\"094b5eb5e0384bb1aaa822880a428b6d\",\n"?+ ????????????????"????????\"projectName\":?\"項目_TEST1\",\n"?+ ????????????????"????????\"serialNumber\":?\"1/2\",\n"?+ ????????????????"????????\"setupPosition\":?\"1B柱\",\n"?+ ????????????????"????????\"spec\":?\"200X200X200\",\n"?+ ????????????????"????????\"topHeight\":?10,\n"?+ ????????????????"????????\"type\":?\"Steel\",\n"?+ ????????????????"????????\"uniqueCode\":?\"12344312\",\n"?+ ????????????????"????????\"weight\":?100\n"?+ ????????????????"????}"; ????????Item?test1?=?JSON.parseObject(json,Item.class); ????????test1.setCreateTime(new?Date()); ????????for?(int?i?=?0;?i?<?1000;?i++)?{//測試會修改此數(shù)量 ????????????itemList.add(test1); ????????} ????} ?????//批處理 ????@Test ????@Transactional ????public?void?tesInsert()?{ ????????itemService.add(itemList); ????} ????//拼接字符串 ????@Test ????@Transactional ????public?void?testInsert1(){ ????????itemService.add1(itemList); ????} ????//循環(huán)插入 ????@Test ????@Transactional ????public?void?testInsert2(){ ????????itemService.add2(itemList); ????} }
測試結(jié)果
10條 25條數(shù)據(jù)插入經(jīng)多次測試,波動性較大,但基本都在百毫秒級別
其中 拼接sql方式在插入500條和1000條時報錯(似乎是因為sql語句過長,此條跟數(shù)據(jù)庫類型有關(guān),未做其他數(shù)據(jù)庫的測試):com.microsoft.sqlserver.jdbc.SQLServerException
: 傳入的表格格式數(shù)據(jù)流(TDS)遠程過程調(diào)用(RPC)協(xié)議流不正確,此RPC請求中提供了過多的參數(shù),最多應為2100
可以發(fā)現(xiàn)
- 循環(huán)插入的時間復雜度是 O(n),并且常數(shù)C很大
- 拼接SQL插入的時間復雜度(應該)是 O(logn),但是成功完成次數(shù)不多,不確定
- 批處理的效率的時間復雜度是 O(logn),并且常數(shù)C也比較小
結(jié)論
循環(huán)插入單條數(shù)據(jù)雖然效率極低,但是代碼量極少,在使用tk.Mapper的插件情況下,僅需代碼,:
@Transactional public?void?add1(List<Item>?itemList)?{ ????itemList.forEach(itemMapper::insertSelective); }
因此,在需求插入數(shù)據(jù)數(shù)量不多的情況下肯定用它了。
xml拼接sql是最不推薦的方式,使用時有大段的xml和sql語句要寫,很容易出錯,工作效率很低。更關(guān)鍵點是,雖然效率尚可,但是真正需要效率的時候你掛了,要你何用?
批處理執(zhí)行是有大數(shù)據(jù)量插入時推薦的做法,使用起來也比較方便。
到此這篇關(guān)于強烈推薦MyBatis 三種批量插入方式的比較的文章就介紹到這了,更多相關(guān)MyBatis批量插入內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
SpringBoot請求參數(shù)傳遞與接收說明小結(jié)
這篇文章主要介紹了SpringBoot請求參數(shù)傳遞與接收,本文通過示例代碼給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2022-12-12基于JavaBean編輯器讀取peroperties文件的實例
下面小編就為大家?guī)硪黄贘avaBean編輯器讀取peroperties文件的實例。小編覺得挺不錯的,現(xiàn)在就分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2017-10-10Java數(shù)據(jù)結(jié)構(gòu)之順序表和鏈表精解
我在學習完順序表后一直對順序表和鏈表的概念存在一些疑問,這里給出一些分析和看法,通讀本篇對大家的學習或工作具有一定的價值,需要的朋友可以參考下2021-09-09深入淺析Mybatis與Hibernate的區(qū)別與用途
這篇文章主要介紹了Mybatis與Hibernate的區(qū)別與用途的相關(guān)資料,需要的朋友可以參考下2017-10-10