亚洲乱码中文字幕综合,中国熟女仑乱hd,亚洲精品乱拍国产一区二区三区,一本大道卡一卡二卡三乱码全集资源,又粗又黄又硬又爽的免费视频

SpringBoot中六種批量更新Mysql的方式效率對比分析

 更新時間:2025年07月15日 16:03:14   作者:九轉成圣  
文章比較了MySQL大數(shù)據量批量更新的多種方法,指出REPLACE INTO和ON DUPLICATE KEY效率最高但存在數(shù)據風險,MyBatis-Plus分批更新較優(yōu),CASE WHEN因循環(huán)多效率較低,建議根據項目限制選擇合適方案并分批處理以避免SQL阻塞

先上結論吧,有空可以自測一下,數(shù)據量大時運行一次還時挺耗時的

效率比較

小數(shù)據量時6中批量更新效率不太明顯,根據項目選擇合適的即可,以1萬條為準做個效率比較,效率從高到低一次排名如下

  1. replace intoON DUPLICATE KEY效率最高
  2. mybatis-plus 有取巧嫌疑,因為是分批批量更新,其他幾種都是一次更新
  3. for循環(huán)憑借sql和JdbcTemplate相近,即使5萬條,10萬條效率也相近
  4. case when

然而有時候我們只能選擇case when,因為replace intoON DUPLICATE KEY公司不一定讓用,項目也不一定引入mybatis-plus,數(shù)據庫url中也不一定有allowMultiQueries=true參數(shù),算是一個兜底方案吧,不管用那種方式大數(shù)據量時都需要考慮分批

測試結構

環(huán)境信息:mysql-8.0.35-winx64,本地win 10

依次為測試次數(shù)-平均耗時-最小耗時-最大耗時,單位為毫秒

數(shù)據量forcase whenreplace intoON DUPLICATE KEYmybatis-plusJdbcTemplate
500100-61-41-1202100-66-57-426100-16-10-282100-15-10-293100-73-52-564100-87-59-1449
1000100-131-94-2018100-241-219-675100-28-18-376100-25-17-331100-117-98-599100-188-136-2397
5000100-852-735-8297100-11219-10365-13496100-95-83-569100-93-82-552100-618-517-1415100-1161-911-9334
1000010-3957-2370-1730410-45537-44465-48119100-191-171-762100-188-169-772100-1309-1085-5021100-3671-2563-31112
5000010-50106-34568-130651卡死不動100-1026-919-1868100-1062-945-1934100-8062-6711-20841100-48744-35482-191011
10000010-160170-106223-264434卡死不動10-2551-2292-368810-2503-2173-3579100-17205-14436-2488110-169771-110522-343278

心得:

sql語句for循環(huán)效率其實相當高的,因為它僅僅有一個循環(huán)體,只不過最后update語句比較多,量大了就有可能造成sql阻塞,同時在mysql的url上需要加上allowMultiQueries=true參數(shù),即 jdbc:mysql://localhost:3306/mysqlTest?characterEncoding=utf-8&allowMultiQueries=true(公司項目不一定加,我們也不一定有權限加)。

case when雖然最后只會有一條更新語句,但是xml中的循環(huán)體有點多,每一個case when 都要循環(huán)一遍list集合,所以大批量拼sql的時候會比較慢,所以效率問題嚴重。使用的時候建議分批插入(我們公司一直用的就是這種,但是必須分批)。

duplicate key update可以看出來是最快的,但是公司一般都禁止使用replace into和INSERT INTO … ON DUPLICATE KEY UPDATE,這種sql有可能會造成數(shù)據丟失和主從上表的自增id值不一致。而且用這個更新時,記得一定要加上id,而且values()括號里面放的是數(shù)據庫字段,不是java對象的屬性字段

根據效率,安全方面綜合考慮,選擇適合的很重要。

數(shù)據庫

CREATE TABLE `people` (
  `id` bigint(8) NOT NULL AUTO_INCREMENT,
  `first_name` varchar(50) NOT NULL DEFAULT '',
  `last_name` varchar(50) NOT NULL DEFAULT '',
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4

初始化測試數(shù)據

//初始化10w數(shù)據
@Test
void init10wData() {
    for (int i = 0; i < 100000; i++) {
        People people = new People();
        people.setFirstName(UUID.randomUUID().toString());
        people.setLastName(UUID.randomUUID().toString());
        peopleDAO.insert(people);
    }
}

批量修改方案

第一種 for

<!-- 批量更新第一種方法,通過接收傳進來的參數(shù)list進行循環(huán)組裝sql -->
<update id="updateBatch" parameterType="java.util.List">
    <foreach collection="list" item="item" index="index" open="" close="" separator=";">
        update people
        <set>
            <if test="item.firstName != null">
                first_name = #{item.firstName,jdbcType=VARCHAR},
            </if>
            <if test="item.lastName != null">
                last_name = #{item.lastName,jdbcType=VARCHAR},
            </if>
        </set>
        where id = #{item.id,jdbcType=BIGINT}
    </foreach>
</update>

第二種 case when

<!-- 批量更新第二種方法,通過 case when語句變相的進行批量更新 -->
<update id="updateBatch2" parameterType="java.util.List">
    update people
    <set>
        <foreach collection="list" item="item">
            <if test="item.firstName != null">
                first_name = case when id = #{item.id} then #{item.firstName} else first_name end,
            </if>
            <if test="item.lastName != null">
                last_name = case when id = #{item.id} then #{item.lastName} else last_name end,
            </if>
        </foreach>
    </set>
    where id in
    <foreach collection="list" item="item" separator="," open="(" close=")">
        #{item.id}
    </foreach>
</update>

第三種 replace into

<!-- 批量更新第三種方法,通過 replace into  -->
<update id="updateBatch3" parameterType="java.util.List">
    replace into people
    (id,first_name,last_name) values
    <foreach collection="list" index="index" item="item" separator=",">
        (#{item.id},
        #{item.firstName},
        #{item.lastName})
    </foreach>
</update>

第四種 ON DUPLICATE KEY UPDATE

<!-- 批量更新第四種方法,通過 duplicate key update  -->
<update id="updateBatch4" parameterType="java.util.List">
    insert into people
    (id,first_name,last_name) values
    <foreach collection="list" index="index" item="item" separator=",">
        (#{item.id},
        #{item.firstName},
        #{item.lastName})
    </foreach>
    ON DUPLICATE KEY UPDATE
    id=values(id),first_name=values(first_name),last_name=values(last_name)
</update>

第五種mybatis-plus提供的的批量更新

default boolean updateBatchById(Collection<T> entityList) {
    return this.updateBatchById(entityList, 1000);
}
boolean updateBatchById(Collection<T> entityList, int batchSize);

mybatis-plus提供的批量更新是分批批量更新,默認每批1000條,可以指定分批的條數(shù),每批執(zhí)行完成后提交一下事務,不加@Transactional可能會出現(xiàn)第一批更新成功了,第二批更新失敗了的情況.

第六種JdbcTemplate提供的批量更新

測試代碼

/**
 * PeopleDAO繼承基類
 */
@Mapper
@Repository
public interface PeopleDAO extends MyBatisBaseDao<People, Long> {

    void updateBatch(@Param("list") List<People> list);

    void updateBatch2(List<People> list);

    void updateBatch3(List<People> list);

    void updateBatch4(List<People> list);
}

@SpringBootTest
class PeopleMapperTest {
    @Resource
    PeopleMapper peopleMapper;
    @Resource
    PeopleService peopleService;
    @Resource
    JdbcTemplate jdbcTemplate;

    @Test
    void init10wData() {
        for (int i = 0; i < 100000; i++) {
            People people = new People();
            people.setFirstName(UUID.randomUUID().toString());
            people.setLastName(UUID.randomUUID().toString());
            peopleMapper.insert(people);
        }
    }


    @Test
    void updateBatch() {
        List<People> list = new ArrayList();
        int loop = 100;
        int count = 5000;
        Long maxCost = 0L;//最長耗時
        Long minCost = Long.valueOf(Integer.MAX_VALUE);//最短耗時
        for (int j = 0; j < count; j++) {
            People people = new People();
            people.setId(ThreadLocalRandom.current().nextInt(0, 100000));
            people.setFirstName(UUID.randomUUID().toString());
            people.setLastName(UUID.randomUUID().toString());
            list.add(people);
        }

        Long startTime = System.currentTimeMillis();
        for (int i = 0; i < loop; i++) {
            Long curStartTime = System.currentTimeMillis();
            // peopleMapper.updateBatch4(list);
            // peopleService.updateBatchById(list);
            jdbcTemplateBatchUpdate(list);
            Long curCostTime = System.currentTimeMillis() - curStartTime;
            if (maxCost < curCostTime) {
                maxCost = curCostTime;
            }
            if (minCost > curCostTime) {
                minCost = curCostTime;
            }
        }
        System.out.println(loop + "-" + (System.currentTimeMillis() - startTime) / loop + "-" + minCost + "-" + maxCost );
    }

    private void jdbcTemplateBatchUpdate (List<People> list){
        String sql = "update people set first_name=?,last_name=? where id = ?";
        List<Object[]> params = list.stream().map(item -> new Object[]{item.getFirstName(), item.getLastName(), item.getId()}).collect(Collectors.toList());
        jdbcTemplate.batchUpdate(sql,params);
    }
}

總結

以上為個人經驗,希望能給大家一個參考,也希望大家多多支持腳本之家。

相關文章

  • 如何使用RabbitMQ實現(xiàn)異步秒殺

    如何使用RabbitMQ實現(xiàn)異步秒殺

    這篇文章主要介紹了如何使用RabbitMQ實現(xiàn)異步秒殺,本文給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友參考下吧
    2025-04-04
  • Java 將文件轉為字節(jié)數(shù)組知識總結及實例詳解

    Java 將文件轉為字節(jié)數(shù)組知識總結及實例詳解

    這篇文章主要介紹了Java 將文件轉為字節(jié)數(shù)組實例詳解的相關資料,需要的朋友可以參考下
    2016-12-12
  • Java中的MultipartFile接口和File類解讀

    Java中的MultipartFile接口和File類解讀

    本文主要介紹了Java中的File類和Spring框架中的MultipartFile接口,File類提供了對文件和目錄操作的方法,如創(chuàng)建、刪除、重命名、判斷文件是否存在等,MultipartFile接口用于處理文件上傳,提供了獲取上傳文件信息和保存上傳文件的方法
    2025-02-02
  • springboot配置Hikari連接池方式

    springboot配置Hikari連接池方式

    本文介紹了在Springboot中配置Hikari連接池的具體參數(shù)和設置,涵蓋了autoCommit, connectionTimeout, idleTimeout, maxLifetime, minimumIdle, maximumPoolSize等關鍵配置項,并提供了它們的默認值、描述和條件下的重置規(guī)則
    2024-09-09
  • Spring實戰(zhàn)之使用ClassPathResource加載xml資源示例

    Spring實戰(zhàn)之使用ClassPathResource加載xml資源示例

    這篇文章主要介紹了Spring實戰(zhàn)之使用ClassPathResource加載xml資源,結合實例形式分析了Spring使用ClassPathResource加載xml資源的具體實現(xiàn)步驟與相關操作技巧,需要的朋友可以參考下
    2019-12-12
  • Spring Boot攔截器Interceptor與過濾器Filter詳細教程(示例詳解)

    Spring Boot攔截器Interceptor與過濾器Filter詳細教程(示例詳解)

    本文詳細介紹了SpringBoot中的攔截器(Interceptor)和過濾器(Filter),包括它們的定義、作用范圍、使用場景、實現(xiàn)步驟、執(zhí)行順序、常見問題及解決方案,感興趣的朋友跟隨小編一起看看吧
    2025-03-03
  • JAVA時間存儲類Period和Duration使用詳解

    JAVA時間存儲類Period和Duration使用詳解

    這篇文章主要為大家介紹了JAVA時間存儲類Period和Duration使用詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪
    2022-09-09
  • SpringLDAP連接LDAPS證書報錯問題及解決

    SpringLDAP連接LDAPS證書報錯問題及解決

    這篇文章主要介紹了SpringLDAP連接LDAPS證書報錯問題及解決方案,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教
    2024-05-05
  • 關于Feign調用服務Headers傳參問題

    關于Feign調用服務Headers傳參問題

    這篇文章主要介紹了關于Feign調用服務Headers傳參問題,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教
    2022-03-03
  • java input 調用手機相機和本地照片上傳圖片到服務器然后壓縮的方法

    java input 調用手機相機和本地照片上傳圖片到服務器然后壓縮的方法

    今天小編就為大家分享一篇java input 實現(xiàn)調用手機相機和本地照片上傳圖片到服務器然后壓縮的方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2018-08-08

最新評論