A. 如何保證多線程從mysql資料庫查詢的數據不重復
以mysql來說,可能出現臟讀、不可重復讀以及幻讀,mysql默認設置是可重復讀,即一次事務中不會讀取到不同的數據。
可以做如下操作:
1)打開兩個客戶端,均設置為RR;
2)在一個事務中,查詢某個操作查到某份數據;比如是某個欄位version=1存在數據;
3)在另一個事務中,刪除這份version=1的數據;刪除後,在2所屬的事務中查中純神詢數據是沒褲族有變化的,還是存在version=1的數據;
4)當我們在2所屬的事務中繼續更新數據,那麼會發現更新不了,明明我們就看到了這份version=1的數據;
緩存一致性:
緩存一致,與什麼一致?是與資料庫一致,對外查詢每個時刻一致;所以在針對於緩存與資料庫之間該先更新哪一個呢?可能有人覺得我先更新資料庫,再更新緩存不就行了嗎?但是有想過個問題嗎?
當用戶已經支付成功了,更新到資料庫,但是賣虧呢?你還在緩存中顯示未支付,在用戶點擊頻率很高並且資料庫壓力過大,來不及同步到緩存時,那你是不是很尷尬,這就是典型的不一致了。此時用戶再支付,那你又告訴他已經支付了,那他會把你罵死的
那該怎麼來做呢?我們可以這樣,先更新緩存再更新資料庫,那麼存在什麼問題呢?
1)緩存更新成功,但是資料庫更新失敗,而被其它的並發線程訪問到
2)緩存淘汰成功,但是資料庫更新失敗,這也會引發後期數據不一致
B. java 多線程 寫入資料庫 數據池
你這個首先得分開。
第一部分:你有很多線程在往數據池裡面寫入數據。那內么,你的線程只管寫容數據,不用理會其他的數據。
第二部分:你的另外的線程(這里可以用spring的job定時器啟動),這部分只管往資料庫寫入數據,至於寫入的條件,你可以判斷數據池的數據是否達到寫入的標准。這里的線程可以配置為啟動一次就一直運行,或者是隔多少秒繼續運行。這樣可以提高效率。
第三部分:數據池,這里的數據池一定要第一部分和第二部分的線程都能夠訪問,並且是唯一的。你可以寫一個公用的類來進行控制。
大致就是這樣的。
C. 要瘋了,怎樣用多線程向MYSQL資料庫中寫入數據
在MySQL 8.0 之前, 我們假設一下有一條爛SQL,
mysqlselect * from t1 order by rand() ;
以多個線程在跑,導致CPU被跑滿了,其他的請求只能被阻塞進不來。那這種情況怎麼辦?
大概有以下幾種解決辦法:
設置max_execution_time 來阻止太長的讀SQL。那可能存在的問題是會把所有長SQL都給KILL 掉。有些必須要執行很長時間的也會被誤殺。
自己寫個腳本檢測這類語句,比如order by rand(), 超過一定時間用Kill query thread_id 給殺掉。
那能不能不要殺掉而讓他正常運行,但是又不影響其他的請求呢?
那mysql 8.0 引入的資源組(resource group,後面簡寫微RG)可以基本上解決這類問題。
比如我可以用 RG 來在SQL層面給他限制在特定的一個CPU核上,這樣我就不管他,讓他繼續運行,如果有新的此類語句,讓他排隊好了。
為什麼說基本呢?目前只能綁定CPU資源,其他的暫時不行。
那我來演示下如何使用RG。
創建一個資源組user_ytt. 這里解釋下各個參數的含義,
type = user 表示這是一個用戶態線程,也就是前台的請求線程。如果type=system,表示後台線程,用來限制mysql自己的線程,比如Innodb purge thread,innodb read thread等等。
vcpu 代表cpu的邏輯核數,這里0-1代表前兩個核被綁定到這個RG。可以用lscpu,top等列出自己的CPU相關信息。
thread_priority 設置優先順序。user 級優先順序設置大於0。
mysqlmysql> create resource group user_ytt type = user vcpu = 0-1 thread_priority=19 enable;Query OK, 0 rows affected (0.03 sec)
RG相關信息可以從 information_schema.resource_groups 系統表裡檢索。
mysqlmysql> select * from information_schema.resource_groups;+---------------------+---------------------+------------------------+----------+-----------------+| RESOURCE_GROUP_NAME | RESOURCE_GROUP_TYPE | RESOURCE_GROUP_ENABLED | VCPU_IDS | THREAD_PRIORITY |+---------------------+---------------------+------------------------+----------+-----------------+| USR_default | USER | 1 | 0-3 | 0 || SYS_default | SYSTEM | 1 | 0-3 | 0 || user_ytt | USER | 1 | 0-1 | 19 |+---------------------+---------------------+------------------------+----------+-----------------+3 rows in set (0.00 sec)
我們來給語句select guid from t1 group by left(guid,8) order by rand() 賦予RG user_ytt。
mysql> show processlist;+-----+-----------------+-----------+------+---------+-------+------------------------+-----------------------------------------------------------+| Id | User | Host | db | Command | Time | State | Info |+-----+-----------------+-----------+------+---------+-------+------------------------+-----------------------------------------------------------+| 4 | event_scheler | localhost | NULL | Daemon | 10179 | Waiting on empty queue | NULL || 240 | root | localhost | ytt | Query | 101 | Creating sort index | select guid from t1 group by left(guid,8) order by rand() || 245 | root | localhost | ytt | Query | 0 | starting | show processlist |+-----+-----------------+-----------+------+---------+-------+------------------------+-----------------------------------------------------------+3 rows in set (0.00 sec)
找到連接240對應的thread_id。
mysqlmysql> select thread_id from performance_schema.threads where processlist_id = 240;+-----------+| thread_id |+-----------+| 278 |+-----------+1 row in set (0.00 sec)
給這個線程278賦予RG user_ytt。沒報錯就算成功了。
mysqlmysql> set resource group user_ytt for 278;Query OK, 0 rows affected (0.00 sec)
當然這個是在運維層面來做的,我們也可以在開發層面結合 MYSQL HINT 來單獨給這個語句賦予RG。比如:
mysqlmysql> select /*+ resource_group(user_ytt) */guid from t1 group by left(guid,8) order by rand()....8388602 rows in set (4 min 46.09 sec)
RG的限制:
Linux 平台上需要開啟 CAPSYSNICE 特性。比如我機器上用systemd 給mysql 服務加上
systemctl edit mysql@80 [Service]AmbientCapabilities=CAP_SYS_NICE
mysql 線程池開啟後RG失效。
freebsd,solaris 平台thread_priority 失效。
目前只能綁定CPU,不能綁定其他資源。