|
動作描述 |
使用聚集索引 |
使用非聚集索引 |
|
列經(jīng)常被分組排序 |
應(yīng) |
應(yīng) |
|
返回某范圍內(nèi)的數(shù)據(jù) |
應(yīng) |
不應(yīng) |
|
一個或極少不同值 |
不應(yīng) |
不應(yīng) |
|
小數(shù)目的不同值 |
應(yīng) |
不應(yīng) |
|
大數(shù)目的不同值 |
不應(yīng) |
應(yīng) |
|
頻繁更新的列 |
不應(yīng) |
應(yīng) |
|
外鍵列 |
應(yīng) |
應(yīng) |
|
主鍵列 |
應(yīng) |
應(yīng) |
|
頻繁修改索引列 |
不應(yīng) |
應(yīng) |
事實上，我們可以通過前面聚集索引和非聚集索引的定義的例子來理解上表。如：返回某范圍內(nèi)的數(shù)據(jù)一項。比如您的某個表有一個時間列，恰好您把聚合索引建立在了該列，這時您查詢2004年1月1日至2004年10月1日之間的全部數(shù)據(jù)時，這個速度就將是很快的，因為您的這本字典正文是按日期進行排序的，聚類索引只需要找到要檢索的所有數(shù)據(jù)中的開頭和結(jié)尾數(shù)據(jù)即可；而不像非聚集索引，必須先查到目錄中查到每一項數(shù)據(jù)對應(yīng)的頁碼，然后再根據(jù)頁碼查到具體內(nèi)容。
（三）結(jié)合實際，談索引使用的誤區(qū)
理論的目的是應(yīng)用。雖然我們剛才列出了何時應(yīng)使用聚集索引或非聚集索引，但在實踐中以上規(guī)則卻很容易被忽視或不能根據(jù)實際情況進行綜合分析。下面我們將根據(jù)在實踐中遇到的實際問題來談一下索引使用的誤區(qū)，以便于大家掌握索引建立的方法。
1、主鍵就是聚集索引
這種想法筆者認為是極端錯誤的，是對聚集索引的一種浪費。雖然SQL SERVER默認是在主鍵上建立聚集索引的。
通常，我們會在每個表中都建立一個ID列，以區(qū)分每條數(shù)據(jù)，并且這個ID列是自動增大的，步長一般為1。我們的這個辦公自動化的實例中的列Gid就是如此。此時，如果我們將這個列設(shè)為主鍵，SQL SERVER會將此列默認為聚集索引。這樣做有好處，就是可以讓您的數(shù)據(jù)在數(shù)據(jù)庫中按照ID進行物理排序，但筆者認為這樣做意義不大。
顯而易見，聚集索引的優(yōu)勢是很明顯的，而每個表中只能有一個聚集索引的規(guī)則，這使得聚集索引變得更加珍貴。
從我們前面談到的聚集索引的定義我們可以看出，使用聚集索引的最大好處就是能夠根據(jù)查詢要求，迅速縮小查詢范圍，避免全表掃描。在實際應(yīng)用中，因為ID號是自動生成的，我們并不知道每條記錄的ID號，所以我們很難在實踐中用ID號來進行查詢。這就使讓ID號這個主鍵作為聚集索引成為一種資源浪費。其次，讓每個ID號都不同的字段作為聚集索引也不符合“大數(shù)目的不同值情況下不應(yīng)建立聚合索引”規(guī)則；當然，這種情況只是針對用戶經(jīng)常修改記錄內(nèi)容，特別是索引項的時候會負作用，但對于查詢速度并沒有影響。
在辦公自動化系統(tǒng)中，無論是系統(tǒng)首頁顯示的需要用戶簽收的文件、會議還是用戶進行文件查詢等任何情況下進行數(shù)據(jù)查詢都離不開字段的是“日期”還有用戶本身的“用戶名”。
通常，辦公自動化的首頁會顯示每個用戶尚未簽收的文件或會議。雖然我們的where語句可以僅僅限制當前用戶尚未簽收的情況，但如果您的系統(tǒng)已建立了很長時間，并且數(shù)據(jù)量很大，那么，每次每個用戶打開首頁的時候都進行一次全表掃描，這樣做意義是不大的，絕大多數(shù)的用戶1個月前的文件都已經(jīng)瀏覽過了，這樣做只能徒增數(shù)據(jù)庫的開銷而已。事實上，我們完全可以讓用戶打開系統(tǒng)首頁時，數(shù)據(jù)庫僅僅查詢這個用戶近3個月來未閱覽的文件，通過“日期”這個字段來限制表掃描，提高查詢速度。如果您的辦公自動化系統(tǒng)已經(jīng)建立的2年，那么您的首頁顯示速度理論上將是原來速度8倍，甚至更快。
在這里之所以提到“理論上”三字，是因為如果您的聚集索引還是盲目地建在ID這個主鍵上時，您的查詢速度是沒有這么高的，即使您在“日期”這個字段上建立的索引（非聚合索引）。下面我們就來看一下在1000萬條數(shù)據(jù)量的情況下各種查詢的速度表現(xiàn)（3個月內(nèi)的數(shù)據(jù)為25萬條）：
（1）僅在主鍵上建立聚集索引，并且不劃分時間段：
Select gid,fariqi,neibuyonghu,title from tgongwen
用時：128470毫秒（即：128秒）
（2）在主鍵上建立聚集索引，在fariq上建立非聚集索引：
用時：
53763毫秒（54秒）（3）將聚合索引建立在日期列（fariqi）上：
用時：
2423毫秒（2秒）雖然每條語句提取出來的都是25萬條數(shù)據(jù)，各種情況的差異卻是巨大的，特別是將聚集索引建立在日期列時的差異。事實上，如果您的數(shù)據(jù)庫真的有1000萬容量的話，把主鍵建立在ID列上，就像以上的第1、2種情況，在網(wǎng)頁上的表現(xiàn)就是超時，根本就無法顯示。這也是我摒棄ID列作為聚集索引的一個最重要的因素。
得出以上速度的方法是：在各個select語句前加：declare @d datetime
set @d=getdate()
并在select語句后加：
select [語句執(zhí)行花費時間(毫秒)]=datediff(ms,@d,getdate())
2、只要建立索引就能顯著提高查詢速度
事實上，我們可以發(fā)現(xiàn)上面的例子中，第2、3條語句完全相同，且建立索引的字段也相同；不同的僅是前者在fariqi字段上建立的是非聚合索引，后者在此字段上建立的是聚合索引，但查詢速度卻有著天壤之別。所以，并非是在任何字段上簡單地建立索引就能提高查詢速度。
從建表的語句中，我們可以看到這個有著1000萬數(shù)據(jù)的表中fariqi字段有5003個不同記錄。在此字段上建立聚合索引是再合適不過了。在現(xiàn)實中，我們每天都會發(fā)幾個文件，這幾個文件的發(fā)文日期就相同，這完全符合建立聚集索引要求的：“既不能絕大多數(shù)都相同，又不能只有極少數(shù)相同”的規(guī)則。由此看來，我們建立“適當”的聚合索引對于我們提高查詢速度是非常重要的。
3、把所有需要提高查詢速度的字段都加進聚集索引，以提高查詢速度
上面已經(jīng)談到：在進行數(shù)據(jù)查詢時都離不開字段的是“日期”還有用戶本身的“用戶名”。既然這兩個字段都是如此的重要，我們可以把他們合并起來，建立一個復(fù)合索引（compound index）。
很多人認為只要把任何字段加進聚集索引，就能提高查詢速度，也有人感到迷惑：如果把復(fù)合的聚集索引字段分開查詢，那么查詢速度會減慢嗎？帶著這個問題，我們來看一下以下的查詢速度（結(jié)果集都是25萬條數(shù)據(jù)）：（日期列fariqi首先排在復(fù)合聚集索引的起始列，用戶名neibuyonghu排在后列）
（1）select gid,fariqi,neibuyonghu,title from Tgongwen where fariqi>'2004-5-5'
查詢速度：2513毫秒
（2）select gid,fariqi,neibuyonghu,title from Tgongwen where fariqi>'2004-5-5' and neibuyonghu='辦公室'
查詢速度：2516毫秒
（3）select gid,fariqi,neibuyonghu,title from Tgongwen where neibuyonghu='辦公室'
查詢速度：60280毫秒
從以上試驗中，我們可以看到如果僅用聚集索引的起始列作為查詢條件和同時用到復(fù)合聚集索引的全部列的查詢速度是幾乎一樣的，甚至比用上全部的復(fù)合索引列還要略快（在查詢結(jié)果集數(shù)目一樣的情況下）；而如果僅用復(fù)合聚集索引的非起始列作為查詢條件的話，這個索引是不起任何作用的。當然，語句1、2的查詢速度一樣是因為查詢的條目數(shù)一樣，如果復(fù)合索引的所有列都用上，而且查詢結(jié)果少的話，這樣就會形成“索引覆蓋”，因而性能可以達到最優(yōu)。同時，請記?。簾o論您是否經(jīng)常使用聚合索引的其他列，但其前導(dǎo)列一定要是使用最頻繁的列。
（四）其他書上沒有的索引使用經(jīng)驗總結(jié)
1、用聚合索引比用不是聚合索引的主鍵速度快
下面是實例語句：（都是提取25萬條數(shù)據(jù)）
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16'
使用時間：3326毫秒
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where gid=250000
使用時間：4470毫秒
這里，用聚合索引比用不是聚合索引的主鍵速度快了近1/4。
2、用聚合索引比用一般的主鍵作order by時速度快，特別是在小數(shù)據(jù)量情況下
select gid,fariqi,neibuyonghu,reader,title from Tgongwen order by fariqi
用時：12936
select gid,fariqi,neibuyonghu,reader,title from Tgongwen order by gid
用時：18843
這里，用聚合索引比用一般的主鍵作order by時，速度快了3/10。事實上，如果數(shù)據(jù)量很小的話，用聚集索引作為排序列要比使用非聚集索引速度快得明顯的多；而數(shù)據(jù)量如果很大的話，如10萬以上，則二者的速度差別不明顯。
3、使用聚合索引內(nèi)的時間段，搜索時間會按數(shù)據(jù)占整個數(shù)據(jù)表的百分比成比例減少，而無論聚合索引使用了多少個
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi>'2004-1-1'
用時：6343毫秒（提取100萬條）
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi>'2004-6-6'
用時：3170毫秒（提取50萬條）
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16'
用時：3326毫秒（和上句的結(jié)果一模一樣。如果采集的數(shù)量一樣，那么用大于號和等于號是一樣的）
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi>'2004-1-1' and fariqi'2004-6-6'
用時：3280毫秒
4 、日期列不會因為有分秒的輸入而減慢查詢速度
下面的例子中，共有100萬條數(shù)據(jù)，2004年1月1日以后的數(shù)據(jù)有50萬條，但只有兩個不同的日期，日期精確到日；之前有數(shù)據(jù)50萬條，有5000個不同的日期，日期精確到秒。
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi>'2004-1-1' order by fariqi
用時：6390毫秒
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi'2004-1-1' order by fariqi
用時：6453毫秒
（五）其他注意事項
“水可載舟，亦可覆舟”，索引也一樣。索引有助于提高檢索性能，但過多或不當?shù)乃饕矔?dǎo)致系統(tǒng)低效。因為用戶在表中每加進一個索引，數(shù)據(jù)庫就要做更多的工作。過多的索引甚至會導(dǎo)致索引碎片。
所以說，我們要建立一個“適當”的索引體系，特別是對聚合索引的創(chuàng)建，更應(yīng)精益求精，以使您的數(shù)據(jù)庫能得到高性能的發(fā)揮。
當然，在實踐中，作為一個盡職的數(shù)據(jù)庫管理員，您還要多測試一些方案，找出哪種方案效率最高、最為有效。
二、改善SQL語句
很多人不知道SQL語句在SQL SERVER中是如何執(zhí)行的，他們擔心自己所寫的SQL語句會被SQL SERVER誤解。比如：
select * from table1 where name='zhangsan' and tID > 10000
和執(zhí)行:
select * from table1 where tID > 10000 and name='zhangsan'
一些人不知道以上兩條語句的執(zhí)行效率是否一樣，因為如果簡單的從語句先后上看，這兩個語句的確是不一樣，如果tID是一個聚合索引，那么后一句僅僅從表的10000條以后的記錄中查找就行了；而前一句則要先從全表中查找看有幾個name='zhangsan'的，而后再根據(jù)限制條件條件tID>10000來提出查詢結(jié)果。
事實上，這樣的擔心是不必要的。SQL SERVER中有一個“查詢分析優(yōu)化器”，它可以計算出where子句中的搜索條件并確定哪個索引能縮小表掃描的搜索空間，也就是說，它能實現(xiàn)自動優(yōu)化。
雖然查詢優(yōu)化器可以根據(jù)where子句自動的進行查詢優(yōu)化，但大家仍然有必要了解一下“查詢優(yōu)化器”的工作原理，如非這樣，有時查詢優(yōu)化器就會不按照您的本意進行快速查詢。
在查詢分析階段，查詢優(yōu)化器查看查詢的每個階段并決定限制需要掃描的數(shù)據(jù)量是否有用。如果一個階段可以被用作一個掃描參數(shù)（SARG），那么就稱之為可優(yōu)化的，并且可以利用索引快速獲得所需數(shù)據(jù)。
SARG的定義：用于限制搜索的一個操作，因為它通常是指一個特定的匹配，一個值得范圍內(nèi)的匹配或者兩個以上條件的AND連接。形式如下：
列名 操作符 常數(shù) 或 變量>
或
常數(shù) 或 變量> 操作符列名
列名可以出現(xiàn)在操作符的一邊，而常數(shù)或變量出現(xiàn)在操作符的另一邊。如：
Name='張三'
價格>5000
5000價格
Name='張三' and 價格>5000
如果一個表達式不能滿足SARG的形式，那它就無法限制搜索的范圍了，也就是SQL SERVER必須對每一行都判斷它是否滿足WHERE子句中的所有條件。所以一個索引對于不滿足SARG形式的表達式來說是無用的。
介紹完SARG后，我們來總結(jié)一下使用SARG以及在實踐中遇到的和某些資料上結(jié)論不同的經(jīng)驗：
1、Like語句是否屬于SARG取決于所使用的通配符的類型
如：name like ‘張%' ，這就屬于SARG
而：name like ‘%張' ,就不屬于SARG。
原因是通配符%在字符串的開通使得索引無法使用。
2、or 會引起全表掃描
Name='張三' and 價格>5000 符號SARG，而：Name='張三' or 價格>5000 則不符合SARG。使用or會引起全表掃描。
3、非操作符、函數(shù)引起的不滿足SARG形式的語句
不滿足SARG形式的語句最典型的情況就是包括非操作符的語句，如：NOT、!=、>、!、!>、NOT EXISTS、NOT IN、NOT LIKE等，另外還有函數(shù)。下面就是幾個不滿足SARG形式的例子：
ABS(價格)5000
Name like ‘%三'
有些表達式，如：
WHERE 價格*2>5000
SQL SERVER也會認為是SARG，SQL SERVER會將此式轉(zhuǎn)化為：
WHERE 價格>2500/2
但我們不推薦這樣使用，因為有時SQL SERVER不能保證這種轉(zhuǎn)化與原始表達式是完全等價的。
4、IN 的作用相當與OR
語句：
Select * from table1 where tid in (2,3)
和
Select * from table1 where tid=2 or tid=3
是一樣的，都會引起全表掃描，如果tid上有索引，其索引也會失效。
5、盡量少用NOT
6、exists 和 in 的執(zhí)行效率是一樣的
很多資料上都顯示說，exists要比in的執(zhí)行效率要高，同時應(yīng)盡可能的用not exists來代替not in。但事實上，我試驗了一下，發(fā)現(xiàn)二者無論是前面帶不帶not，二者之間的執(zhí)行效率都是一樣的。因為涉及子查詢，我們試驗這次用SQL SERVER自帶的pubs數(shù)據(jù)庫。運行前我們可以把SQL SERVER的statistics I/O狀態(tài)打開。
（1）select title,price from titles where title_id in (select title_id from sales where qty>30)
該句的執(zhí)行結(jié)果為：
表 'sales'。掃描計數(shù) 18，邏輯讀 56 次，物理讀 0 次，預(yù)讀 0 次。
表 'titles'。掃描計數(shù) 1，邏輯讀 2 次，物理讀 0 次，預(yù)讀 0 次。
（2）select title,price from titles where exists (select * from sales where sales.title_id=titles.title_id and qty>30)
第二句的執(zhí)行結(jié)果為：
表 'sales'。掃描計數(shù) 18，邏輯讀 56 次，物理讀 0 次，預(yù)讀 0 次。
表 'titles'。掃描計數(shù) 1，邏輯讀 2 次，物理讀 0 次，預(yù)讀 0 次。
我們從此可以看到用exists和用in的執(zhí)行效率是一樣的。
7、用函數(shù)charindex()和前面加通配符%的LIKE執(zhí)行效率一樣
前面，我們談到，如果在LIKE前面加上通配符%，那么將會引起全表掃描，所以其執(zhí)行效率是低下的。但有的資料介紹說，用函數(shù)charindex()來代替LIKE速度會有大的提升，經(jīng)我試驗，發(fā)現(xiàn)這種說明也是錯誤的：
select gid,title,fariqi,reader from tgongwen where charindex('刑偵支隊',reader)>0 and fariqi>'2004-5-5'
用時：7秒，另外：掃描計數(shù) 4，邏輯讀 7155 次，物理讀 0 次，預(yù)讀 0 次。
select gid,title,fariqi,reader from tgongwen where reader like '%' + '刑偵支隊' + '%' and fariqi>'2004-5-5'
用時：7秒，另外：掃描計數(shù) 4，邏輯讀 7155 次，物理讀 0 次，預(yù)讀 0 次。
8、union并不絕對比or的執(zhí)行效率高
我們前面已經(jīng)談到了在where子句中使用or會引起全表掃描，一般的，我所見過的資料都是推薦這里用union來代替or。事實證明，這種說法對于大部分都是適用的。
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16' or gid>9990000
用時：68秒。掃描計數(shù) 1，邏輯讀 404008 次，物理讀 283 次，預(yù)讀 392163 次。
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16'
union
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where gid>9990000
用時：9秒。掃描計數(shù) 8，邏輯讀 67489 次，物理讀 216 次，預(yù)讀 7499 次。
看來，用union在通常情況下比用or的效率要高的多。
但經(jīng)過試驗，筆者發(fā)現(xiàn)如果or兩邊的查詢列是一樣的話，那么用union則反倒和用or的執(zhí)行速度差很多，雖然這里union掃描的是索引，而or掃描的是全表。
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16' or fariqi='2004-2-5'
用時：6423毫秒。掃描計數(shù) 2，邏輯讀 14726 次，物理讀 1 次，預(yù)讀 7176 次。
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16'
union
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-2-5'
用時：11640毫秒。掃描計數(shù) 8，邏輯讀 14806 次，物理讀 108 次，預(yù)讀 1144 次。
9、字段提取要按照“需多少、提多少”的原則，避免“select *”
我們來做一個試驗：
select top 10000 gid,fariqi,reader,title from tgongwen order by gid desc
用時：4673毫秒
select top 10000 gid,fariqi,title from tgongwen order by gid desc
用時：1376毫秒
select top 10000 gid,fariqi from tgongwen order by gid desc
用時：80毫秒
由此看來，我們每少提取一個字段，數(shù)據(jù)的提取速度就會有相應(yīng)的提升。提升的速度還要看您舍棄的字段的大小來判斷。
10、count(*)不比count(字段)慢
某些資料上說：用*會統(tǒng)計所有列，顯然要比一個世界的列名效率低。這種說法其實是沒有根據(jù)的。我們來看：
select count(*) from Tgongwen
用時：1500毫秒
select count(gid) from Tgongwen
用時：1483毫秒
select count(fariqi) from Tgongwen
用時：3140毫秒
select count(title) from Tgongwen
用時：52050毫秒
從以上可以看出，如果用count(*)和用count(主鍵)的速度是相當?shù)模?/SPAN>count(*)卻比其他任何除主鍵以外的字段匯總速度要快，而且字段越長，匯總的速度就越慢。我想，如果用count(*)， SQL SERVER可能會自動查找最小字段來匯總的。當然，如果您直接寫count(主鍵)將會來的更直接些。
11、order by按聚集索引列排序效率最高
我們來看：（gid是主鍵，fariqi是聚合索引列）
select top 10000 gid,fariqi,reader,title from tgongwen
用時：196 毫秒。 掃描計數(shù) 1，邏輯讀 289 次，物理讀 1 次，預(yù)讀 1527 次。
select top 10000 gid,fariqi,reader,title from tgongwen order by gid asc
用時：4720毫秒。 掃描計數(shù) 1，邏輯讀 41956 次，物理讀 0 次，預(yù)讀 1287 次。
select top 10000 gid,fariqi,reader,title from tgongwen order by gid desc
用時：4736毫秒。 掃描計數(shù) 1，邏輯讀 55350 次，物理讀 10 次，預(yù)讀 775 次。
select top 10000 gid,fariqi,reader,title from tgongwen order by fariqi asc
用時：173毫秒。 掃描計數(shù) 1，邏輯讀 290 次，物理讀 0 次，預(yù)讀 0 次。
select top 10000 gid,fariqi,reader,title from tgongwen order by fariqi desc
用時：156毫秒。 掃描計數(shù) 1，邏輯讀 289 次，物理讀 0 次，預(yù)讀 0 次。
從以上我們可以看出，不排序的速度以及邏輯讀次數(shù)都是和“order by 聚集索引列” 的速度是相當?shù)模@些都比“order by 非聚集索引列”的查詢速度是快得多的。
同時，按照某個字段進行排序的時候，無論是正序還是倒序，速度是基本相當?shù)摹?/SPAN>
12、高效的TOP
事實上，在查詢和提取超大容量的數(shù)據(jù)集時，影響數(shù)據(jù)庫響應(yīng)時間的最大因素不是數(shù)據(jù)查找，而是物理的I/0操作。如：
select top 10 * from (
select top 10000 gid,fariqi,title from tgongwen
where neibuyonghu='辦公室'
order by gid desc) as a
order by gid asc
這條語句，從理論上講，整條語句的執(zhí)行時間應(yīng)該比子句的執(zhí)行時間長，但事實相反。因為，子句執(zhí)行后返回的是10000條記錄，而整條語句僅返回10條語句，所以影響數(shù)據(jù)庫響應(yīng)時間最大的因素是物理I/O操作。而限制物理I/O操作此處的最有效方法之一就是使用TOP關(guān)鍵詞了。TOP關(guān)鍵詞是SQL SERVER中經(jīng)過系統(tǒng)優(yōu)化過的一個用來提取前幾條或前幾個百分比數(shù)據(jù)的詞。經(jīng)筆者在實踐中的應(yīng)用，發(fā)現(xiàn)TOP確實很好用，效率也很高。但這個詞在另外一個大型數(shù)據(jù)庫ORACLE中卻沒有，這不能說不是一個遺憾，雖然在ORACLE中可以用其他方法（如：rownumber）來解決。在以后的關(guān)于“實現(xiàn)千萬級數(shù)據(jù)的分頁顯示存儲過程”的討論中，我們就將用到TOP這個關(guān)鍵詞。
到此為止，我們上面討論了如何實現(xiàn)從大容量的數(shù)據(jù)庫中快速地查詢出您所需要的數(shù)據(jù)方法。當然，我們介紹的這些方法都是“軟”方法，在實踐中，我們還要考慮各種“硬”因素，如：網(wǎng)絡(luò)性能、服務(wù)器的性能、操作系統(tǒng)的性能，甚至網(wǎng)卡、交換機等。
三、實現(xiàn)小數(shù)據(jù)量和海量數(shù)據(jù)的通用分頁顯示存儲過程
建立一個web 應(yīng)用，分頁瀏覽功能必不可少。這個問題是數(shù)據(jù)庫處理中十分常見的問題。經(jīng)典的數(shù)據(jù)分頁方法是:ADO 紀錄集分頁法，也就是利用ADO自帶的分頁功能（利用游標）來實現(xiàn)分頁。但這種分頁方法僅適用于較小數(shù)據(jù)量的情形，因為游標本身有缺點：游標是存放在內(nèi)存中，很費內(nèi)存。游標一建立，就將相關(guān)的記錄鎖住，直到取消游標。游標提供了對特定集合中逐行掃描的手段，一般使用游標來逐行遍歷數(shù)據(jù)，根據(jù)取出數(shù)據(jù)條件的不同進行不同的操作。而對于多表和大表中定義的游標（大的數(shù)據(jù)集合）循環(huán)很容易使程序進入一個漫長的等待甚至死機。
更重要的是，對于非常大的數(shù)據(jù)模型而言，分頁檢索時，如果按照傳統(tǒng)的每次都加載整個數(shù)據(jù)源的方法是非常浪費資源的。現(xiàn)在流行的分頁方法一般是檢索頁面大小的塊區(qū)的數(shù)據(jù)，而非檢索所有的數(shù)據(jù)，然后單步執(zhí)行當前行。
最早較好地實現(xiàn)這種根據(jù)頁面大小和頁碼來提取數(shù)據(jù)的方法大概就是“俄羅斯存儲過程”。這個存儲過程用了游標，由于游標的局限性，所以這個方法并沒有得到大家的普遍認可。
后來，網(wǎng)上有人改造了此存儲過程，下面的存儲過程就是結(jié)合我們的辦公自動化實例寫的分頁存儲過程：
以上存儲過程運用了
SQL SERVER的最新技術(shù)――表變量。應(yīng)該說這個存儲過程也是一個非常優(yōu)秀的分頁存儲過程。當然，在這個過程中，您也可以把其中的表變量寫成臨時表：CREATE TABLE #Temp。但很明顯，在SQL SERVER中，用臨時表是沒有用表變量快的。所以筆者剛開始使用這個存儲過程時，感覺非常的不錯，速度也比原來的ADO的好。但后來，我又發(fā)現(xiàn)了比此方法更好的方法。筆者曾在網(wǎng)上看到了一篇小短文《從數(shù)據(jù)表中取出第n條到第m條的記錄的方法》，全文如下：
從publish 表中取出第 n 條到第 m 條的記錄：
id
為publish 表的關(guān)鍵字我當時看到這篇文章的時候，真的是精神為之一振，覺得思路非常得好。等到后來，我在作辦公自動化系統(tǒng)（ASP.NET+ C#＋SQL SERVER）的時候，忽然想起了這篇文章，我想如果把這個語句改造一下，這就可能是一個非常好的分頁存儲過程。于是我就滿網(wǎng)上找這篇文章，沒想到，文章還沒找到，卻找到了一篇根據(jù)此語句寫的一個分頁存儲過程，這個存儲過程也是目前較為流行的一種分頁存儲過程，我很后悔沒有爭先把這段文字改造成存儲過程：
其實，以上語句可以簡化為：
但這個存儲過程有一個致命的缺點，就是它含有
NOT IN字樣。雖然我可以把它改造為：即，用
not exists來代替not in，但我們前面已經(jīng)談過了，二者的執(zhí)行效率實際上是沒有區(qū)別的。既便如此，用TOP 結(jié)合NOT IN的這個方法還是比用游標要來得快一些。
雖然用not exists并不能挽救上個存儲過程的效率，但使用SQL SERVER中的TOP關(guān)鍵字卻是一個非常明智的選擇。因為分頁優(yōu)化的最終目的就是避免產(chǎn)生過大的記錄集，而我們在前面也已經(jīng)提到了TOP的優(yōu)勢，通過TOP 即可實現(xiàn)對數(shù)據(jù)量的控制。
在分頁算法中，影響我們查詢速度的關(guān)鍵因素有兩點：TOP和NOT IN。TOP可以提高我們的查詢速度，而NOT IN會減慢我們的查詢速度，所以要提高我們整個分頁算法的速度，就要徹底改造NOT IN，同其他方法來替代它。
我們知道，幾乎任何字段，我們都可以通過max(字段)或min(字段)來提取某個字段中的最大或最小值，所以如果這個字段不重復(fù)，那么就可以利用這些不重復(fù)的字段的max或min作為分水嶺，使其成為分頁算法中分開每頁的參照物。在這里，我們可以用操作符“>”或“”號來完成這個使命，使查詢語句符合SARG形式。如：
Select top 10 * from table1 where id>200
于是就有了如下分頁方案：
在選擇即不重復(fù)值，又容易分辨大小的列時，我們通常會選擇主鍵。下表列出了筆者用有著
1000萬數(shù)據(jù)的辦公自動化系統(tǒng)中的表，在以GID（GID是主鍵，但并不是聚集索引。）為排序列、提取gid,fariqi,title字段，分別以第1、10、100、500、1000、1萬、10萬、25萬、50萬頁為例，測試以上三種分頁方案的執(zhí)行速度：（單位：毫秒）頁 碼 方案1 方案2 方案3
1 60 30 76
10 46 16 63
100 1076 720 130
500 540 12943 83
1000 17110 470 250
1萬 24796 4500 140
10萬 38326 42283 1553
25萬 28140 128720 2330
50萬 121686 127846 7168
從上表中，我們可以看出，三種存儲過程在執(zhí)行100頁以下的分頁命令時，都是可以信任的，速度都很好。但第一種方案在執(zhí)行分頁1000頁以上后，速度就降了下來。第二種方案大約是在執(zhí)行分頁1萬頁以上后速度開始降了下來。而第三種方案卻始終沒有大的降勢，后勁仍然很足。
在確定了第三種分頁方案后，我們可以據(jù)此寫一個存儲過程。大家知道SQL SERVER的存儲過程是事先編譯好的SQL語句，它的執(zhí)行效率要比通過WEB頁面?zhèn)鱽淼?/SPAN>SQL語句的執(zhí)行效率要高。下面的存儲過程不僅含有分頁方案，還會根據(jù)頁面?zhèn)鱽淼膮?shù)來確定是否進行數(shù)據(jù)總數(shù)統(tǒng)計。
-- 獲取指定頁的數(shù)據(jù)
上面的這個存儲過程是一個通用的存儲過程，其注釋已寫在其中了。
在大數(shù)據(jù)量的情況下，特別是在查詢最后幾頁的時候，查詢時間一般不會超過9秒；而用其他存儲過程，在實踐中就會導(dǎo)致超時，所以這個存儲過程非常適用于大容量數(shù)據(jù)庫的查詢。
筆者希望能夠通過對以上存儲過程的解析，能給大家?guī)硪欢ǖ膯⑹?，并給工作帶來一定的效率提升，同時希望同行提出更優(yōu)秀的實時數(shù)據(jù)分頁算法。
四、聚集索引的重要性和如何選擇聚集索引
在上一節(jié)的標題中，筆者寫的是：實現(xiàn)小數(shù)據(jù)量和海量數(shù)據(jù)的通用分頁顯示存儲過程。這是因為在將本存儲過程應(yīng)用于“辦公自動化”系統(tǒng)的實踐中時，筆者發(fā)現(xiàn)這第三種存儲過程在小數(shù)據(jù)量的情況下，有如下現(xiàn)象：
1、分頁速度一般維持在1秒和3秒之間。
2、在查詢最后一頁時，速度一般為5秒至8秒，哪怕分頁總數(shù)只有3頁或30萬頁。
雖然在超大容量情況下，這個分頁的實現(xiàn)過程是很快的，但在分前幾頁時，這個1－3秒的速度比起第一種甚至沒有經(jīng)過優(yōu)化的分頁方法速度還要慢，借用戶的話說就是“還沒有ACCESS數(shù)據(jù)庫速度快”，這個認識足以導(dǎo)致用戶放棄使用您開發(fā)的系統(tǒng)。
筆者就此分析了一下，原來產(chǎn)生這種現(xiàn)象的癥結(jié)是如此的簡單，但又如此的重要：排序的字段不是聚集索引！
本篇文章的題目是：“查詢優(yōu)化及分頁算法方案”。筆者只所以把“查詢優(yōu)化”和“分頁算法”這兩個聯(lián)系不是很大的論題放在一起，就是因為二者都需要一個非常重要的東西――聚集索引。
在前面的討論中我們已經(jīng)提到了，聚集索引有兩個最大的優(yōu)勢：
1、以最快的速度縮小查詢范圍。
2、以最快的速度進行字段排序。
第1條多用在查詢優(yōu)化時，而第2條多用在進行分頁時的數(shù)據(jù)排序。
而聚集索引在每個表內(nèi)又只能建立一個，這使得聚集索引顯得更加的重要。聚集索引的挑選可以說是實現(xiàn)“查詢優(yōu)化”和“高效分頁”的最關(guān)鍵因素。
但要既使聚集索引列既符合查詢列的需要，又符合排序列的需要，這通常是一個矛盾。
筆者前面“索引”的討論中，將fariqi，即用戶發(fā)文日期作為了聚集索引的起始列，日期的精確度為“日”。這種作法的優(yōu)點，前面已經(jīng)提到了，在進行劃時間段的快速查詢中，比用ID主鍵列有很大的優(yōu)勢。
但在分頁時，由于這個聚集索引列存在著重復(fù)記錄，所以無法使用max或min來最為分頁的參照物，進而無法實現(xiàn)更為高效的排序。而如果將ID主鍵列作為聚集索引，那么聚集索引除了用以排序之外，沒有任何用處，實際上是浪費了聚集索引這個寶貴的資源。
為解決這個矛盾，筆者后來又添加了一個日期列，其默認值為getdate()。用戶在寫入記錄時，這個列自動寫入當時的時間，時間精確到毫秒。即使這樣，為了避免可能性很小的重合，還要在此列上創(chuàng)建UNIQUE約束。將此日期列作為聚集索引列。
有了這個時間型聚集索引列之后，用戶就既可以用這個列查找用戶在插入數(shù)據(jù)時的某個時間段的查詢，又可以作為唯一列來實現(xiàn)max或min，成為分頁算法的參照物。
經(jīng)過這樣的優(yōu)化，筆者發(fā)現(xiàn)，無論是大數(shù)據(jù)量的情況下還是小數(shù)據(jù)量的情況下，分頁速度一般都是幾十毫秒，甚至0毫秒。而用日期段縮小范圍的查詢速度比原來也沒有任何遲鈍。
聚集索引是如此的重要和珍貴，所以筆者總結(jié)了一下，一定要將聚集索引建立在：
1、您最頻繁使用的、用以縮小查詢范圍的字段上；
2、您最頻繁使用的、需要排序的字段上。
這個如果是我在csdn里看到的那個的話，那么這里有幾個地方說的是有問題的。
比如
“主鍵就是聚集索引
這種想法筆者認為是極端錯誤的，是對聚集索引的一種浪費。雖然SQL SERVER默認是在主鍵上建立聚集索引的?！?
我覺得應(yīng)該給主鍵加上聚集索引。
他的測試數(shù)據(jù)也有問題，同一天內(nèi)的記錄居然有25萬條，2004年5月5日的竟然達到了900萬條記錄。
這樣的測試數(shù)據(jù)就導(dǎo)致了測試結(jié)果的普遍性。
也就是說他的測試產(chǎn)生的結(jié)論可能只適合1000萬條記錄、不平均分布的情況，卻不適合幾十萬條記錄、平均分布的情況。
