當前位置:首頁 » 編程語言 » sql排名開窗函數
擴展閱讀
webinf下怎麼引入js 2023-08-31 21:54:13
堡壘機怎麼打開web 2023-08-31 21:54:11

sql排名開窗函數

發布時間: 2023-02-08 14:13:27

sql server 開窗函數里可以加聚集函數嘛類似rank() over (order by sum(distinct a) )

CASE WHEN wst.score - 60 < 0 THEN ---當wst.score <60的時候執行開窗函數RANK() OVER
RANK() OVER (PARTITION BY 當wst.score <60的時候,如果wst.score >=60直為null,否則的話當作'A',--〉最終結果是按照wst.score <60(也就是null) 和 'A'分組
CASE WHEN wst.score - 60 >= 0 THEN NULL
ELSE 'A' END ORDER BY wst.score DESC
)
END
整個就是
1)如果wst.score <60
1.1按照 <60('A'). >=60(NULL)分組,注意,此時分組的是A和null
1.2按照A和NULL分組後按照wst.score組內降序排列
所以說你那個SQL語句性能很不好,可以優化的。你可以給個例子和你想要得結果,我可以幫你看看能否改進。
另外,你最外層那個CASE沒有else,程序很不健壯哦。。。

❷ SQL Server中的開窗函數是什麼

開窗函數(OVER子句)用於為行定義一個窗口(這里的窗口是指運算將要操作的行的集合),它對一組值進行操作,不需要使用GROUP BY子句對數據進行分組,能夠在同一行
中同時返回基礎行的列和聚合列。舉例來說,如果要得到一個年級所有班級所有學生的平均
分,按照傳統的寫法,肯定是通過AVG聚合函數來實現求平均分。由於聚合函數是以GROUP BY 查詢作為操作的上下文對一組值進行聚合,GROUP BY 操作對數據進行分組後,查詢
為每個組只返回一行數據,因此,我們不能同時返回基礎列(班級,學生等列),而只能得
到聚合列。

❸ Hive sql及窗口函數

hive函數:

1、根據指定條件返回結果:case when then else end as

2、基本類型轉換:CAST()

3、nvl:處理空欄位:三個str時,是否為空可以指定返回不同的值

4、sql通配符: https://www.w3school.com.cn/sql/sql_wildcards.asp

5、count(1)與COUNT(*):返回行數

如果表沒有主鍵,那麼count(1)比count(*)快;

如果有主鍵,那麼count(主鍵,聯合主鍵)比count(*)快;

count(1)跟count(主鍵)一樣,只掃描主鍵。count(*)跟count(非主鍵)一樣,掃描整個表。明顯前者更快一些。

性能問題:

1.任何情況下SELECT COUNT(*) FROM tablename是最優選擇,(指沒有where的情況);

2.盡量減少SELECT COUNT(*) FROM tablename WHERE COL = 『value』 這種查詢;

3.杜絕SELECT COUNT(COL) FROM tablename WHERE COL2 = 『value』 的出現。

count(expression):查詢 is_reply=0 的數量: SELECT COUNT(IF(is_reply=0,1,NULL)) count FROM t_iov_help_feedback;

6、distinct與group by

distinct去重所有distinct之後所有的欄位,如果有一個欄位值不一致就不作為一條

group by是根據某一欄位分組,然後查詢出該條數據的所需欄位,可以搭配 where max(time)或者Row_Number函數使用,求出最大的一條數據

7、使用with 臨時表名 as() 的形式,簡單的臨時表直接嵌套進sql中,復雜的和需要復用的表寫到臨時表中,關聯的時候先找到關聯欄位,過濾條件最好在臨時表中先過濾後關聯

處理json的函數:

split(json_array_string(schools), '\\|\\|') AS schools

get_json_object(school, '$.id') AS school_id,

字元串函數:

1、instr(』源字元串』 , 『目標字元串』 ,』開始位置』,』第幾次出現』)

instr(sourceString,destString,start,appearPosition)

1.sourceString代表源字元串; destString代表要從源字元串中查找的子串;

2.start代表查找的開始位置,這個參數可選的,默認為1;

3.appearPosition代表想從源字元中查找出第幾次出現的destString,這個參數也是可選的, 默認為1

4.如果start的值為負數,則代表從右往左進行查找,但是位置數據仍然從左向右計算。

5.返回值為:查找到的字元串的位置。如果沒有查找到,返回0。

最簡單例子: 在abcd中查找a的位置,從第一個字母開始查,查找第一次出現時的位置

select instr(『abcd』,』a』,1,1) from al; —1

應用於模糊查詢:instr(欄位名/列名, 『查找欄位』)

select code,name,dept,occupation from staff where instr(code, 『001』)> 0;

等同於 select code, name, dept, occupation from staff where code like 『%001%』 ;

應用於判斷包含關系:

select ccn,mas_loc from mas_loc where instr(『FH,FHH,FHM』,ccn)>0;

等同於 select ccn,mas_loc from mas_loc where ccn in (『FH』,』FHH』,』FHM』);

2、substr(string A,int start,int len)和 substring(string A,int start,int len),用法一樣

substr(time,1,8) 表示將time從第1位開始截取,截取的長度為8位

第一種用法:

substr(string A,int start)和 substring(string A,int start),用法一樣

功效:返回字元串A從下標start位置到結尾的字元串

第二種用法:

substr(string A,int start,int len)和 substring(string A,int start,int len),用法一樣

功效:返回字元串A從下標start位置開始,長度為len的字元串

3、get_json_object(form_data,'$.學生姓名') as student_name

json_tuple 函數的作用:用來解析json字元串中的多個欄位

4、split(full_name, '\\.') [5] AS zq;  取的是數組里的第六個

日期(時間)函數:

1、to_date(event_time) 返回日期部分

2、date_sub:返回當前日期的相對時間

當前日期:select curdate() 

當前日期前一天:select  date_sub(curdate(),interval 1 day)

當前日期後一天:select date_sub(curdate(),interval -1 day)

date_sub(from_unixtime(unix_timestamp(), 'yyyy-MM-dd HH:mm:ss'), 14)  將現在的時間總秒數轉為標准格式時間,返回14天之前的時間

時間戳>>>>日期:

from_unixtime(unix_timestamp(), 'yyyy-MM-dd HH:mm:ss') 將現在的時間總秒數轉為標准格式時間

from_unixtime(get_json_object(get_json_object(form_data,'$.挽單時間'),'$.$date')/1000) as retain_time

unix_timestamp('2019-08-15 16:40:00','yyyy-MM-dd HH:mm:ss')  --1565858400

日期>>>>時間戳:unix_timestamp()

date_format:yyyy-MM-dd HH:mm:ss 時間轉格式化時間

select date_format('2019-10-07 13:24:20', 'yyyyMMdd000000')-- 20191007000000select date_format('2019-10-07', 'yyyyMMdd000000')-- 20191007000000

1.日期比較函數: datediff語法: datediff(string enddate,string startdate) 

返回值: int 

說明: 返回結束日期減去開始日期的天數。 

舉例:  hive> select datediff('2016-12-30','2016-12-29');  1

2.日期增加函數: date_add語法: date_add(string startdate, intdays) 

返回值: string 

說明: 返回開始日期startdate增加days天後的日期。 

舉例:  hive>select date_add('2016-12-29',10);  2017-01-08

3.日期減少函數: date_sub語法: date_sub (string startdate,int days) 

返回值: string 

說明: 返回開始日期startdate減少days天後的日期。 

舉例:  hive>select date_sub('2016-12-29',10);  2016-12-19

4.查詢近30天的數據

select * from table where datediff(current_timestamp,create_time)<=30;

create_time 為table里的欄位,current_timestamp 返回當前時間 2018-06-01 11:00:00

3、trunc()函數的用法:當前日期的各種第一天,或者對數字進行不四捨五入的截取

日期:

1.select trunc(sysdate) from al  --2011-3-18  今天的日期為2011-3-18

2.select trunc(sysdate, 'mm')   from   al  --2011-3-1    返回當月第一天.

上月1號    trunc(add_months(current_date(),-1),'MM')

3.select trunc(sysdate,'yy') from al  --2011-1-1       返回當年第一天

4.select trunc(sysdate,'dd') from al  --2011-3-18    返回當前年月日

5.select trunc(sysdate,'yyyy') from al  --2011-1-1   返回當年第一天

6.select trunc(sysdate,'d') from al  --2011-3-13 (星期天)返回當前星期的第一天

7.select trunc(sysdate, 'hh') from al   --2011-3-18 14:00:00   當前時間為14:41  

8.select trunc(sysdate, 'mi') from al  --2011-3-18 14:41:00   TRUNC()函數沒有秒的精確

數字:TRUNC(number,num_digits) Number 需要截尾取整的數字。Num_digits 的默認值為 0。TRUNC()函數截取時不進行四捨五入

11.select trunc(123.458,1) from al --123.4

12.select trunc(123.458,-1) from al --120

4、round():四捨五入:

select round(1.455, 2)  #結果是:1.46,即四捨五入到十分位,也就是保留兩位小數

select round(1.5)  #默認四捨五入到個位,結果是:2

select round(255, -1)  #結果是:260,即四捨五入到十位,此時個位是5會進位

floor():地板數

ceil()天花板數

5、

6.日期轉年函數: year語法:   year(string date) 

返回值: int

說明: 返回日期中的年。

舉例:

hive>   select year('2011-12-08 10:03:01') from al;

2011

hive>   select year('2012-12-08') fromal;

2012

7.日期轉月函數: month語法: month   (string date) 

返回值: int

說明: 返回日期中的月份。

舉例:

hive>   select month('2011-12-08 10:03:01') from al;

12

hive>   select month('2011-08-08') fromal;

8

8.日期轉天函數: day語法: day   (string date) 

返回值: int

說明: 返回日期中的天。

舉例:

hive>   select day('2011-12-08 10:03:01') from al;

8

hive>   select day('2011-12-24') fromal;

24

9.日期轉小時函數: hour語法: hour   (string date) 

返回值: int

說明: 返回日期中的小時。

舉例:

hive>   select hour('2011-12-08 10:03:01') from al;

10

10.日期轉分鍾函數: minute語法: minute   (string date) 

返回值: int

說明: 返回日期中的分鍾。

舉例:

hive>   select minute('2011-12-08 10:03:01') from al;

3

11.日期轉秒函數: second語法: second   (string date) 

返回值: int

說明: 返回日期中的秒。

舉例:

hive>   select second('2011-12-08 10:03:01') from al;

1

12.日期轉周函數: weekofyear語法:   weekofyear (string date) 

返回值: int

說明: 返回日期在當前的周數。

舉例:

hive>   select weekofyear('2011-12-08 10:03:01') from al;

49

查看hive表在hdfs中的位置:show create table 表名;

在hive中hive2hive,hive2hdfs:

HDFS、本地、hive -----> Hive:使用 insert into | overwrite、loaddata local inpath "" into table student;

Hive ----> Hdfs、本地:使用:insert overwrite | local

網站訪問量統計:

uv:每用戶訪問次數

ip:每ip(可能很多人)訪問次數

PV:是指頁面的瀏覽次數

VV:是指你訪問網站的次數

sql:

基本函數:

count、max、min、sum、avg、like、rlike('2%'、'_2%'、%2%'、'[2]')(java正則)

and、or、not、in   

where、group by、having、{ join on 、full join}  、order by(desc降序)

sort by需要與distribut by集合結合使用:

hive (default)> set maprece.job.reces=3;  //先設置rece的數量 

insert overwrite local directory '/opt/mole/datas/distribute-by'

row format delimited fields terminated by '\t'

先按照部門編號分區,再按照員工編號降序排序。

select * from emp distribute by deptno sort by empno desc;

外部表  create external table if not exists dept

分區表:create table dept_partition ( deptno int, dname string, loc string )  partitioned by ( month string )

load data local inpath '/opt/mole/datas/dept.txt' into table default.dept_partition partition(month='201809'); 

 alter table dept_partition add/drop partition(month='201805') ,partition(month='201804');

多分區聯合查詢:union

select * from dept_partition2 where month='201809' and day='10';

show partitions dept_partition;

desc formatted dept_partition;

二級分區表:create table dept_partition2 ( deptno int, dname string, loc string ) partitioned by (month string, day string) row format delimited fields terminated by '\t';

分桶抽樣查詢:分區針對的是數據的存儲路徑;分桶針對的是數據文件

create table stu_buck(id int, name string) clustered by(id) into 4 bucketsrow format delimited fields terminated by '\t';

設置開啟分桶與rece為1:

set hive.enforce.bucketing=true;

set maprece.job.reces=-1;

分桶抽樣:select * from stu_bucktablesample(bucket x out of y on id);

抽取,桶數/y,x是從哪個桶開始抽取,y越大 抽樣數越少,y與抽樣數成反比,x必須小於y

給空欄位賦值:

如果員工的comm為NULL,則用-1代替或用其他欄位代替  :select nvl(comm,-1) from emp;

case when:如何符合記為1,用於統計、分組統計

select dept_id, sum(case sex when '男' then 1 else 0 end) man , sum(case sex when '女' then 1 else 0 end) woman from emp_sex group by dept_id;

用於組合歸類匯總(行轉列):UDAF:多轉一

concat:拼接查詢結果

collect_set(col):去重匯總,產生array類型欄位,類似於distinct

select t.base, concat_ws('|',collect_set(t.name))   from (select concat_ws(',',xingzuo,blood_type) base,name  from person_info) t group by t.base;

解釋:先第一次查詢得到一張沒有按照(星座血型)分組的表,然後分組,使用collect_set將名字組合成數組,然後使用concat將數組變成字元串

用於拆分數據:(列轉行):UDTF:一轉多

explode(col):將hive一列中復雜的array或者map結構拆分成多行。

lateral view  側面顯示:用於和UDTF一對多函數搭配使用

用法:lateral view udtf(expression) tablealias as cate

cate:炸開之後的列別名

temptable :臨時表表名

解釋:用於和split, explode等UDTF一起使用,它能夠將一列數據拆成多行數據,在此基礎上可以對拆分後的數據進行聚合。

開窗函數:

Row_Number,Rank,Dense_Rank  over:針對統計查詢使用

Row_Number:返回從1開始的序列

Rank:生成分組中的排名序號,會在名詞s中留下空位。3 3 5

dense_rank:生成分組中的排名序號,不會在名詞中留下空位。3 3 4

over:主要是分組排序,搭配窗口函數使用

結果:

SUM、AVG、MIN、MAX、count

preceding:往前

following:往後

current row:當前行

unbounded:unbounded preceding 從前面的起點, unbounded following:到後面的終點

sum:直接使用sum是總的求和,結合over使用可統計至每一行的結果、總的結果、當前行+之前多少行/之後多少行、當前行到往後所有行的求和。

over(rowsbetween 3/current )  當前行到往後所有行的求和

ntile:分片,結合over使用,可以給數據分片,返回分片號

使用場景:統計出排名前百分之或n分之一的數據。

lead,lag,FIRST_VALUE,LAST_VALUE

lag與lead函數可以返回上下行的數據

lead(col,n,dafault) 用於統計窗口內往下第n行值

第一個參數為列名,第二個參數為往下第n行(可選,默認為1),第三個參數為默認值(當往下第n行為NULL時候,取默認值,如不指定,則為NULL)

LAG(col,n,DEFAULT) 用於統計窗口內往上第n行值

第一個參數為列名,第二個參數為往上第n行(可選,默認為1),第三個參數為默認值(當往上第n行為NULL時候,取默認值,如不指定,則為NULL)

使用場景:通常用於統計某用戶在某個網頁上的停留時間

FIRST_VALUE:取分組內排序後,截止到當前行,第一個值

LAST_VALUE:取分組內排序後,截止到當前行,最後一個值

范圍內求和: https://blog.csdn.net/happyrocking/article/details/105369558

cume_dist,percent_rank

–CUME_DIST :小於等於當前值的 行數 / 分組內總行數

–比如,統計小於等於當前薪水的人數,占總人數的比例

percent_rank:分組內當前行的RANK值-1/分組內總行數-1

總結:

在Spark中使用spark sql與hql一致,也可以直接使用sparkAPI實現。

HiveSql窗口函數主要應用於求TopN,分組排序TopN、TopN求和,前多少名前百分之幾。

與Flink窗口函數不同。

Flink中的窗口是用於將無線數據流切分為有限塊處理的手段。

window分類:

CountWindow:按照指定的數據條數生成一個 Window,與時間無關。

TimeWindow:按照時間生成 Window。

1. 滾動窗口(Tumbling Windows):時間對齊,窗口長度固定,不重疊::常用於時間段內的聚合計算

2.滑動窗口(Sliding Windows):時間對齊,窗口長度固定,可以有重疊::適用於一段時間內的統計(某介面最近 5min 的失敗率來報警)

3. 會話窗口(Session Windows)無時間對齊,無長度,不重疊::設置session間隔,超過時間間隔則窗口關閉。

❹ SQL排名函數rank怎麼用

請參閱下面的文章rank開窗函數的用法簡介

上面有詳細的講述rank函數的用法

請採納!

❺ 請問sql 中的over函數怎麼用,不要復制的哦

就是按照某個列產生行號。。。,例子:
id type
11 a
2 b
3 c
14 d
5 f

SELECT name, id, type, ROW_NUMBER() OVER(ORDER BY id ASC) rk
FROM tab

result:
11 a 4
2 b 1
3 c 2
14 d 5
5 f 3

如果是按照id降序
SELECT name, id, type, ROW_NUMBER() OVER(ORDER BY id DESC) rk
FROM tab

result:
11 a 2
2 b 5
3 c 4
14 d 1
5 f 3

❻ sql server中有一個表,其中相同id對應許多行,如何取相同id中的前三行數據

--先寫一個函數,輸入name,得到1和0(是否前三行)
createfunctionGetTop3(@idint,@namevarchar(100))
returnbit
as
begin
declare
@returnbit,
@getName1varchar(100),
@getName2varchar(100),
@getName3varchar(100)
selecttop1@getName1=namefrom表名whereid=@id
selecttop2@getName2=namefrom表名whereid=@id
selecttop3@getName3=namefrom表名whereid=@id
return(casewhen@name=@getName1or@name=@getName2or@name=@getName3then1else0end)
end

--函數建好了之後就可以在查詢里用了:
select*from表名whereGetTop3(id,name)>0

❼ 開窗函數

over在聚合函數中的使用:
一般格式:
聚合函數名(列) over(選項)
over必須與聚合函數或排序函數一起使用,聚合函數為:
sum(),max(),min(),count(),avg()
排序函數為:
rank(),row_number(),dense_rank(),ntile()
over表示把函數當成開窗函數而不是聚合函數,SQL標准允許將所有聚合函數用做開窗函數,使用over關鍵字來區分這兩種用法。
開窗函數不需要使用group by就可以對數據進行分組,就可以同時返回基礎行的列和聚合列。

開窗函數sum(*) over(),對於查詢結果的每一行都返回所有符合條件的行的條數,over關鍵字後的括弧中還經常添加選項來改變進行聚合運算的窗口范圍,如果over關鍵字後的括弧中選項為空,則開窗函數會對結果集中的所有行進行聚合運算。

常用格式:
sum(*) over(partition by A order by B)
partition by:進行分組,得到對應組內的所有求和值
order by:按照B進行排序,得到對應組內的累計求和值(如果B為id,兩個id相同,則這兩個id返回的sum那一列是相同的聚合值,是累計到最後一個id對應值的和--下面的例子會詳細說明)

order by 欄位名 rows|range between 邊界規則1 and 邊界規則2
rows:表示按照行的范圍進行范圍的定位
range:表示按照取值的范圍進行范圍的定位
這兩種不同的定位方式主要用來處理並列排序的情況(見下面的例子)
邊界規則的可取值為:
current row--當前行
n preceding--前n行
unbounded preceding--一直到第一條記錄
n following--後n行
unbounded following--一直到最後一條記錄
'range/rows between 邊界規則1 and 邊界規則2':用來定位聚合計算范圍,被稱為定位框架。

eg:
1、建表

2、插入數據

3、關於partition by
(1)所屬城市的人員數-按城市進行分組聚合

(2)顯示每一個人員的信息、所屬城市的人員數以及同齡人的人數

在同一個SELECT語句中可以同時使用多個開窗函數,而且這些開窗函數並不會相互干擾。
4、關於order by的詳解:
(1)查詢從第一行到當前行的的工資總和

(2)將上面的row換成range

結果和(1)的區別體現在紅框和黃框部分,按照FSalary進行排序,row-按照行的范圍進行范圍定位,所以每一行後面對應的『到當前行工資求和』都不一樣,都嚴格的是第一行到當前行的累計和;range-按照取值的范圍進行范圍定位,雖然定位框架的語法仍然是從第一行到當前行的累計和,但是由於取值的范圍:等於2000元的工資有3人,所以計算的累計為從第一條到2000元工資的最後一個人,寫在每個2000元工資的人的後面都是7000。
(3)將(2)中的定位框架省略

上述框架是開窗函數中最常用的定位框架,如果是這種框架的話,可以省略上述定位框架部分

得到的結果和(2)的結果一樣。
(4)將上面的sum()換成count(),計算工資排名

按照salary進行排序,然後計算從第一行(unbounded preceding)到當前行(current row)的人員的個數,相當於計算人員的的工資水平排名。
Question:
怎麼讓工資為2000元的排名都為2?--見後面排序函數的rank()和dence_rank()
5、關於over(partition by A order by B)

over在排序函數中的使用:
一般格式:
排序函數(列) over(選項)
排序函數為:
rank(),dense_rank(),row_number(),ntile(),lead(),lag()
1、rank(),dense_rank(),row_number()的區別

rank()與dense_rank()的區別:
兩者都是計算一組數值中的排序值,
但是在有並列關系時,dence_rank中相關等級不會跳過,rank則跳過。
rank() 是跳躍排序,有兩個第二名時接下來就是第四名(同樣是在各個分組內)
dense_rank()是連續排序,有兩個第二名時仍然跟著第三名。
row_number():
row_number over(partition by A order by B)
根據A分組,在分組內根據B排序,且得出來的值是每組內部排序後的順序編號(組內連續的唯一的)
其主要是『行』的信息,並沒有排名。row_number()必須與order by一起使用,
多用於分頁查詢,比如查詢10-100個學生。

2、ntile(x)--平均分區函數

3、lag() over(partition by A order by B)
lead() over(partition by A order by B)
lag和lead中有三個參數,lag('列名',offset,'超出記錄窗口時的默認值')
lag和lead可以獲取,按一定順序B排列的當前行的上下相鄰若干offset的莫隔行的某個列。
lag()是向前,lead()是向後。

參考 https://www.cnblogs.com/lihaoyang/p/6756956.html

❽ 用SQL選出每個人成績的最高的前三條紀錄

--用開窗函數每個用戶成績排序
select*from
(selectt.*,row_number(partitionby用戶名orderby成績desc)asflagfrom表名t)
whereflag<=3