威尼斯www.9778.com-威尼斯正版官方网站

威尼斯正版官方网站oracle 删除重复数据

日期:2020-01-16编辑作者:数据库

重复的数据可能有这样两种情况,第一种: 表中只有某些字段一样,第二种是两行记录完全一样。 一、对于部分字段重复数据的删除 1.查询重复的数据 select 字段1,字段2, count(*) from 表名 group by 字段1,字段2 having count(*) 1 例:Select owner from dba_tables group by owner having count(*)1; Select owner from dba_tables group by owner having count(*)=1; //查询出没有重复的数据 2.删除重复的数据 delete from 表名 a where 字段1,字段2 in (select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) 1) 这种删除执行的效率非常低,对于大数据量来说,可能会将数据库吊死。 另一种高效率的方法是先将查询到的重复的数据插入到一个临时表中,然后再进行删除。 CREATE TABLE 临时表 AS ( select 字段1,字段2, count(*) as row_num from 表名 group by 字段1,字段2 having count(*) 1 ); 上面这句话就是建立了临时表,并将查询到的数据插入其中。 下面就可以进行这样的删除操作了: delete from 表名 a where 字段1,字段2 in (select 字段1,字段2 from 临时表); 3.保留重复数据中最新的一条记录 在Oracle中,rowid是隐藏字段,用来唯一标识每条记录。所以,只要保留重复数据中rowid最大的一条记录就可以了。 查询重复数据: select a.rowid,a.* from 表名 a where a.rowid != ( select max(b.rowid) from 表名 b where a.字段1 = b.字段1 and a.字段2 = b.字段2 ); 例:selete from dba_tables a where a.rowid!=( select max(rowid) from test b where a.owner=b.owner); 删除重复数据,只保留最新的一条数据: delete from 表名 a where a.rowid != ( select max(b.rowid) from 表名 b where a.字段1 = b.字段1 and a.字段2 = b.字段2 ) 使用临时表实现高效查询 create table 临时表 as (select a.字段1, a.字段2, MAX(a.ROWID) as dataid from 正式表 a GROUP BY a.字段1,a.字段2); delete from 表名 a where a.rowid != ( select b.dataid from 临时表 b where a.字段1 = b.字段1 and a.字段2 = b.字段2 ); commit; 二、对于完全重复记录的删除 对于表中两行记录完全一样的情况,可以用下面语句获取到去掉重复数据后的记录: select distinct * from 表名 可以将查询的记录放到临时表中,然后再将原来的表记录删除,最后将临时表的数据导回原来的表中。如下: CREATE TABLE 临时表 AS (select distinct * from 表名); drop table 正式表; insert into 正式表 (select * from 临时表); drop table 临时表; 假如想删除一个表的重复数据,可以先建一个临时表,将去掉重复数据后的数据导入到临时表,然后在从临时表将数据导入正式表中,如下: INSERT INTO t_table_bak select distinct * from t_table;

去重有两层含义,一:是记录完全一样;二:是符合一定条件的认为是重复。

根据表的数量,去重可划分为:单表去重和多表关联去重。

 

对于去重,一般最容易想到的是用distinct,而distinct只能对记录完全重复的记录保留一条。

distinct使用的是二重循环的方式来去重的,如果数据量非常大的时候,会导致性能急剧下降。

例如:select distinct 字段名 from 原表;

此应用案例,主要有删除表中的完全重复的记录:

insert into 临时表 select distinct 字段名 from 原表;
drop table 原表;
rename 临时表名 to 原表名;

 

下面的是从网上找的一篇文章,在文章最后我会给出文章的出处。

而这位老兄写了挺多,先跟作者说声辛苦啦,俺也在加班,暂不详细研究。详文如下:

重复的数据可能有这样两种情况,第一种:表中只有某些字段一样,第二种:两行记录完全一样。
第一、对于部分字段重复数据的删除
        先来谈谈如何查询重复的数据吧。
        下面语句可以查询出那些数据是重复的:
select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1
        将上面的>号改为=号就可以查询出没有重复的数据了。
        想要删除这些重复的数据,可以使用下面语句进行删除
delete from 表名 a where 字段1,字段2 in
    (select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1)
        上面的语句非常简单,就是将查询到的数据删除掉。不过这种删除执行的效率非常低,对于大数据量来说,可能会将数据库吊死。所以我建议先将查询到的重复的数据插入到一个临时表中,然后对进行删除,这样,执行删除的时候就不用再进行一次查询了。如下:
CREATE TABLE 临时表 AS
(select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1)
        上面这句话就是建立了临时表,并将查询到的数据插入其中。
        下面就可以进行这样的删除操作了:
delete from 表名 a where 字段1,字段2 in (select 字段1,字段2 from 临时表);
        这种先建临时表再进行删除的操作要比直接用一条语句进行删除要高效得多。

       这个时候,大家可能会跳出来说,什么?你叫我们执行这种语句,那不是把所有重复的全都删除吗?而我们想保留重复数据中最新的一条记录啊!大家不要急,下面我就讲一下如何进行这种操作。
       在oracle中,有个隐藏了自动rowid,里面给每条记录一个唯一的rowid,我们如果想保留最新的一条记录,
我们就可以利用这个字段,保留重复数据中rowid最大的一条记录就可以了。
       下面是查询重复数据的一个例子:
select a.rowid,a.* from 表名 a 
where a.rowid != 
(
   select max(b.rowid) from 表名 b 
   where a.字段1 = b.字段1 and 
   a.字段2 = b.字段2 
)
       下面我就来讲解一下,上面括号中的语句是查询出重复数据中rowid最大的一条记录。
       而外面就是查询出除了rowid最大之外的其他重复的数据了。
       由此,我们要删除重复数据,只保留最新的一条数据,就可以这样写了:
delete from 表名 a 
where a.rowid != 
(
   select max(b.rowid) from 表名 b 
   where a.字段1 = b.字段1 and 
   a.字段2 = b.字段2 
)

       顺便说一下,上面语句的执行效率是很低的,可以考虑建立临时表,讲需要判断重复的字段、rowid插入临时表中,然后删除的时候在进行比较。
create table 临时表 as 
    select a.字段1,a.字段2,MAX(a.ROWID) dataid from 正式表 a GROUP BY a.字段1,a.字段2;
delete from 表名 a 
where a.rowid != 
(
   select b.dataid from 临时表 b 
   where a.字段1 = b.字段1 and 
   a.字段2 = b.字段2 
);
commit;

第二、对于完全重复记录的删除
        对于表中两行记录完全一样的情况,可以用下面语句获取到去掉重复数据后的记录:
select distinct * from 表名
可以将查询的记录放到临时表中,然后再将原来的表记录删除,最后将临时表的数据导回原来的表中。如下:
CREATE TABLE 临时表 AS (select distinct * from 表名);
drop table 正式表;
insert into 正式表 (select * from 临时表);
drop table 临时表;

      如果想删除一个表的重复数据,可以先建一个临时表,将去掉重复数据后的数据导入到临时表,然后在从
临时表将数据导入正式表中,如下:
INSERT INTO t_table_bak
select distinct * from t_table;

文章出处:

本文由威尼斯www.9778.com发布于数据库,转载请注明出处:威尼斯正版官方网站oracle 删除重复数据

关键词:

Oracle行级锁的特殊用法简析威尼斯正版官方网站

威尼斯正版官方网站,Oracle有许多的锁,各种锁的效用是不一样的。下面重点介绍Oracle行级锁,Oracle行级锁只对用户...

详细>>

oracle执行cmd的实现方法

只是有二个精简的施行cmd命令方法: SQL host net user User accounts for 装了贰个oracledb11g,于是想试一下网络流传的在sqlp...

详细>>

PLSQL Developer登录的默认密码介绍

Oracle 9i默认的用户 安装ORACLE12C时,若没有为下列用户重设密码,则其默认密码如下: 欢迎和大家交流技术相关问题:...

详细>>

JavaScript中的数据类型转换方法小结,javascript数据类型

摘要: 下文讲述使用sql脚本的方法判断字符串为大小写的方法分享,如下所示 实验环境:sqlserver 2008 R2 实现思路: 将字...

详细>>