linux删除大文件的前n行
在数据挖掘中我们迅扰经常会增量更新训练日志,需要删除前n行的过期数据,直接用sed命令比侍吵较慢,谷歌了一下,发现有个奇技淫巧:
tail -n +3 old_file > new_file
mv new_file old_file
这样就删除了前2行,速度要比老昌侍sed命令快
『贰』 linux删除大量文件的6种方法
1. rm
由于磨仔轮文件戚腔数量过多,rm不起作用。
2. find
大概43分钟。
3. find with delete
用时9分钟。
4. rsync
首先建立空文件夹blanktest
16s,很好很强大。
5. Python
大瞎信概用时8分钟。
6. Perl
『叁』 linux下如何删除一个文件
linux系统下删除文件可以用rm命令来操作即可。rm命令可以删除一个目录中的一个或多个文件或目录,也可以将某个目录及其下属的所有文件及其子目录均删除掉。
具体操作步骤如下:
先进入linux系统终端(这里是centos系统),如下图:
(3)linux删除大文件扩展阅读:
Linux是一套免费使用和自由传播的类Unix操作系统,是一个基于POSIX和UNIX的多用户、多任务、支持多线程和多CPU的操作系统。
它能运行主要的UNIX工具软件、应用程序和网络协议。它支持32位和64位硬件。Linux继承了Unix以网络为核心的设计思想,是一个性能稳定的多用户网络操作系统。
Linux操作系统诞生于1991 年10 月5 日(这是第一次正式向外公布时间)。Linux存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。
严格来讲,Linux这个词本身只表示Linux内核,但实际上人们已经习惯了用Linux来形容整个基于Linux内核,并且使用GNU 工程各种工具和数据库的操作系统。
『肆』 linux 删除多个文件
只需在命令行输入:“rm文件1名称文件2名称文件n名称”即可在linux中同时删除多个文件。具体操作步骤如下:
1、首先打开linux操作系统进入到桌面。
『伍』 Linux下查找和删除指定大小的文件
LINUX删除大于/小于固定大小的文件等
删除目录下大小为0的文件 find./ -name"*"-type f -size 0c |xargs-n1rm-f
删除当前目录下面所有 test 文件夹下面的文件 find./ -name"test"-type d -execrm-rf {} ;
删除文件夹下面的所有的.py文件 find./ -name'.py'-execrm-rf {} ;
显示当前路径下,大于50M的文件 find./ -size +50M
删除当前路径下,大于50M的文件 find./ -size +50M -execrm{} \;
参考: https://www.cnblogs.com/yuanmingzhou/p/11082966.html
『陆』 linux 批量删除文件
首先建立50万个文件
复制代码代码如下:
test for i in $(seq 1 500000)
for> do
for> echo test >>$i.txt
for> done
1 rm
复制代码代码如下:
test time rm -f *
zsh: sure you want to delete all the files in /home/hungerr/test [yn]? y
zsh: argument list too long: rm
rm -f * 3.63s user 0.29s system 98% cpu 3.985 total
由于文件数量过多,rm不起作用。
2 find
复制代码代码如下:
test time find ./ -type f -exec rm {} \;
find ./ -type f -exec rm {} \; 49.86s user 1032.13s system 41% cpu 43:19.17 total
大概43分钟。
3 find with delete
复制代码代码如下:
test time find ./ -type f -delete
find ./ -type f -delete 0.43s user 11.21s system 2% cpu 9:13.38 total
用时9分钟。
4 rsync
首先建立空文件夹blanktest
复制代码代码如下:
~ time rsync -a --delete blanktest/ test/
rsync -a --delete blanktest/ test/ 0.59s user 7.86s system 51% cpu 16.418 total
16s,很好很强大。
5 Python
复制代码代码如下:
import os
import time
stime=time.time()
for pathname,dirnames,filenames in os.walk('/home/username/test'):
for filename in filenames:
file=os.path.join(pathname,filename)
os.remove(file)
ftime=time.time()
print ftime-stime
复制代码代码如下:
~ python test.py
494.272291183
大概用时8分钟。
6 Perl
复制代码代码如下:
test time perl -e 'for(<*>){((stat)[9]<(unlink))}'
perl -e 'for(<*>){((stat)[9]<(unlink))}' 1.28s user 7.23s system 50% cpu 16.784 total
『柒』 Linux怎么清空与删除指定大小文件
(拷贝了/var/log/* 到当前目录做测试,当前目录是新建的空目录)
查找并删除当前目录空文回件答
find . -size 0k
find . -size 0k -exec rm {} \;
查找并删除 小于500K的文件 小于是- 大于是+
find . -size -500k
find . -size -500k -exec rm {} \;
从根目录开始,查找文件名包含mess 以bak结尾的文件并删除,
(拷贝了几份/var/log/messages并改名测试)
find / -name *mess*bak
find / -name *mess*bak -exec rm {} \;
!!做进一步操作前,记得先find 一下,确认想要做进一步动作的文件在这里面,不包含不想做变更的文件。
『捌』 Linux删除文件的命令
1、删除文件命令
rm -f 文件名
将会强行删除文件,且无提示
需要注意:
使用rm -rf要格外注意,linux中没有回收站,慎重删除
2、删除文件夹以及文件夹中的所有文件命令:
rm -rf 目录名字
其中:
-r:向下递归删除
-f:直接强行删除,且没有任何提示
(8)linux删除大文件扩展阅读
1、删除文件夹实例:
rm -rf /var/log/httpd/access
将会删除/var/log/httpd/access目录以及其下所有文件、文件夹
2、删除文件使用实例:
rm -f /var/log/httpd/access.log
将会强制删除/var/log/httpd/access.log这个文件
Linux是一套免费使用和自由传播的类Unix操作系统,是一个基于POSIX和UNIX的多用户、多任务、支持多线程和多CPU的操作系统。它能运行主要的UNIX工具软件、应用程序和网络协议。它支持32位和64位硬件。Linux继承了Unix以网络为核心的设计思想,是一个性能稳定的多用户网络操作系统。
Linux操作系统诞生于1991 年10 月5 日(这是第一次正式向外公布时间)。Linux存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。
严格来讲,Linux这个词本身只表示Linux内核,但实际上人们已经习惯了用Linux来形容整个基于Linux内核,并且使用GNU工程各种工具和数据库的操作系统。
Linux的基本思想有两点:第一,一切都是文件;第二,每个软件都有确定的用途。其中第一条详细来讲就是系统中的所有都归结为一个文件,包括命令、硬件和软件设备、操作系统、进程等等对于操作系统内核而言,都被视为拥有各自特性或类型的文件。至于说Linux是基于Unix的,很大程度上也是因为这两者的基本思想十分相近。
『玖』 Linux下如何一条命令删除上万个文件
find / -name *.log | xargs -n 1000 rm -f
因为rm 接收参数的数量是有限的, 所昌兄弯以每次传 1000个参数给他,这样可以满足你的需求。
补充一点,这种写法其实不是特别严谨,因为如果日志文件的尘改命名有特殊字符的话,上面命令将会对特殊字符文件识别不了。
严谨的写法。
find / -name '*.log' -print0 |xargs -0 -n 1000 rm -f
这里前面的print0 和 后的-0 都是对特殊字符进行处理,也就是说他会认识如耐闷"aa bb cc " 这种文件名,多的不说了,不知你能否看明白。
『拾』 如何在 Linux 中删除超大的文件
1. 通过重定向到 Null 来清空文件内容