来吧,加速你的下载
刘小泽写于19.5.3
软件环境
原始数据一般是以SRR格式存放,这个文件一般都要几个G,于是下载器首选ascp,但是直接使用ascp下载又需要配置一些参数,对于新手来说,最好是能提供一个ID,然后直接就下载,这个就需要用到prefetch 与 ascp的组合了
prefetch是sratools中的一个小工具,因此直接用conda下载就好
conda install -c daler sratoolkit
prefetch -h # 可以显示帮助文档就说明安装成功
# 如果要下载数据比如SRR文件,直接加ID号,指定输出目录就好
prefetch SRRxxxxxxx -O PATH
默认情况下,prefetch是利用https方式去下载原始数据,这个就像直接从网页下载一样,速度有一定的限制。因此我们需要先安装一款叫做"aspera"的下载工具,它是IBM旗下的商业高速文件传输软件,与NCBI和EBI有协作合同
wget http://download.asperasoft.com/download/sw/connect/3.7.4/aspera-connect-3.7.4.147727-linux-64.tar.gz
tar zxvf aspera-connect-3.7.4.147727-linux-64.tar.gz
#安装
bash aspera-connect-3.7.4.147727-linux-64.sh
# 然后cd到根目录下看看是不是存在了.aspera文件夹,有的话表示安装成功
cd && ls -a
# 将aspera软件加入环境变量,并激活
echo 'export PATH=~/.aspera/connect/bin:$PATH' >> ~/.bashrc
source ~/.bashrc
# 最后检查ascp是不是能用了
ascp --help
ascp安装成功后,prefetch就会默认将下载方式从https转移到fasp,说明开启加速模式
一般ascp没有什么问题,出问题主要是:
ascp: Failed to open TCP connection for SSH, exiting.
Session Stop (Error: Failed to open TCP connection for SSH)
# 官网给出的解决办法是:https://support.asperasoft.com/hc/en-us/articles/216126918-Error-44-UDP-session-initiation-fatal-error
On many Linux systems the default firewall can be configured with iptables. You will have to allow all incoming and outgoing traffic on UDP port 33001 (or whatever your Aspera UDP port is), which you can do with the following commands:
# 使用下面这两个命令(但需要管理员权限)
# iptables -I INPUT -p tcp --dport 33001 -j ACCEPT
# iptables -I OUTPUT -p tcp --dport 33001 -j ACCEPT
数据下载
一般原始数据都存放在GEO中,举个例子:
-
打开https://www.ncbi.nlm.nih.gov//geo/query/acc.cgi?acc=GSE52778>
(这里注意链接是有规律的,只需要改变最后的ID号就能获取其他的GEO数据) -
点击SRA这里的
SRP033351
-
send to
=>Run Selector
=>Go
-
下载Accession List,然后就得到了一个文本文件,里面会列出和红框部分一样的SRR ID号,供后续使用
-
下载代码
wkd=/home/project/test cd $wkd/raw #简单测试几个 cat >SRR_Acc_List.txt SRR1039508 SRR1039509 SRR1039510 cat SRR_Acc_List.txt |while read i do prefetch $i -O `pwd` && echo "** ${i}.sra done **" done # 一般2.6G文件下载2分钟左右
-
下载成功会有提示,并且可以看到,这里是用fasp下载的
2019-xxxxxxxx prefetch.2.9.1: fasp download succeed 2019-xxxxxxxx prefetch.2.9.1: 1) 'SRR1039508' was downloaded successfully 2019-xxxxxxxx prefetch.2.9.1: 'SRR1039508' has 0 unresolved dependencies ** SRR1039508.sra done **
有时,原始数据在NCBI中找不到,或者下载总是报错,那么可以尝试用EBI下载,速度也是相当快
-
进入官网https://www.ebi.ac.uk/ena ,搜索想下载的SRA号
-
选择SRR这里
-
EBI有个好处就是可以直接下载fastq格式文件(左边方框),如果要下载sra就复制右边红色方框中链接
- 然后利用这个代码下载,以后只需要从vol1开始改链接就好了
ascp -QT -l 300m -P33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh era-fasp@fasp.sra.ebi.ac.uk:vol1/srr/SRR772/009/SRR7722939 ./
欢迎关注我们的公众号~_~
我们是两个农转生信的小硕,打造生信星球,想让它成为一个不拽术语、通俗易懂的生信知识平台。需要帮助或提出意见请后台留言或发送邮件到jieandze1314@gmail.com