curl初探

2017-09-15
摘录自curl百度百科

curl是利用URL语法在命令行方式下工作的开源文件传输工具。它被广泛应用于Unix、多种Linux发行版中,并且有DOS和Win32、Win64下的移植版本。

设计方法

获得页面

使用命令: curl http://curl.haxx.se
该命令可以获得 http://curl.haxx.se 指向的页面。如果这里的URL指向的是一个文件或者一幅图片,都可以被直接下载到本地。如果下载的是HTML文档,那么缺省的将不显示文件头部,即HTML文档的header。如果要全部显示,请加参数 -i 。任何时候,可以使用-v命令查看curl是怎样工作的,它向服务器发送的所有命令都会显示出来。为了断点续传,可以使用 -r 参数来指定传输范围。

获取表单

在Web页面设计中,form是很重要的元素。Form通常被用来收集并向网站提交信息。提交信息的方法有两种,GET方法和POST方法。
先讨论GET方法,例如在页面中有这样一个表单:

<form method="GET" action="junk.cgi">
    <input type=text name="birthyear">
    <input type=submit name = press value="OK">
</form>

那么浏览器将会显示一个文本框和一个标为“OK”的按钮。按下这个按钮,表单就会用GET方法向服务器提交文本框的数据。
例如原始页面是在www.hotmail.com/when/birth.html看到的,如果在文本框输入1995,然后按OK按钮,浏览器的URL现在应该是:www.hotmail.com/when/junk.cgi?birthyear=1995&press=OK
对于这种网页,curl可以直接处理,例如想获取上面的网页,只要输入:
curl "www.hotmail.com/when/junk.cgi?birthyear=1905&press=OK"

表单用来提交信息的第二种方法叫做POST方法
POST方法和GET方法的区别在于GET方法在使用的时候,浏览器中会产生目标URL,而POST不会。

<form method="POST" action="junk.cgi">
    <input type=text name="birthyear">
    <input type=submit name = press value="OK">
</form>

点击按钮,表单就会用POST方法向服务器提交数据。但此时的URL是看不到的,因此需要使用特殊的方法抓取页面:
curl -d "birthyear=1995&press=OK" www.hotmail.com/when/junk.cgi

1995年末,RFC 1867定义了一种新的POST方法用于上传文件。
主要用于把本地文件上传到服务器。此时页面是这样的:

<form method="POST" enctype='multipart/form-data' action="upload.cgi">
    <input type=text name="birthyear">
    <input type=submit name = press value="OK">
</form>

对于这种页面,curl的用法如下:
curl -F upload=@localfilename -F press=OK URL

使用PUT

HTTP协议文件上传的标准方法是使用PUT,此时curl命令使用-T参数:
curl -T uploadfile www.uploadhttp.com/receive.cgi

有关认证

curl可以处理各种情况的认证页面,例如下载用户名/密码认证方式的页面(在IE中通常是出现一个输入用户名和密码的输入框):
curl -u name:password www.secret.com
如果网络是通过http代理服务器出去的,而代理服务器需要用户名和密码,那么输入:
curl - U proxyuser:proxypassword http://curl.haxx.se
任何需要输入用户名和密码的时候,在参数中指定用户名而空着密码,curl可以交互地让用户输入密码。

引用

有些网络资源访问的时候必须经过另外一个网络地址跳转过去,这用术语来说就是:referer,引用。
对于这种地址的资源,curl也可以进行下载:
curl -e http://curl.haxx.se daniel.haxx.se

指定客户端

有些网络资源首先判断用户使用的是什么浏览器,符合标准才能够下载或者浏览。此时curl可以把自己“伪装”成任何其他浏览器:
curl -A "Mozilla/4.0 (compatible; MSIE 5.01; Windows NT 5.0) URL
这个指令表示curl伪装成IE5.0,用户平台是Windows 2000。(对方服务器是根据这个字符串来判断客户端的类型)

COOKIES

Cookie是服务器经常使用的一种记忆客户端信息的方法。如果cookie被记录在了文件中,那么使用命令:
curl -b stored_cookies_in_file www.cookiesite.com
curl可以根据旧的cookie写出新的cookie并发送给网站:
curl -b cookies.txt -c newcookiesite.com

注意事项

curl非常博大,用户想要使用好这个工具,出了详细学习参数外,还需要深刻理解http的各种协议与URL的各个语法。

Linux curl命令

省略

PHP curl函数

PHP支持的有Daniel Stenberg创建的libcurl库允许你与各种的服务器使用各种类型的协议进行连接和通讯。
libcurl支持http、https、ftp、gopher、telnet、dict、file和ldap协议。libcurl同时也支持HTTPS认证、HTTP POST、HTTP PUT、 FTP上传(这个也能通过PHP的FTP扩展完成)、HTTP基于表单的上传、代理、cookies和用户名+密码的认证。
PHP中使用cURL实现GET和POST请求的方法。
这些函数在PHP4.0.2中被引入。
以下包含了PHP cURL函数列表:

函数 说明
curl_close() 关闭一个cURL会话
curl_copy_handle() 复制一个cURL句柄和它的所有选项
curl_errno() 返回最后一次的错误号
curl_error() 返回一个保护当前会话最后一次错误的字符串
curl_eacape() 返回转义字符串,给指定的字符串进行URL编码
curl_exec() 执行一个cURL会话
curl_file_create() 创建一个cURLFile对象
curl_getinfo() 获取一个cURL连接资源句柄的信息
curl_init() 初始化一个cURL会话
curl_multi_add_handle() 向curl批处理会话中添加单独的curl句柄
curl_multi_close() 关闭一组cURL句柄
curl_multi_exec() 运行当前cURL句柄的子连接
curl_multi_getcontent() 如果设置了CURLOPT_RETURNTANSFER则返回获取的输出的文本流
curl_multi_info_read() 获取当前解析的cURL的相关传输信息
curl_multi_init() 返回一个新cURL批处理句柄
curl_multi_remove_handle() 移除curl批处理句柄资源中的某个句柄资源
curl_multi_select() 等待所有cURL批处理中的活动连接
curl_multi_setopt() 设置一个批处理cURL传输选项
curl_multi_strerror() 返回描述错误码的字符串文本
curl_pause() 暂停及恢复连接
curl_reset() 重置libcurl的会话句柄的所有选项
curl_setopt_array() 为cURL传输会话批量设置选项
curl_setopt() 设置一个cURL传输选项
curl_share_close() 关闭cURL共享句柄
curl_share_init() 初始化cURL共享句柄
curl_share_setopt() 设置一个共享句柄的cURL传输选项
curl_strerror() 返回错误代码的字符串描述
curl_unescape() 解码URL编码后的字符串
curl_version() 获取cURL版本信息
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 135,246评论 19 139
  • 转载自:http://www.cnblogs.com/txw1958/archive/2013/01/19/286...
    php_bruce阅读 2,343评论 1 5
  • cURL是一个利用URL语法规定来传输文件和数据的工具,支持很多协议和选项,如HTTP、FTP、TELNET等,能...
    司马东阳阅读 1,471评论 0 6
  • 原文地址:PHPcURL库函数抓取页面内容(转)作者:巴克 cURL是一个利用URL语法规定来传输文件和数据的工具...
    司马东阳阅读 1,215评论 0 3
  • 我在高中的时候住过学校的宿舍,但仅仅只是中午那短短几个小时,所以我融入不进她们的小世界,而大学,我终于可以好好感受...
    随小忆阅读 419评论 0 0