趋势网(微博|微信)讯:百度与360公司爬虫机器人不正当竞争纠纷案,又被称为Robots协议案,是中国搜索领域爬虫机器人竞争第一案,关系着互联网行业尤其是搜索引擎的基本游戏规则而广泛被业界、政府和网民关注。2014年8月7日,北京市第一中级人民法院驳回了百度有关不正当竞争的诉求,表明百度单方面利用歧视性Robots协议打击竞争对手的行为不会被公众和法庭所支持,而360则可以继续抓取百度的网站内容。
判决书中写道:规则的缺失会让互联网行业陷入“丛林法则”的误区,但同时,市场竞争需要给每一个竞争者公平的竞争环境,即使是后进入市场的竞争者,也应该有公平的竞争机会,以免陷入“丛林法则”中强者可以任意欺凌弱者的误区。360已经多次向百度表示要求修改robots协议,该主张是清晰明确的,而百度未能明确提出拒绝360的合理理由,故对《自律公约》签订之后,百度主张360构成不正当竞争的主张法院不予支持。
Robots协议由荷兰籍网络工程师Martijn Koster于1994年首次提出,是一个被放置在网站中的.TXT文件,为搜索引擎爬虫做出提示,设置允许与不允许两种语句,网络爬虫据此“自觉地”抓取或者不抓取该网页内容。其目的是为了更好的保障著作权、保护个人隐私,尽可能地让互联网健康发展。
虽然名为“协议”,但Robots协议只是行业惯用的说法。它既不是法律意义上的协议,也不是国际组织采纳的标准,因此不受任何机构保护。而百度的Robots协议的特别之处,在于其白名单机制——允许除360之外的搜索引擎访问百度网站,这种白名单在全球是绝无仅有的。
著名行业专家、互联网实验室董事长方兴东认为,Robots协议绝对不能滥用,必须一视同仁,确保开放。“搜索引擎抓取其他网站数据来建立商业模式,却不允许别人抓取它的内容,于情于理于法都不对。”方兴东表示。
据庭审资料显示,谷歌退出中国市场前,国内的搜索引擎市场百度占到60%,谷歌占到20%。在谷歌退出中国市场后,百度占到了80%的市场。2012年8月16日,360正式推出搜索引擎,并在上线6天后,占据中国搜索市场10%的份额,成为仅次于百度的第二大搜索流量来源。至2013年9月,百度的市场份额从81.49%直线下降到63.14%,而360搜索则占到了19.04%。
业内人士分析,360的产品一向以迅速扩张著称,当年白手起家的安全产品到今日拥有几亿用户并有入口优势的360更不容小觑。而搜索,是百度的根本,百度不会坐以待毙,眼看着搜索市场被360分割。
所以,为了反制360,百度迅速采取了措施,将所有来自360搜索的用户请求跳转至百度首页,用户需要二次点击才能得到搜索的结果。另一方面,便是在百度知道、百科、贴吧等产品在Robots文件中禁止360搜索抓取索引。但根据用户协议,这些内容的版权并不归属于百度,而是归生产和制造这些内容的用户所有。
中国政法大学法制 新闻 研究中心研究员陈杰人一针见血地指出,百度建立Robots协议白名单,只限制360搜索进行内容抓取,具有一定的歧视性,其目的显然不是维护产品间游戏规则的健康有序,而是将Robots协议作为一种打压对手的竞争工具。
众所周知,作为全球最大的中文搜索引擎,百度搜索的强大,不仅体现在其爬虫机器人的抓取能力,还体现在百度自身就是一个有海量信息的内容网站。百度知道、百度百科、百度经验、百度音乐和百度旅游等内容网站囊括的信息量之巨,足以决定像360这样的搜索新手的生死存亡:如果360搜索无法提供上述百度内容网站的信息,必然被网民认为信息不全而夭折。
互联网市场没有那么明确的先来后到。网民用之、弃之是瞬间决定并完成的事情,这也决定了互联网行业的竞争一刻都不能停歇,因为喘息之间可能已经有几十、几百万用户的得失。激烈的竞争更需要公平合理的竞争规则,否则过于放任的竞争会让互联网行业变成屠场并最终走向垄断。届时,中国互联网将从互联互通的信息海洋变为一个个信息孤岛,开放、平等、协作、分享的互联网精神在搜索引擎服务领域将不复存在。