早前OpenAI推出ChatGPTSearch网络搜索功能,该功能本质上也属于搜索引擎因此与谷歌搜索有着直接竞争关系。关于数据收集方面OpenAI采用的是两方面措施,一方面搜索技术使用微软必应,另一方面OpenAI也在自己抓取内容,所有数据被抓取后将按照特定算法进行排序以便在ChatGPT中向用户返回结果。
OpenAI并未在博客中透露搜索技术使用的是微软必应,不过其工程师在Reddit论坛中确认确实使用了必应搜索,因此对站长来说如果想要通过ChatGPT获得搜索流量,也要针对必应搜索进行SEO优化。
爬虫方面目前OpenAI共有3种不同的爬虫:
GPTBot:用于从互联网上抓取数据训练OpenAI的人工智能模型,该爬虫可以屏蔽不会影响到网站的搜索流量;
ChatGPT-User:用于在用户提问时从网络上检索数据以标注来源链接,该爬虫本身不会抓取网页信息;
OAI-Search:这是OpenAI用于ChatGPTSearch搜索功能的爬虫,专门用于抓取网络数据但不会将数据用于AI模型训练。
对网站来说如果不想自己的内容被抓取用于训练AI但又不想损失来自ChatGPTSearch(尽管目前可能极少),那就可以屏蔽GPTBot而允许OAI-Search爬虫。
关于OAI-Search爬虫的更多信息:
完整UA:Mozilla/5.0AppleWebKit/537.36(KHTML,likeGecko);compatible;OAI-SearchBot/1.0;+https://openai.com/searchbot
IP地址:20.42.10.176/28、172.203.190.128/28、51.8.102.0/24
为防止有恶意爬虫冒充OAI-Search抓取数据,你可以对爬虫IP地址进行校验,如果爬虫IP地址不再上述IP段内均为假冒爬虫,可以直接将其IP屏蔽。
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】