大数据时代,用数据做出理性分析显然更为有力。做数据分析前,能够找到合适的数据源是一件非常重要的事,获取数据的方式有很多种,不必局限。本文中给大家推荐一些能够用得上的数据获取方式~
一 公开数据集
1 常用数据公开网站
UCI :经典的机器学习、数据挖掘数据集,包含分类、聚类、回归等问题下的多个数据集。很经典也比较古老,但依然活跃在科研学者的视线中。
国家数据 :数据来源中华人民共和国国家统计局,包含了我国经济民生等多个方面的数据,并且在月度、季度、年度都有覆盖,全面又权威。
CEIC :最完整的一套超过128个国家的经济数据,能够精确查找GDP、CPI、进口、出口、外资直接投资、零售、销售以及国际利率等深度数据。其中的“中国经济数据库”收编了300,000多条时间序列数据,数据内容涵盖宏观经济数据、行业经济数据和地区经济数据。
万得 :简要介绍:被誉为中国的Bloomberg,在金融业有着全面的数据覆盖,金融数据的类目更新非常快,据说很受国内的商业分析者和投资人的青睐。
搜数网 :已加载到搜数网站的统计资料达到7874本,涵盖1,761,009张统计表格和364,580,479个统计数据,汇集了中国资讯行自92年以来收集的所有统计和调查数据,并提供多样化的搜索功能。
中国统计信息网 : 国家统计局的官方网站,汇集了海量的全国各级政府各年度的国民经济和社会发展统计信息,建立了以统计公报为主,统计年鉴、阶段发展数据、统计分析、经济新闻、主要统计指标排行等。
亚马逊 :来自亚马逊的跨科学云数据平台,包含化学、生物、经济等多个领域的数据集。
figshare :研究成果共享平台,在这里可以找到来自世界的大牛们的研究成果分享,获取其中的研究数据。
github :一个非常全面的数据获取渠道,包含各个细分领域的数据库资源,自然科学和社会科学的覆盖都很全面,适合做研究和数据分析的人员。
2 政府开放数据
北京市政务数据资源网 :包含竞技、交通、医疗、天气等数据。
深圳市政府数据开放平台 :交通、文娱、就业、基础设施等数据。
上海市政务数据服务网 :覆盖经济建设、文化科技、信用服务、交通出行等12个重点领域数据。
贵州省政府数据开放平台 :贵州省在政务数据开放方面做的确实不错。
Data.gov :美国政府开放数据,包含气候、教育、能源金融等各领域数据。
3 数据竞赛网站
竞赛的数据集通常干净且可研究性非常高。
DataCastle :专业的数据科学竞赛平台。
Kaggle :全球最大的数据竞赛平台。
天池 :阿里旗下数据科学竞赛平台。
Datafountain :CCF制定大数据竞赛平台。
二 利用爬虫可获得有价值数据
这里给出了一些网站平台,我们可以使用爬虫爬取网站上的数据,某些网站上也给出获取数据的API接口,但需要付费。
1 财经数据
新浪财经:免费提供接口,这篇博客教授了如何在新浪财经上获取获取历史和实时股票数据。东方财富网:可以查看财务指标或者根据财务指标选股。中财网:提供各类财经数据。黄金头条:各种财经资讯。StockQ:国际股市指数行情。Quandl:金融数据界的维基百科。Investing:投资数据。整合的96个股票API合集。Market Data Feed and API:提供大量数据,付费,有试用期。2 网贷数据
网贷之家:包含各大网贷平台不同时间段的放贷数据。零壹数据:各大平台的放贷数据。网贷天眼:网贷平台、行业数据。76676互联网金融门户:网贷、P2P、理财等互金数据。3 公司年报
巨潮资讯:各种股市咨询,公司股票、财务信息。SEC.gov:美国证券交易数据HKEx news披露易:年度业绩报告和年报。4 创投数据
36氪:最新的投资资讯。投资潮:投资资讯、上市公司信息。IT桔子:各种创投数据。5 社交平台
新浪微博:评论、舆情数据,社交关系数据。Twitter:舆情数据,社交关系数据。知乎:优质问答、用户数据。微信公众号:公众号运营数据。百度贴吧:舆情数据Tumblr:各种福利图片、视频。6 就业招聘
拉勾:互联网行业人才需求数据。中华英才网:招聘信息数据。智联招聘:招聘信息数据。猎聘网:高端职位招聘数据。7 餐饮食品
美团外卖:区域商家、销量、评论数据。百度外卖:区域商家、销量、评论数据。饿了么:区域商家、销量、评论数据。大众点评:点评、舆情数据。8 交通旅游
12306:铁路运行数据。携程:景点、路线、机票、酒店等数据。去哪儿:景点、路线、机票、酒店等数据。途牛:景点、路线、机票、酒店等数据。猫途鹰:世界各地旅游景点数据,来自全球旅行者的真实点评。类似的还有同程、驴妈妈、途家等
9 电商平台
亚马逊:商品、销量、折扣、点评等数据淘宝:商品、销量、折扣、点评等数据天猫:商品、销量、折扣、点评等数据京东:3C产品为主的商品信息、销量、折扣、点评等数据当当:图书信息、销量、点评数据。类似的唯品会、聚美优品、1号店等。
10 影音数据
豆瓣电影:国内最受欢迎的电影信息、评分、评论数据。时光网:最全的影视资料库,评分、影评数据。猫眼电影专业版:实时票房数据,电影票房排行。网易云音乐:音乐歌单、歌手信息、音乐评论数据。11 房屋信息
58同城房产:二手房数据。安居客:新房和二手房数据。Q房网:新房信息、销售数据。房天下:新房、二手房、租房数据。小猪短租:短租房源数据。12 购车租车
网易汽车 :汽车资讯、汽车数据。人人车 :二手车信息、交易数据。中国汽车工业协会 :汽车制造商产量、销量数据。13 新媒体数据
新榜:新媒体平台运营数据。
清博大数据:微信公众号运营榜单及舆情数据。
微问数据:一个针对微信的数据网站。
知微传播分析:微博传播数据。
14 分类信息
58同城:丰富的同城分类信息。赶集网:丰富的同城分类信息。- 蜜度索骥:以跨模态检索技术助力“企宣”向上生长
- 央国企采购管理升级,合合信息旗下启信慧眼以科技破局难点
- Apache Struts重大漏洞被黑客利用,远程代码执行风险加剧
- Crunchbase:2024年AI网络安全行业风险投资超过26亿美元
- 调查报告:AI与云重塑IT格局,77%的IT领导者视网络安全为首要挑战
- 长江存储发布声明:从无“借壳上市”意愿
- 泛微·数智大脑Xiaoe.AI正式发布,千人现场体验数智化运营场景
- IDC:2024年第三季度北美IT分销商收入增长至202亿美元
- AI成为双刃剑!凯捷调查:97%组织遭遇过GenAI漏洞攻击
- openEuler开源五年树立新里程碑,累计装机量突破1000万
- 创想 华彩新程!2024柯尼卡美能达媒体沟通会焕新增长之道
免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。