在科学研究中,数据的获取及分析是最重要的也是最棘手的两个环节!
(资料图片)
在前大数据时代,一般使用实验法、调查问卷、访谈或者二手数据等方式,将数据整理为结构化的表格数据,之后再使用各种计量分析方法,对这些表格数据进行分析。但大数据时代,网络数据成为各方学者亟待挖掘的潜在宝藏,大量商业信息、社会信息以文本等非结构化、异构型数据格式存储于海量的网页中。那么对于经管为代表的人文社科类专业科研工作者而言,通过Python可以帮助学者解决使用Web数据进行科研面临的两个问题:
网络爬虫技术解决 如何从网络世界中高效地采集数据?文本分析技术解决 如何从杂乱的文本数据中 抽取文本指标(变量)?一、Python语法入门Python跟英语一样是一门语言
数据类型之字符串
数据类型之列表元组集合
数据类型之字典
数据类型之布尔值、None
逻辑语句(if&for&tryexcept)
列表推导式
理解函数
常用的内置函数
内置库文件路径pathlib库
内置库csv文件库
内置库正则表达式re库
初学python常出错误汇总
二、数据采集网络爬虫原理
网络访问requests库
网页解析pyquery库
案例豆瓣读书
案例Boss直聘
如何解析json数据
案例豆瓣电影
案例京东商城
案例用爬虫下载文档及多媒体文件
案例上市公司定期报告pdf批量下载
案例上交所招股说明pdf批量下载
案例深交所招股说明pdf批量下载
爬虫知识点总结
三、初识文本分析从编码/解码视角重新理解文本
读取不同格式文件中的数据
如何将多个txt文件整理到一个excel中
案例中文分词及数据清洗
案例词频统计&词云图
案例共现法扩展情感词典(领域词典)
案例词向量word2vec扩展领域词典
案例中文情感分析(词典法)
cntext库 情感分析代码操作
案例对excel中的文本进行情感分析 91
案例 语言具体性与心理距离 | 以JCR2021论文为例
案例 使用MD&A数据测量企业数字化| 以管理世界2021、财经研究2022论文为例
四、机器学习与文本分析了解机器学习ML
使用机器学习做文本分析的流程
scikit-learn机器学习库简介
文本特征抽取(特征工程)
案例在线评论文本分类
使用标注工具对数据进行标注
案例计算文本情感分析(有权重)
案例 文本相似性计算
案例 使用文本相似性识别变化(政策连续性)
案例 Kmeans聚类算法
案例 LDA话题模型
使用机器学习从图片中提取文本信息
五、词嵌入与认知词嵌入原理及应用概述
案例 豆瓣影评-训练词向量&使用词向量
案例 使用词向量做话题建模
案例 认知指标(态度、偏见等)的测量
总结-文本分析在社科(经管)领域中的应用
相关文献在这里我把技术细分为词频、词袋、w2v建词典、w2v认知变迁四个维度,整理了经管7篇论文。大家可以阅读这7篇论文,掌握文本分析的应用场景。
[1]沈艳,陈赟,&黄卓.(2019).文本大数据分析在经济学和金融学中的应用:一个文献综述.经济学(季刊),18(4),1153-1186.[2]王伟,陈伟,祝效国,王洪伟.众筹融资成功率与语言风格的说服性-基于Kickstarter的实证研究.*管理世界*.2016;5:81-98.[3]胡楠,薛付婧,王昊楠.管理者短视主义影响企业长期投资吗?——基于文本分析和机器学习[J].管理世界,2021,37(05):139-156+11+19-21.[4]KaiLi,FengMai,RuiShen,XinyanYan,MeasuringCorporateCultureUsingMachineLearning,*TheReviewofFinancialStudies*,2020[5]LoughranT,McDonaldB.Textualanalysisinaccountingandfinance:Asurvey[J].*JournalofAccountingResearch*,2016,54(4):1187-1230.AuthorlinksopenoverlaypanelComputationalsocioeconomics[6]Berger,Jonah,AshleeHumphreys,StephanLudwig,WendyW.Moe,OdedNetzer,andDavidA.Schweidel."Unitingthetribes:Usingtextformarketinginsight."*JournalofMarketing*84,no.1(2020):1-25.[7]Cohen,Lauren,ChristopherMalloy,andQuocNguyen."Lazyprices."*TheJournalofFinance*75,no.3(2020):1371-1415.[8]孟庆斌,杨俊华,鲁冰.管理层讨论与分析披露的信息含量与股价崩盘风险——基于文本向量化方法的研究[J].*中国工业经济*,2017(12):132-150.[9]Wang,Quan,BeibeiLi,andParamVirSingh."Copycatsvs.OriginalMobileApps:AMachineLearningCopycat-DetectionMethodandEmpiricalAnalysis."*InformationSystemsResearch*29.2(2018):273-291.[10]Packard,Grant,andJonahBerger.“Howconcretelanguageshapescustomersatisfaction.”_JournalofConsumerResearch_47,no.5(2021):787-806.[11]冉雅璇,李志强,刘佳妮,张逸石.大数据时代下社会科学研究方法的拓展——基于词嵌入技术的文本分析的应用[J].南开管理评论:1-27.[12]曾庆生,周波,张程,陈信元.年报语调与内部人交易:“表里如一”还是“口是心非”?[J].管理世界,2018,34(09):143-160.[13]彭红枫,&林川.(2018).言之有物:网络借贷中语言有用吗?——来自人人贷借款描述的经验证据[J].金融研究,461(11),133-153.[14]吴非,胡慧芷,林慧妍,and任晓怡.“企业数字化转型与资本市场表现——来自股票流动性的经验证据[J].”管理世界(2021).免费公开资料-社会科学文本挖掘资料汇总
公众号和博客积累了大量社会科学文本挖掘资料,涵盖文本分析概念、技术、代码、数据等。全部理清楚感兴趣的可以关注收藏。
https://hidadeng.github.io/blog/the_text_analysis_list_about_ms/
文献类读完本文你就了解什么是文本分析
转载 | 金融学文本大数据挖掘方法与研究进展
视频 | Python文本分析与会计
视频 |文本分析在经管研究中的应用
视频| Python文本挖掘与金融科技
资料 | 量化历史学与经济学研究
近年《管理世界》《管理科学学报》使用文本分析论文
管理世界 | 使用中文LM金融词典做管理层语调分析
管理世界 | 使用文本分析&机器学习测量短视主义
管理世界 | 使用 经营讨论与分析 测量 企业数字化指标
文本分析在市场营销研究中的应用
营销研究中文本分析应用概述(含案例及代码)
计算文本的语言具体性 | 以JCR2021论文为例
文本分析方法在2021管理世界中的应用
转载 | 大数据时代下社会科学研究方法的拓展——基于词嵌入技术的文本分析的应用
文本可读性研究及应用清单
词嵌入测量不同群体对某概念的态度(偏见)
PNAS | 文本网络分析&文化桥梁Python代码实现
PNAS | 历史语言记录揭示了近几十年来认知扭曲的激增
PNAS | 情侣分手3个月前就有预兆!聊天记录还能反映分手后遗症
PNAS|词汇熟悉度对线上参与和资金筹集的预测性效用
MS | 使用网络算法识别创新的颠覆性与否
文本可读性研究及应用清单
代码类Python语法入门 | 含视频代码
30天Python编程学习挑战
中文金融情感词典
在会计研究中使用Python进行文本分析
Python与文化分析入门
免费社科类Python编程课程列表
tomotopy库 | 速度最快的LDA主题模型
cntext库 | 中文情感分析包
认知的测量 | 向量距离vs语义投影
BERTopic主题建模库
doccano|为机器学习建模做数据标注
PyPlutchik库 | 可视化文本的情绪轮(情绪指纹)
WordBias库 | 发现偏见(刻板印象)的交互式工具
whatlies库 | 可视化词向量
KeyBERT | 关键词发现库
FinBERT | 金融文本BERT模型,可情感分析、识别ESG和FLS类型
Top2Vec | 主题建模和语义搜索库
tfidf有权重的情感分析
Shifterator库 | 词移图分辨两文本用词风格差异
使用Pandas处理文本数据
Label-Studio|多媒体数据标注工具
工具分享 | 正则表达式解析
EmoBank | 中文维度情感词典
Maigret库 | 查询某用户名在各平台网站的使用情况
百度指数 | 使用qdata采集百度指数
Asent库 | 英文文本数据情感分析
安装python包出现报错:Microsoft Visual 14.0 or greater is required. 怎么办?
Python | 词移距离(Word Mover"s Distance)
豆瓣影评| 探索词向量妙处
karateclub库 | 计算社交网络中节点的向量
causalinference库 | 使用Python做因果推断
机器学习实战 | 信用卡欺诈检测
实战 | 构建基于客户细分的 K-Means 聚类算法!
nlp-roadmap | 文本分析知识点思维脑图
R语言 | ggplot2简明绘图之散点图
R语言 | 使用posterdown包制作学术会议海报
R语言 | 使用ggsci包绘制sci风格图表
R语言 | ggpubr包让数据可视化更加优雅
R语言 | 让统计更easy的easystats集合包
R语言 | 使用shiny的reactive表达式写应用程序
R语言 | 使用stargazer包输出格式化回归结果
R语言 | 使用word2vec词向量模型
Latex | 为Rmarkdown配置tinytex环境
LovelyPlots库 | 格式化科学论文、论文和演示文稿的可视化图形
数据集YelpDaset | 酒店管理类数据集10+G
70G上交所年报数据集
14G数据集 | 2007-2021年A股上市公司年度报告(txt文件)
17G资源 | 深交所企业社会责任报告
27G数据集 | 使用Python对27G招股说明书进行文本分析
1850万条 | 世界地图POI兴趣点数据集
1.5G数据集 | 200万条Indiegogo众筹项目信息
12G数据集 | 23w条Kickstarter项目信息
中文语义常用词典 | ChineseSemanticKB
中文词向量资源汇总 & 使用方法
NLP资源 | 汽车、金融等9大领域预训练词向量模型下载资源
Google Books Ngram Viewer显示英文词汇历史使用趋势
标签:
1月9日,中南大学湘雅医院神经内科主任医师夏健在给患者提供诊疗服务。(受访者供图)新华社长沙1月10日电中风患者(脑血管
背景最近一段时间做了几个需求,其中涉及的素材列表展示,需要实现类似下方图片中的动效,暂且称之为【卡片放大播放动效】,具体细节如下:初
但是随着长时间使用,家电里的灰尘、细菌、异味都影响了使用感。长久使用后的微波炉,内壁的油渍油垢清理让人烦恼不已。现金陵晚报旗下服务网
重庆玛雅海滩水公园开园时间:2021年6月13日地址:重庆市两江新区礼嘉镇金渝大道29号开放时间:10:30~18:30★最新优惠门票1、水乐园早鸟票门票价格:
玉米或许是粮食中最平平无奇的一种,生活中无处不在。而玉米糊更是很多人儿时的记忆,老少皆宜。如今,因润肠通便、健胃和中、有助降低胆固醇
(徐婧杜燕)记者5日从北京市大兴区获悉,截至2022年底,北京中日创新合作示范区(简称“中日示范区”)累计新增注册主体1973家,其中外资企业62家
中国质量新闻网讯近日,江苏省泰州市市场监管局公示2022年第十七期食品安全监督抽检结果,涉及70批次糕点监督抽检合格信
(1)与律师所在的律师事务所签订律师服务合同;(2)根据律师服务合同的约定向律师事务所支付律师费,并由律师事务所出具税务发票;(3)根据
上周五空仓说过了,那是因为个股集体跌停和大跌洗盘,根据事不过三的原则,洗盘最多3天,所以今天早上就抄底入场了,因为好股都是早上涨的,最
证券时报e公司讯,摘要:两部门:2023年对月销售额10万元以下的增值税小规模纳税人免征增值税。央行上海总部:推动上海房地产市场平稳健康发展
借款诉讼时效:(1)约定了还款期限的借款,诉讼时效从还款期限届满的次日起计算满3年;(2)没有约定还款期的借款:根据相关法律规定,对于借款期
中商情报网讯:最新数据显示:1月8日,全国粳米当日均价为5 22元 公斤,籼米当日均价为4 88元 公斤。其中,粳米价格
1、车辆行驶证原件或复印件;2、车辆驾驶人驾驶证原件;3、车辆驾驶人身份证原件;4、现金和银行卡。交通违章行为在事故发生中所起作用的大小,主
春节不打烊,顺丰发四亿元补贴员工。出品|电商行业作者|航叔顺丰快递春节不打烊春节将至,顺丰又有大动作。日前,顺丰宣布今年将持续保障春节
核心阅读围绕重点产业,青海西宁推行“链长制+包保制”,以精准招商和靠前服务,为企业提供全方位保障,助力企业生产更稳、产业链条更强。...
1、客户下了订单后,客服的后台会有通知,接到通知后,客服会记录下来客户的联系方式及地址,以及客人订购的商品。2、整理好了客人订购的商品
格隆汇1月5日丨雷柏科技公布,公司控股股东香港热键于2022年12月14日至2023年01月04日期间通过集中竞价交易的方式累计减持公司无限售流通股282
1000克面粉。1 将牛里脊剁成牛肉末,备用,芹菜用开水里焯一下,切成芹菜末备用。将牛肉末、芹菜末、酱油、鸡蛋清和牛肉味浓汤宝放在搅拌盆里
点击上方“Python爬虫与数据挖掘”,进行关注回复“书籍”即可获赠Python从入门到进阶共10本电子书今日鸡汤离离原上草,一岁一枯荣。大家好...
证券代码:002221证券简称:东华能源公告编号:2023-001东华能源股份有限公司第六届董事会第十一次会议决议公
即将和2022年挥手告别,回顾这一年的投资历程,有得有失,还算满意。总体小亏损,正所谓知足常乐,那就展望迎接2023年吧。坚定看好大金融和制
为了帮助市民综合评估身体恢复情况,排查健康隐患,目前已有多家知名医院及连锁品牌体检机构推出新冠康复专项体检服务,对呼吸系统、消化系统
大家好我是小雷,今天跟大家聊聊家里面的衣柜定制好,还是自己买板材请木工做好,相信这个也是大部分朋友在装修的时候最纠结的一个问题,今天
在娱乐圈有各种各样的榜单,不过其中也有很多属于是“野鸡”榜单,没有什么权威性。当然也有一些榜单是大家评选出来的,大家都比较认可。而...
阳光乳业(001318)01月05日在投资者关系平台上答复了投资者关心的问题。
点击蓝字关注南方财经报道导读:1月3日,A股迎来了2023年的首个交易日。在交易日当天,A股走出震荡回升的态势,202
来源:宝城期货作者:宝城期货研报正文核心观点:【PTA】今日(1月3日)PTA主力合约PTA2305最终收盘于5530元 吨,较上一交易日收盘价下跌10元 吨,
未来一周气温回升雾霾重森林火险等级升高
你已选中了添加链接的内容2023 1 2第151期本期关键字Bitkeep应用为官方正版资产仍然被盗;全球主要央行在2022年累计加息2700个基点;做慈善远
Copyright © 2015-2022 时代服装网版权所有 备案号: 联系邮箱: 514 676 113@qq.com