尧图网站建设 
FinBERT的ESG分类怎么用快速识别企业年报中环境、社会与治理内容的完整教程【免费下载链接】FinBERTA Pretrained BERT Model for Financial Communications. https://arxiv.org/abs/2006.08097项目地址: https://gitcode.com/gh_mirrors/finbe/FinBERTFinBERT是一个在金融通信文本上预训练的 BERT 语言模型其官方模型FinBERT-ESG可直接用于 ESG 分类任务——只需输入一句年报文本即可自动判断它属于环境Environmental、社会Social、治理Governance还是无关内容。本文面向新手手把手带你完成 FinBERT ESG 分类从安装、调用到微调的完整流程。什么是 FinBERT为什么选它做 ESG 分类FinBERT 由香港科技大学团队发布相关论文arXiv 2006.08097专为金融文本理解而生。它的预训练语料规模达49 亿 token4.9B tokens覆盖三大金融文本来源语料类型规模说明公司年报 10-K 10-Q25 亿 token年报与季报ESG 内容的主要来源财报电话会实录13 亿 token管理层与分析师的问答记录分析师研报11 亿 token券商研究与投资建议文本正因为 FinBERT 在企业年报上泡过它对年报语境中的 ESG 表述理解更准确在 ESG 分类等金融 NLP 任务上的表现优于传统机器学习与通用 BERT 微调模型。项目目前提供 4 个官方模型FinBERT-Pretrained金融文本预训练模型用于二次微调FinBERT-Sentiment金融情感分析FinBERT-ESGESG 分类本文主角FinBERT-FLS前瞻性陈述FLS识别FinBERT-ESG 能识别哪些内容FinBERT-ESG 是在2,000 条人工标注句子来自企业年报与 ESG 报告上微调得到的分类模型输入一段金融文本建议以句子为单位输出Environmental/Social/Governance/None四类标签之一并附带置信度分数也就是说它可以帮你批量扫描年报自动把我们致力于降低运营对环境的负面影响归入环境类把公司年报由独立会计师事务所审计归入治理类而截至 2012 年 12 月 31 日某贷款余额为 4.925 亿美元这类纯财务数字则会被判为无关None。三步快速上手FinBERT-ESG 分类环境、社会与治理文本第 1 步获取项目并安装依赖先克隆项目仓库然后安装requirements.txt中列出的 4 个核心依赖transformers、torch、numpy、scikit-learngit clone https://gitcode.com/gh_mirrors/finbe/FinBERT pip install -r requirements.txt依赖版本以 requirements.txt 为准其中transformers4.18.0与演示代码经过实测验证。第 2 步加载 FinBERT-ESG 模型模型权重托管在 Hugging Face 上模型名为yiyanghkust/finbert-esg通过 transformers 一行加载即可注意标签数为 4from transformers import BertTokenizer, BertForSequenceClassification, pipeline finbert BertForSequenceClassification.from_pretrained(yiyanghkust/finbert-esg, num_labels4) tokenizer BertTokenizer.from_pretrained(yiyanghkust/finbert-esg) nlp pipeline(text-classification, modelfinbert, tokenizertokenizer)第 3 步对年报文本运行 ESG 分类把句子列表直接交给 pipeline即可得到每条文本的标签与置信度results nlp([ Managing and working to mitigate the impact our operations have on the environment is a core element of our business., Rhonda has been volunteering for several years for a variety of charitable community programs., Cabots annual statements are audited annually by an independent registered public accounting firm., As of December 31, 2012, the 2011 Term Loan had a principal balance of $492.5 million. ])实战效果4 条年报语句的 ESG 分类结果上面这段演示代码来自项目自带的 FinBERT-demo.ipynb 中的「ESG-Classification」章节实际输出如下年报语句节选分类结果置信度降低运营对环境的影响是业务的核心要素…Environmental0.98多年来持续参与慈善社区志愿服务…Social0.99公司年报每年由独立注册公共会计师事务所审计…Governance0.67某贷款本金余额为 4.925 亿美元…None1.00可以看到环境、社会两类识别非常稳定治理类得分略低但方向正确纯财务语句被准确排除。这正是构建年报 ESG 内容抽取流水线的理想起点。如何用自有数据微调 FinBERT-ESG如果你有自己的标注数据例如中文 ESG 报告可以基于 FinBERT-Pretrained 权重继续微调。项目已提供完整的微调演示finetune.ipynb展示从数据准备到微调训练的全过程是最直接的参考模板archive/train_bert.py、archive/datasets.py、archive/bertModel.py旧版训练代码可从中了解训练参数与数据加载细节使用 FinBERT-ESG 的注意事项与常见问题建议以句子为单位输入模型针对句子级文本训练过长的段落建议先分句再批量分类大规模推理请用 GPU官方 demo 中明确提示处理大规模数据集时请使用 GPU 加速模型名别记错finbert-esgESG 分类、finbert-tone情感分析、finbert-fls前瞻性陈述、finbert-pretrain预训练底座四者任务不同置信度可作过滤阈值低分结果如 0.6 左右建议保留人工复核高分结果可直接入库项目文件导航从 Demo 到微调脚本文件用途README.md项目说明背景、模型清单与更新日志FinBERT-demo.ipynb核心教程Sentiment / ESG / FLS 三个任务的即用演示finetune.ipynb微调指南用自有数据训练 FinBERTrequirements.txt依赖清单transformers、torch、numpy、scikit-learnarchive/早期训练代码存档train_bert.py 等小结FinBERT 的 ESG 分类能力让从年报中识别环境、社会与治理内容这件事变得非常简单加载yiyanghkust/finbert-esg模型 → 传入文本 → 得到四类标签与置信度三步即可完成。配合项目中的 demo 与微调脚本无论是快速验证效果还是基于自有语料进一步微调都有现成路径可循。现在就可以打开FinBERT-demo.ipynb跑通你的第一条 ESG 分类。【免费下载链接】FinBERTA Pretrained BERT Model for Financial Communications. https://arxiv.org/abs/2006.08097项目地址: https://gitcode.com/gh_mirrors/finbe/FinBERT创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 FinBERT的ESG分类怎么用？快速识别企业年报中环境、社会与治理内容的完整教程
FinBERT的ESG分类怎么用快速识别企业年报中环境、社会与治理内容的完整教程【免费下载链接】FinBERTA Pretrained BERT Model for Financial Communications. https://arxiv.org/abs/2006.08097项目地址: https://gitcode.com/gh_mirrors/finbe/FinBERTFinBERT是一个在金融通信文本上预训练的 BERT 语言模型其官方模型FinBERT-ESG可直接用于 ESG 分类任务——只需输入一句年报文本即可自动判断它属于环境Environmental、社会Social、治理Governance还是无关内容。本文面向新手手把手带你完成 FinBERT ESG 分类从安装、调用到微调的完整流程。什么是 FinBERT为什么选它做 ESG 分类FinBERT 由香港科技大学团队发布相关论文arXiv 2006.08097专为金融文本理解而生。它的预训练语料规模达49 亿 token4.9B tokens覆盖三大金融文本来源语料类型规模说明公司年报 10-K 10-Q25 亿 token年报与季报ESG 内容的主要来源财报电话会实录13 亿 token管理层与分析师的问答记录分析师研报11 亿 token券商研究与投资建议文本正因为 FinBERT 在企业年报上泡过它对年报语境中的 ESG 表述理解更准确在 ESG 分类等金融 NLP 任务上的表现优于传统机器学习与通用 BERT 微调模型。项目目前提供 4 个官方模型FinBERT-Pretrained金融文本预训练模型用于二次微调FinBERT-Sentiment金融情感分析FinBERT-ESGESG 分类本文主角FinBERT-FLS前瞻性陈述FLS识别FinBERT-ESG 能识别哪些内容FinBERT-ESG 是在2,000 条人工标注句子来自企业年报与 ESG 报告上微调得到的分类模型输入一段金融文本建议以句子为单位输出Environmental/Social/Governance/None四类标签之一并附带置信度分数也就是说它可以帮你批量扫描年报自动把我们致力于降低运营对环境的负面影响归入环境类把公司年报由独立会计师事务所审计归入治理类而截至 2012 年 12 月 31 日某贷款余额为 4.925 亿美元这类纯财务数字则会被判为无关None。三步快速上手FinBERT-ESG 分类环境、社会与治理文本第 1 步获取项目并安装依赖先克隆项目仓库然后安装requirements.txt中列出的 4 个核心依赖transformers、torch、numpy、scikit-learngit clone https://gitcode.com/gh_mirrors/finbe/FinBERT pip install -r requirements.txt依赖版本以 requirements.txt 为准其中transformers4.18.0与演示代码经过实测验证。第 2 步加载 FinBERT-ESG 模型模型权重托管在 Hugging Face 上模型名为yiyanghkust/finbert-esg通过 transformers 一行加载即可注意标签数为 4from transformers import BertTokenizer, BertForSequenceClassification, pipeline finbert BertForSequenceClassification.from_pretrained(yiyanghkust/finbert-esg, num_labels4) tokenizer BertTokenizer.from_pretrained(yiyanghkust/finbert-esg) nlp pipeline(text-classification, modelfinbert, tokenizertokenizer)第 3 步对年报文本运行 ESG 分类把句子列表直接交给 pipeline即可得到每条文本的标签与置信度results nlp([ Managing and working to mitigate the impact our operations have on the environment is a core element of our business., Rhonda has been volunteering for several years for a variety of charitable community programs., Cabots annual statements are audited annually by an independent registered public accounting firm., As of December 31, 2012, the 2011 Term Loan had a principal balance of $492.5 million. ])实战效果4 条年报语句的 ESG 分类结果上面这段演示代码来自项目自带的 FinBERT-demo.ipynb 中的「ESG-Classification」章节实际输出如下年报语句节选分类结果置信度降低运营对环境的影响是业务的核心要素…Environmental0.98多年来持续参与慈善社区志愿服务…Social0.99公司年报每年由独立注册公共会计师事务所审计…Governance0.67某贷款本金余额为 4.925 亿美元…None1.00可以看到环境、社会两类识别非常稳定治理类得分略低但方向正确纯财务语句被准确排除。这正是构建年报 ESG 内容抽取流水线的理想起点。如何用自有数据微调 FinBERT-ESG如果你有自己的标注数据例如中文 ESG 报告可以基于 FinBERT-Pretrained 权重继续微调。项目已提供完整的微调演示finetune.ipynb展示从数据准备到微调训练的全过程是最直接的参考模板archive/train_bert.py、archive/datasets.py、archive/bertModel.py旧版训练代码可从中了解训练参数与数据加载细节使用 FinBERT-ESG 的注意事项与常见问题建议以句子为单位输入模型针对句子级文本训练过长的段落建议先分句再批量分类大规模推理请用 GPU官方 demo 中明确提示处理大规模数据集时请使用 GPU 加速模型名别记错finbert-esgESG 分类、finbert-tone情感分析、finbert-fls前瞻性陈述、finbert-pretrain预训练底座四者任务不同置信度可作过滤阈值低分结果如 0.6 左右建议保留人工复核高分结果可直接入库项目文件导航从 Demo 到微调脚本文件用途README.md项目说明背景、模型清单与更新日志FinBERT-demo.ipynb核心教程Sentiment / ESG / FLS 三个任务的即用演示finetune.ipynb微调指南用自有数据训练 FinBERTrequirements.txt依赖清单transformers、torch、numpy、scikit-learnarchive/早期训练代码存档train_bert.py 等小结FinBERT 的 ESG 分类能力让从年报中识别环境、社会与治理内容这件事变得非常简单加载yiyanghkust/finbert-esg模型 → 传入文本 → 得到四类标签与置信度三步即可完成。配合项目中的 demo 与微调脚本无论是快速验证效果还是基于自有语料进一步微调都有现成路径可循。现在就可以打开FinBERT-demo.ipynb跑通你的第一条 ESG 分类。【免费下载链接】FinBERTA Pretrained BERT Model for Financial Communications. https://arxiv.org/abs/2006.08097项目地址: https://gitcode.com/gh_mirrors/finbe/FinBERT创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考