- 1、本文档共15页,其中可免费阅读14页,需付费10金币后方可阅读剩余内容。
- 2、本文档内容版权归属内容提供方,所产生的收益全部归内容提供方所有。如果您对本文有版权争议,可选择认领,认领后既往收益都归您。
- 3、本文档由用户上传,本站不保证质量和数量令人满意,可能有诸多瑕疵,付费之前,请仔细先通过免费阅读内容等途径辨别内容交易风险。如存在严重挂羊头卖狗肉之情形,可联系本站下载客服投诉处理。
- 4、文档侵权举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
本发明公开了一种基于可信执行环境的大语言模型联邦预训练方法,包括以下步骤:步骤1:创建大语言模型联合预训练任务,确定联合建模参与方,准备数据,并创建用于联合建模的计算存储网络资源;步骤2:进行大语言模型的联合预训练;步骤3:对联合预训练得到的大语言模型进行优化。以应用于大语言模型预训练多方联邦建模的实际场景,充分利用RDMA和CXL技术,在分布式环境中构建跨域可信执行环境集群,并为内存划分共享区域和私有区域,通过将共享区域形成大内存,使其可以容纳大语言模型及其训练数据以及中间训练结果,克服大模型
(19)国家知识产权局
(12)发明专利申请
(10)申请公布号CN117648998A
(43)申请公布日2024.03.05
(21)申请号202410117882.3
(22)申请日2024.01.29
(71)申请人西安电子科技大学
地址7100
您可能关注的文档
- 基于智能手环的导航方法及系统.pdf
- 一种多接口的相机图卡.pdf
- 任务处理和代码处理方法、计算设备、介质和程序产品.pdf
- 基于悬浮光镊和互易定理测量散射场远场的装置及其应用.pdf
- 基于磁分离策略用环境雌激素的电极材料的制备方法及电极材料应用.pdf
- 一种用于光伏多功能断路器的智能数据采集方法.pdf
- 一种多能源配电网用户数据优化分类方法.pdf
- 一种实现I2C底层驱动的方法、装置及可读介质.pdf
- 区域级综合能源系统供需一体化规划方法.pdf
- 一种钛合金棒材压力的测量装置.pdf
- 2024年江西省寻乌县九上数学开学复习检测模拟试题【含答案】.doc
- 2024年江西省省宜春市袁州区数学九上开学学业水平测试模拟试题【含答案】.doc
- 《GB/T 44275.2-2024工业自动化系统与集成 开放技术字典及其在主数据中的应用 第2部分:术语》.pdf
- 中国国家标准 GB/T 44275.2-2024工业自动化系统与集成 开放技术字典及其在主数据中的应用 第2部分:术语.pdf
- GB/T 44285.1-2024卡及身份识别安全设备 通过移动设备进行身份管理的构件 第1部分:移动电子身份系统的通用系统架构.pdf
- 《GB/T 44285.1-2024卡及身份识别安全设备 通过移动设备进行身份管理的构件 第1部分:移动电子身份系统的通用系统架构》.pdf
- 中国国家标准 GB/T 44285.1-2024卡及身份识别安全设备 通过移动设备进行身份管理的构件 第1部分:移动电子身份系统的通用系统架构.pdf
- GB/T 44275.11-2024工业自动化系统与集成 开放技术字典及其在主数据中的应用 第11部分:术语制定指南.pdf
- 中国国家标准 GB/T 44275.11-2024工业自动化系统与集成 开放技术字典及其在主数据中的应用 第11部分:术语制定指南.pdf
- 《GB/T 44275.11-2024工业自动化系统与集成 开放技术字典及其在主数据中的应用 第11部分:术语制定指南》.pdf
文档评论(0)