LLM

在人工智能领域，LLM代表“大型语言模型”。在人工智能（AI）领域自然语言处理（NLP）是一个快速进展的领域。NLP中最重要是大语言模型（LLM）。大语言模型（英文：Large Language Model，缩写LLM），也称大型语言模型，是一种基于机器学习和自然语言处理技术的模型。

文章：224个浏览：252次帖子：3个

llm技术

• 
  生成式推荐系统与京东联盟广告-综述与应用
  大型语言模型（LLM）正在深刻地影响自然语言处理（NLP）领域，其强大的处理各种任务的能力也为其他领域的从业者带来了新的探索路径。推荐系统（RS）作为解...
  2024-06-13
  标签：
  AI
  nlp
  LLM
  188
  0
• 
  请问移动端生成式AI如何在Arm CPU上运行呢？
  2023 年，生成式人工智能 (Generative AI) 领域涌现出诸多用例。这一突破性的人工智能 (AI) 技术是 OpenAI 的 ChatGP...
  2024-05-21
  标签：
  RAM
  人工智能
  LLM
  596
  0
• 
  Optimum Intel三步完成Llama3在算力魔方的本地量化和部署
  Llama3 是Meta最新发布的开源大语言模型(LLM), 当前已开源8B和70B参数量的预训练模型权重，并支持指令微调。
  2024-05-10
  标签：
  处理器
  python
  LLM
  555
  0
• 
  OpenAI新研究：指令层次结构防御LLM攻击策略
  为了解决这个问题，这篇研究提出了一种指令层次结构（instruction hierarchy）。它明确定义了不同指令的优先级，以及当不同优先级的指令发生...
  2024-04-28
  标签：
  指令
  AI
  GPT
  121
  0
• 
  主流GPU/TPU集群组网方案深度解析
  用于连接 GPU 服务器中的 8 个 GPU 的 NVLink 交换机也可以用于构建连接 GPU 服务器之间的交换网络。Nvidia 在 2022 年的...
  2024-04-24
  标签：
  gpu
  服务器
  InfiniBand
  295
  0
• 
  MOE与MOT：提升LLM效能的关键策略比较
  MoE 与 MoT：在专家混合中（左），每个令牌都被路由到不同的专家前馈层。在令牌混合（右）中，每组内的令牌被混合，并且混合令牌由专家前馈层处理。
  2024-04-15
  标签：
  控制器
  机器学习
  LLM
  344
  0
• 
  自然语言处理应用LLM推理优化综述
  当前，业界在将传统优化技术引入 LLM 推理的同时，同时也在探索从大模型自回归解码特点出发，通过调整推理过程和引入新的模型结构来进一步提升推理性能。
  2024-04-10
  标签：
  人工智能
  自然语言处理
  调度器
  257
  0

LLM推理任务中GPU的选择策略

在Roofline模型可以直观展示一张曲线图，其中x轴表示AI（Arithmetic Intensity），即每个内存操作对应的浮点运算次数；y轴表示性...

2024-04-07标签：NVIDIAgpuLLM4920

查看更多>>

llm资讯

Java开发者LLM实战——使用LangChain4j构建本地RAG系统

1、引言 由于目前比较火的chatGPT是预训练模型，而训练一个大模型是需要较长时间（参数越多学习时间越长，保守估计一般是几个月，不差钱的可以多用点GP...

2024-07-02标签：JAVAChatGPTLLM1640

Meta发布基于Code Llama的LLM编译器

近日，科技巨头Meta在其X平台上正式宣布推出了一款革命性的LLM编译器，这一模型家族基于Meta Code Llama构建，并融合了先进的代码优化和编...

2024-06-29标签：Meta编译器LLM10650

AI初创公司Alembic攻克LLM虚假信息难题

近日，AI领域的创新者Alembic公司宣布了一项重大突破：其全新AI系统成功解决了LLM（大型语言模型）中的虚假信息生成问题。这一成就标志着长久以来困...

2024-06-18标签：AI模型LLM2780

英伟达开源Nemotron-4 340B系列模型，助力大型语言模型训练

近日，英伟达宣布开源了一款名为Nemotron-4 340B的大型模型，这一壮举为开发者们打开了通往高性能大型语言模型（LLM）训练的新天地。该系列模型...

2024-06-17标签：开源英伟达LLM2600

大语言模型(LLM)快速理解

自2022年，ChatGPT发布之后，大语言模型（LargeLanguageModel），简称LLM掀起了一波狂潮。作为学习理解LLM的开始，先来整体理...

2024-06-04标签：语言模型ChatGPTLLM3980

LLM之外的性价比之选，小语言模型

  电子发烧友网报道（文/周凯扬）大语言模型的风靡给AI应用创造了不少机会，无论是效率还是创意上，大语言模型都带来了前所未有的表现，这些大语言模型很快成...

2024-06-03标签：模型大模型LLM18580

Mistral AI发布编程设计大语言模型Codestral

同业智能编程LLM一样，CodeStral不仅能辅助开发者处理各类任务，包括功能实现、试验验证及代码填充等，同时显著降低出错概率与漏洞风险。

2024-05-30标签：编程语言语言模型LLM1500

Arm宣布推出终端计算子系统(CSS)，提供领先的人工智能体验

Arm 控股有限公司（纳斯达克股票代码：ARM，以下简称“Arm”）今日宣布推出 Arm® 终端计算子系统 (CSS)，以提供领先的人工智能 (AI) ...

2024-05-30标签：ARMSoC芯片人工智能6690

英特尔携手腾讯云用CPU打造LLM时代数据中枢，共筑AGI基建

英特尔携手腾讯云用CPU打造LLM时代数据中枢，共筑AGI基建

2024-05-27标签：英特尔腾讯云LLM2850

Microsoft Start Networks中国内容生态伙伴峰会成功举办

2024年5月22日，苏州——微软 Microsoft Start Networks 中国内容生态伙伴峰会（ Microsoft Start Partn...

2024-05-23标签：人工智能ai技术Microsoft2040

查看更多>>