辉达携手中原大学AI应用发展中心 在台首办LLM工作坊

LLM Workshop登场，中原大学副校长洪颖怡（中）与NVIDIA四位解决方案架构师合影。（中原大学提供／蔡明亘桃园传真）

辉达NVIDIA携手中原大学举办「大型语言模型工作坊」，共同培育AI人才。（中原大学提供／蔡明亘桃园传真）

因应全球AI科技发展趋势与培育人才需求，中原大学与辉达NVIDIA于3月签署合作备忘录并宣布成立NVIDIA-中原大学AI应用发展联合服务中心，近日举行首场大型活动「大型语言模型工作坊（Large Language Model, LLM）」，为该中心与NVIDIA合作在台湾初次办理LLM工作坊，树立国内AI人才培育的重要里程。

中原大学副校长洪颖怡指出，中原是继台大、清大及阳明交大后，全台第4所与NVIDA合作AI University的大学，双方将以研究、教学、产学3个面向进行产学合作，中原将使用NVIDIA最新人工智慧技术与资讯，提升AI教学及研究能量。这次工作坊是今年全台第一场大型语言模型活动，共有20位教师、57位研究生参与，其中包括10位外籍学生，因此授课采中、英双语并行。

校方说明，「NVIDIA LLM Workshop」大型语言模型工作坊由NVIDIA的4位解决方案架构师授课，介绍个人客制GPT大语言模型并连接到个人自己的内容，包含文件、笔记或其他数据。

NVIDIA架构师强调利用检索增强生成技术（retrieval-augmented generation, RAG）加速，另外NVIDIA架构师也介绍NVIDIA NeMo，它是一个点对点建构客制化LLM的平台，跟过去从头开始训练一个模型所需的数周或数个月相比，使用NeMo LLM可协助发展客制化模型，且只需几分钟到几小时即可完成。

NVIDIA解决方案架构师以清晰易懂方式让中原师生更深入了解生成式大型语言模型和检索增强生成技术，以及如何结合这2项最新技术，跳过庞杂的训练，也能产生更准确且丰富的回答。现场使用NVIDIA云端计算资源，让学员更深入了解生成式AI的最新技术与趋势。

校方提到，大型语言模型是基于大量资料进行预训练的超大型深度学习模型，基础转换器是一组神经网路，这些神经网路由具有自我专注功能的编码器和解码器组成，编码器和解码器从一系列文字中提取含义，并理解其中的字词和片语之间的关系，大型语言模型非常灵活，一个模型可执行完全不同的任务，例如回答问题、总结文件、翻译语言和完成语句，著名的ChatGPT就是利用基于这种技术研发而成的生成式AI。

NVIDIA-中原大学AI应用发展联合服务中心未来将透过NVIDIA提供最新GPU架构和技术，以及有关NVIDIA高性能计算技术，应用于机器学习、医疗诊断、量子计算及大型语言模型等方面之研究。中原大学期待透过与NVIDIA的双方合作，加速培养台湾AI人才及带动产业发展。