最新文章 · 第 2 页

The article primarily discusses the types and quality of data required for Supervised Fine-Tuning (SFT). It covers the following aspects:

1. Objectives of Supervised Fine-Tuning : Enhancing performance in specific tasks, domain adaptability, and the interpretability and controllability of the model, with an overarching goal to boost system robustness.
2. Core Considerations : These include the diversity of data, avoiding treating SFT merely as data supplementation, appropriately incorporating few-shot learning and COT data, emphasizing data quality over quantity in SFT, and recognizing that increasing data volume without diversity brings diminished returns.
3. Data Quality Requirements : These considerations touch on the length restrictions for questions and answers, the accuracy of answers, the selection of data based on industry requirements, the diversity of necessary NLP abilities, and the caution against too much vertical domain data.
4. Specific Examples : The article provides both good and poor dataset examples to illustrate how to choose and evaluate data.
5. Q&A Section : This part explains why including the ability to write code in SFT is essential, emphasizing its importance in improving reasoning and structured output abilities.

In summary, the article offers comprehensive guidance on how to conduct supervised fine-tuning, underlining the importance of data diversity and quality, and presents implementation strategies and examples to support these points.

专业显卡在生产力应用领域不仅仅用于AI模型训练及推理，也用于空气动力学仿真、科学计算和数据分析。某些情况下塔式工作站是很多专业用户的最佳选择。

为什么选择消费级平台？

使用云服务获得专业显卡的计算能力是非常方便的，但受限于光速，使用非同一个城市的机房会有较大的延迟，部分专业应用对延迟要求很高，也不得不使用物理机搭配专业显卡。

博主在近几年一直在做垂直领域的人工智能，由于服务于政府客户，对数据安全的要求比较高，因此选择自建塔式工作站放置于工作室来进行模型调试，使用雷电4接口能够快速传输大量数据。在生产部署阶段自然也会部署于服务器机房，实现合理分工。

在服务器中使用A800/A100专业显卡非常简单，插上去就完事。但是机架服务器动辄万转的风扇产生巨大的噪音使得无法放置在普通办公室使用。

不同的人对专业应用的要求是不一样的，就像有的人明知游戏卡某些计算精度性能和专业卡有区别，内存带宽和多卡互联能力也有很大差距，但是他就是要用多张4090游戏卡来进行AI炼丹一样，他们既不使用专业软件，也不要求更高的数据吞吐能力，因此出于对成本、环境、安全性以及各方面的考虑，就是有用户希望使用普通电脑安装使用专业显卡。博主实测4090比绝大部分专业卡做AI绘图速度更快，因此4090在这个场景下就是具有性价比。总之，希望大家以包容的心态看待这个问题。

家用级别的设备稳定性是远不如企业级设备的，博主也只会在开发环境下使用消费级平台，不要试图将工作站直接放进机柜部署，否则就是给自己找事情做。

本文以Windows 11系统下复制密钥到另一台Windows 11设备为例，介绍如何在 Windows 设备之间迁移 SSH 密钥（此方法也使用于Unix设备的密钥迁移到Windows平台）。无论是在工作场景还是个人使用环境下，网络安全都至关重要。SSH 密钥为用户提供了一种更安全的身份验证方法，可以保护和远程服务器通讯过程中的数据。直接将~\.ssh\id_rsa和~\.ssh\id_rsa.pub复制到另外一台设备是无法正常工作的，因为密钥对文件权限有着严格要求，本文讨论的就是Windows平台中密钥权限修改的问题。

在本教程中，我们将介绍如何使用Nginx反向代理访问OpenAI API，并提供相应的测试方法。主要目标是保证Server-sent events (SSE)类型响应的流畅输出，从而提供良好的用户体验。

在本文中，我将向大家介绍如何在Windows平台上使用C++执行外部命令。我们将探讨两种不同的方法，并对它们进行比较和描述。当我们需要在程序中集成其他应用程序或运行脚本时，这两种方法都非常有用。

在详细讲解这两种方法之前，让我们先了解为什么我们需要在C++程序中执行外部命令。有时，我们需要与其他进程进行交互，例如运行一个脚本、启动一个新进程或收集系统信息。在这些情况下，执行外部命令可以帮助我们轻松地完成这些任务。

现在让我们开始深入了解这两种方法。

测试覆盖率是衡量软件测试质量的一个重要指标，它表示在运行测试用例时，被执行到的代码占总代码数的百分比。通过测试覆盖率，我们可以评估测试集对源码的覆盖程度及潜在漏洞。

本文将介绍两种使用LLVM实现C++测试覆盖率的方法：

• 方案1 使用lcov和llvm-cov将gcda文件转换为lcov.info文件。
• 方案2 使用grcov。

在本文将探讨如何在Rust项目中自动完成单元测试并执行覆盖率测试。我们将使用rust-analyzer插件、配置.vscode/settings.json文件以及编写一个Python脚本变相实现cargo命令的hook。最终效果按下“Run Test”按钮后自动完成单元测试及覆盖率测试，实现搭配Coverage Gutters插件实时显示覆盖率结果。

作为一个对VR、AR和可穿戴设备充满浓厚兴趣的人，我一直关注着这些领域的发展。本人有耳朵方面的小问题，受医生建议不要长时间佩戴耳机，因此音频眼镜对我来说属于刚需。在此次评测中，我将从音质、漏音、便携性、续航、蓝牙功能、通话质量、佩戴舒适度、外观、防水等级、充电线、操作体验等方面对Bose音频眼镜和小米音频眼镜进行分析并比较。

Bose智能音频眼镜2020年8月14日购于线下官方店，佩戴2年9个月。

小米音频眼镜官方名称叫做MIJIA智能音频眼镜，购于小米有品众筹。2023年5月1日收到货，佩戴13天。

买小米眼镜的原因是Bose眼镜续航太短，听歌3个小时就没电了，只能用一个早上，所以买小米的轮班。

随着GPU计算能力的不断提升，CUDA（Compute Unified Device Architecture）已经成为了并行计算领域必不可少的工具。NVIDIA推出新版本的CUDA Toolkit时，开发者需要关注其下载地址。本文将向大家介绍CUDA Toolkit 11.7、11.8和12.1的官方下载地址。

1. CUDA Toolkit 11.7: https://developer.nvidia.com/cuda-11-7-0-download-archive
2. CUDA Toolkit 11.8: https://developer.nvidia.com/cuda-11-8-0-download-archive
3. CUDA Toolkit 12.1: https://developer.nvidia.com/cuda-downloads

在ChatGPT等AI大模型流行前2年，我的代码就已经有超过50%是AI辅助编程情况下完成的。之所以AI编程有那么大的占比，是因为我的开发基于低代码DSL，编程过程中存在很多“套路”，因此我的开发效率通常是同类型任务开发者的2-6倍（效率与具体工作内容密切相关）。

上图为2022年使用Tabnine辅助编程中，AI自动完成的代码占比情况。

由于ChatGPT对中文注释的理解能力更强，目前我已经由团队版Tabnine切换为Github免费提供给我使用的Github Copilot，效率只增不减。

现今AI辅助编程大行其道，我们再也不用纠结于专精某一门编程语言了。毕竟编程语言设计之初就是为了人类更好的和计算机沟通，如今很多事情可以在AI帮助下快速完成，在掌握主流算法和基础数据结构的基础上，我们可以自由选择对应场景所适合的编程语言，提高效率的同时最大化利用语言优势。