轶哥

📚 Having fun with AI Agent. Always learning.

在MacOS Sonoma中安装RNDIS驱动的方法
  •   更新:2024-02-16 17:29:38
  •   首发:2024-02-16 14:16:16
  •   教程
  •   2194

RNDIS(Remote Network Driver Interface Specification)驱动在MacOS Sonoma中的安装,可以有效解决一些网络共享问题。这主要用于两个场景:

  1. 安卓手机有线共享网络:允许用户通过USB连接,将安卓设备的网络共享给MacOS设备。
  2. USB随身WiFi有线共享网络:实现通过USB连接的WiFi设备,为MacOS提供网络连接。常见的飞猫智联U8、高通410随身Wifi等几乎所有USB和TypeC接口的4G/5G随身WIFI都是RNDIS方式有线上网。

支持Intel、Apple Silicon(M1/M2/M3)芯片。

首款iPhone短信自动转发到Android的APP
  •   更新:2023-08-28 21:24:45
  •   首发:2023-08-28 21:24:45
  •   随笔
  •   6135

由于工作需要,长期以来我都是iPhone作为主力机,安卓作为备用机。经常出现iPhone在充电的时候需要接收验证码。为了实现备用机和主力机一致的功能体验,特地让AI帮我写了一个APP实现“iPhone短信自动转发到Android手机”。

众所周知,Android手机APP是可以可以申请读取短信内容权限的,实现Android短信自动转发或者自动识别验证码是比较容易的。但是目前为止,我并没有发现市面上存在IOS应用程序可以实现读取短信的。真的没有办法实现读取短信内容吗?带着疑问我让AI帮忙翻阅了Apple开发者文档,最后发现其实是可以实现这个功能的。

逆境会改变大脑
  •   更新:2023-08-24 23:50:35
  •   首发:2023-08-24 23:50:35
  •   随笔
  •   1514

这篇文章《A stable and replicable neural signature of lifespan adversity in the adult brain》在《Nature Neuroscience》上发表,讲述了一项纵向研究,研究人员通过对约170人的一生数据及其大脑结构的检视,发现逆境(如母亲怀孕期吸烟,受虐待等负面事件)会导致大脑广泛的形态变化,这种影响与生逆境类型和患者大脑特定区域有关。 研究结果显示,这种逆境对大脑结构的影响是可持续且稳定的,逆境不仅改变了大脑结构,而且可能引起持续的焦虑症状,有助于预测谁更有可能患上精神障碍,这为精神健康的干预和治疗提供了新的理论依据。 逆境不仅是社会和心理问题,更是生物学问题。我们需要对逆境的影响进行更多重视,寻求有效策略减轻其对个人和家庭的长期影响。 同时,研究团队开源了用于预测临床神经科学的工具包,旨在推动此领域的进一步发展。

What Data Is Needed for Supervised Fine-Tuning (SFT)?
  •   更新:2023-08-24 13:56:53
  •   首发:2023-08-23 23:21:29
  •   人工智能
  •   1401

The article primarily discusses the types and quality of data required for Supervised Fine-Tuning (SFT). It covers the following aspects:

  1. Objectives of Supervised Fine-Tuning : Enhancing performance in specific tasks, domain adaptability, and the interpretability and controllability of the model, with an overarching goal to boost system robustness.
  2. Core Considerations : These include the diversity of data, avoiding treating SFT merely as data supplementation, appropriately incorporating few-shot learning and COT data, emphasizing data quality over quantity in SFT, and recognizing that increasing data volume without diversity brings diminished returns.
  3. Data Quality Requirements : These considerations touch on the length restrictions for questions and answers, the accuracy of answers, the selection of data based on industry requirements, the diversity of necessary NLP abilities, and the caution against too much vertical domain data.
  4. Specific Examples : The article provides both good and poor dataset examples to illustrate how to choose and evaluate data.
  5. Q&A Section : This part explains why including the ability to write code in SFT is essential, emphasizing its importance in improving reasoning and structured output abilities.

In summary, the article offers comprehensive guidance on how to conduct supervised fine-tuning, underlining the importance of data diversity and quality, and presents implementation strategies and examples to support these points.

普通电脑安装使用A800/A100等专业显卡

专业显卡在生产力应用领域不仅仅用于AI模型训练及推理,也用于空气动力学仿真、科学计算和数据分析。某些情况下塔式工作站是很多专业用户的最佳选择。

为什么选择消费级平台?

使用云服务获得专业显卡的计算能力是非常方便的,但受限于光速,使用非同一个城市的机房会有较大的延迟,部分专业应用对延迟要求很高,也不得不使用物理机搭配专业显卡。

博主在近几年一直在做垂直领域的人工智能,由于服务于政府客户,对数据安全的要求比较高,因此选择自建塔式工作站放置于工作室来进行模型调试,使用雷电4接口能够快速传输大量数据。在生产部署阶段自然也会部署于服务器机房,实现合理分工。

在服务器中使用A800/A100专业显卡非常简单,插上去就完事。但是机架服务器动辄万转的风扇产生巨大的噪音使得无法放置在普通办公室使用。

不同的人对专业应用的要求是不一样的,就像有的人明知游戏卡某些计算精度性能和专业卡有区别,内存带宽和多卡互联能力也有很大差距,但是他就是要用多张4090游戏卡来进行AI炼丹一样,他们既不使用专业软件,也不要求更高的数据吞吐能力,因此出于对成本、环境、安全性以及各方面的考虑,就是有用户希望使用普通电脑安装使用专业显卡。博主实测4090比绝大部分专业卡做AI绘图速度更快,因此4090在这个场景下就是具有性价比。总之,希望大家以包容的心态看待这个问题。

家用级别的设备稳定性是远不如企业级设备的,博主也只会在开发环境下使用消费级平台,不要试图将工作站直接放进机柜部署,否则就是给自己找事情做。

在 Windows 中迁移 SSH 密钥
  •   更新:2023-06-14 18:22:34
  •   首发:2023-06-09 21:06:05
  •   教程
  •   3108

本文以Windows 11系统下复制密钥到另一台Windows 11设备为例,介绍如何在 Windows 设备之间迁移 SSH 密钥(此方法也使用于Unix设备的密钥迁移到Windows平台)。无论是在工作场景还是个人使用环境下,网络安全都至关重要。SSH 密钥为用户提供了一种更安全的身份验证方法,可以保护和远程服务器通讯过程中的数据。直接将~\.ssh\id_rsa~\.ssh\id_rsa.pub复制到另外一台设备是无法正常工作的,因为密钥对文件权限有着严格要求,本文讨论的就是Windows平台中密钥权限修改的问题。

Windows安装rsync命令一键脚本

在Windows上安装rsync通常需要使用诸如WSL2或Cygwin等解决方案。然而,这些方法可能会导致性能下降、系统资源占用高以及用户体验不佳等问题。因此,我们将通过一个简单的PowerShell脚本来安装cwRsync,避免上述问题。

请注意: 执行这个脚本意味着您同意cwRsync的相关协议。

Nginx反向代理OpenAI API
  •   更新:2023-06-05 10:16:11
  •   首发:2023-04-30 11:59:48
  •   教程
  •   5673

在本教程中,我们将介绍如何使用Nginx反向代理访问OpenAI API,并提供相应的测试方法。主要目标是保证Server-sent events (SSE)类型响应的流畅输出,从而提供良好的用户体验。

  上一页 下一页