轶哥

📚 Having fun with AI Agent. Always learning.

首款iPhone短信自动转发到Android的APP
  •   更新:2023-08-28 21:24:45
  •   首发:2023-08-28 21:24:45
  •   AI
  •   6152

由于工作需要,长期以来我都是iPhone作为主力机,安卓作为备用机。经常出现iPhone在充电的时候需要接收验证码。为了实现备用机和主力机一致的功能体验,特地让AI帮我写了一个APP实现“iPhone短信自动转发到Android手机”。

众所周知,Android手机APP是可以可以申请读取短信内容权限的,实现Android短信自动转发或者自动识别验证码是比较容易的。但是目前为止,我并没有发现市面上存在IOS应用程序可以实现读取短信的。真的没有办法实现读取短信内容吗?带着疑问我让AI帮忙翻阅了Apple开发者文档,最后发现其实是可以实现这个功能的。

What Data Is Needed for Supervised Fine-Tuning (SFT)?
  •   更新:2023-08-24 13:56:53
  •   首发:2023-08-23 23:21:29
  •   AI
  •   1410

The article primarily discusses the types and quality of data required for Supervised Fine-Tuning (SFT). It covers the following aspects:

  1. Objectives of Supervised Fine-Tuning : Enhancing performance in specific tasks, domain adaptability, and the interpretability and controllability of the model, with an overarching goal to boost system robustness.
  2. Core Considerations : These include the diversity of data, avoiding treating SFT merely as data supplementation, appropriately incorporating few-shot learning and COT data, emphasizing data quality over quantity in SFT, and recognizing that increasing data volume without diversity brings diminished returns.
  3. Data Quality Requirements : These considerations touch on the length restrictions for questions and answers, the accuracy of answers, the selection of data based on industry requirements, the diversity of necessary NLP abilities, and the caution against too much vertical domain data.
  4. Specific Examples : The article provides both good and poor dataset examples to illustrate how to choose and evaluate data.
  5. Q&A Section : This part explains why including the ability to write code in SFT is essential, emphasizing its importance in improving reasoning and structured output abilities.

In summary, the article offers comprehensive guidance on how to conduct supervised fine-tuning, underlining the importance of data diversity and quality, and presents implementation strategies and examples to support these points.

普通电脑安装使用A800/A100等专业显卡
  •   更新:2023-08-23 23:23:06
  •   首发:2023-06-28 00:25:45
  •   AI
  •   6006

专业显卡在生产力应用领域不仅仅用于AI模型训练及推理,也用于空气动力学仿真、科学计算和数据分析。某些情况下塔式工作站是很多专业用户的最佳选择。

为什么选择消费级平台?

使用云服务获得专业显卡的计算能力是非常方便的,但受限于光速,使用非同一个城市的机房会有较大的延迟,部分专业应用对延迟要求很高,也不得不使用物理机搭配专业显卡。

博主在近几年一直在做垂直领域的人工智能,由于服务于政府客户,对数据安全的要求比较高,因此选择自建塔式工作站放置于工作室来进行模型调试,使用雷电4接口能够快速传输大量数据。在生产部署阶段自然也会部署于服务器机房,实现合理分工。

在服务器中使用A800/A100专业显卡非常简单,插上去就完事。但是机架服务器动辄万转的风扇产生巨大的噪音使得无法放置在普通办公室使用。

不同的人对专业应用的要求是不一样的,就像有的人明知游戏卡某些计算精度性能和专业卡有区别,内存带宽和多卡互联能力也有很大差距,但是他就是要用多张4090游戏卡来进行AI炼丹一样,他们既不使用专业软件,也不要求更高的数据吞吐能力,因此出于对成本、环境、安全性以及各方面的考虑,就是有用户希望使用普通电脑安装使用专业显卡。博主实测4090比绝大部分专业卡做AI绘图速度更快,因此4090在这个场景下就是具有性价比。总之,希望大家以包容的心态看待这个问题。

家用级别的设备稳定性是远不如企业级设备的,博主也只会在开发环境下使用消费级平台,不要试图将工作站直接放进机柜部署,否则就是给自己找事情做。

Nginx反向代理OpenAI API
  •   更新:2023-06-05 10:16:11
  •   首发:2023-04-30 11:59:48
  •   AI
  •   5687

在本教程中,我们将介绍如何使用Nginx反向代理访问OpenAI API,并提供相应的测试方法。主要目标是保证Server-sent events (SSE)类型响应的流畅输出,从而提供良好的用户体验。

CUDA Toolkit 11.7、11.8与12.1官方下载地址
  •   更新:2023-05-14 16:05:28
  •   首发:2023-05-14 16:02:16
  •   AI
  •   5538

随着GPU计算能力的不断提升,CUDA(Compute Unified Device Architecture)已经成为了并行计算领域必不可少的工具。NVIDIA推出新版本的CUDA Toolkit时,开发者需要关注其下载地址。本文将向大家介绍CUDA Toolkit 11.7、11.8和12.1的官方下载地址。

  1. CUDA Toolkit 11.7: https://developer.nvidia.com/cuda-11-7-0-download-archive
  2. CUDA Toolkit 11.8: https://developer.nvidia.com/cuda-11-8-0-download-archive
  3. CUDA Toolkit 12.1: https://developer.nvidia.com/cuda-downloads
AI谈编程语言(Rust、Go、TS、Python)
  •   更新:2023-05-12 00:22:56
  •   首发:2023-05-12 00:22:56
  •   AI
  •   1991

在ChatGPT等AI大模型流行前2年,我的代码就已经有超过50%是AI辅助编程情况下完成的。之所以AI编程有那么大的占比,是因为我的开发基于低代码DSL,编程过程中存在很多“套路”,因此我的开发效率通常是同类型任务开发者的2-6倍(效率与具体工作内容密切相关)。

AItabnine.jpg

上图为2022年使用Tabnine辅助编程中,AI自动完成的代码占比情况。

由于ChatGPT对中文注释的理解能力更强,目前我已经由团队版Tabnine切换为Github免费提供给我使用的Github Copilot,效率只增不减。

现今AI辅助编程大行其道,我们再也不用纠结于专精某一门编程语言了。毕竟编程语言设计之初就是为了人类更好的和计算机沟通,如今很多事情可以在AI帮助下快速完成,在掌握主流算法和基础数据结构的基础上,我们可以自由选择对应场景所适合的编程语言,提高效率的同时最大化利用语言优势。

对接ChatGPT3.5/4的API实现打字机效果
  •   更新:2023-05-08 10:29:52
  •   首发:2023-03-13 23:52:44
  •   AI
  •   6329

回一个完整的对话文本。我们将介绍一个 Node.js 服务器和一个 HTML 页面的示例代码,这两个组件通过 HTTP 请求和 SSE(Server-Sent Events)协议连接,并实现了基于流式 API 的长时间运行的聊天功能。

对接ChatGPT3.5/4接口本身很简单,但是实现stream以打字机效果展示并且实现自动长回复,不少小伙伴遇到问题,特整理了一份3.5接口开放当天用于临时验证的示例代码供学习参考(千万不要用于生产环境)。

  上一页 下一页