欢迎访问我的网站,希望内容对您有用,关注公众号后台领取免费AI学习资料。

人工智能技术、AI、深度学习、机器学习、神经网络、OpenCV

装完Hermes之后,我被这5个东西救了

装完Hermes之后,我被这5个东西救了

装好Hermes的那天晚上,我挺兴奋的。 终端里敲 hermes,响应出来,感觉跟第一次装好Claude Code一样,有种「行了行了,我进化了」的满足感。然后就开始用。 用了一周之后,我打开账单一看……

从此写代码,只需要在旁边看着

从此写代码,只需要在旁边看着

写了一个脚本,核心逻辑就一句话:让AI读一段需求,自动写代码,自己跑测试,如果挂了就自己改,改完再跑,直到通过为止。然后我就去睡觉了。 对,就是网上最近疯传的那个写法。 “`bash wh……

小模型大野心

小模型大野心

事情是这样的。我在一台很普通的笔记本上,跑了一个120亿参数的开源模型,Gem)ma 4 12B,Google前不久刚发的。 注意,是在我自己的电脑上,完全离线,网线拔了都能跑的那种。然后我让这个模型……

跑大模型,最贵的不是 GPU,是这个东西

跑大模型,最贵的不是 GPU,是这个东西

用 Llama-70B 跑一个 128K token 的长上下文请求,光是 KV Cache 就要占 429 GB 显存。 KV Cache 大小 = 2 × num_layers × num_he……

vLLM的Rust前端PR了,预处理吞吐量直接翻了5倍!

vLLM的Rust前端PR了,预处理吞吐量直接翻了5倍!

来自 @inferact 的 @BugenZhao 在 PyTorch 新加坡会议上介绍了这项工作。 LLM 推理这块,GPU 算力一直在高速迭代,但有意思的事来了——硬件越强,Python 前端反……

大模型跑在端侧,到底有多难?我们踩过的那些坑

大模型跑在端侧,到底有多难?我们踩过的那些坑

“端侧 AI 是未来。” 这句话你可能听了不下一百遍了。发布会上,每家芯片厂商都在讲”端侧大模型”、”离线推理”、”……

AI 生成的前端界面,为什么总是不够好看?

AI 生成的前端界面,为什么总是不够好看?

用 AI 写前端,你有没有遇到过这种情况—— 代码跑起来没问题,功能都有,但打开一看,总感觉哪里不对劲。间距挤、排版乱、视觉层次平、配色说不上哪里丑但就是丑…… 和真正有设计感的界面放在一起,差距一……

阿里通义VimRAG:让AI同时”读文档、看图片、看视频”

阿里通义VimRAG:让AI同时”读文档、看图片、看视频”

传统AI知识库只能查文字,VimRAG让AI学会了”图文视频一起看”。 先讲一个真实场景 假设你是一家制造企业的工程师,公司知识库里有: 10万份含图表的PDF技术文档 ……

一个让你像聊天一样做PPT的AI工具

一个让你像聊天一样做PPT的AI工具

你有没有遇到过这种情况:明天就要做汇报了,PPT 还是一片空白;脑子里想法一堆,却被排版、配色、找图这些琐事搞得心力交瘁? 别急,现在有一款叫 **Banana Slides** 的 AI 工具,能让……

上下文工程:会话与记忆

上下文工程:会话与记忆

为什么“上下文 + 会话 + 记忆”对 AI 很重要 当下很多AI,尤其是基于大型语言模型(LLM)的智能体,本质上是无状态(stateless)的。也就是说,每次你让它回答,都只能看到你这一次发过……

颠覆视频创作!一键替换3D角色,你还不来试试?

颠覆视频创作!一键替换3D角色,你还不来试试?

随着AI技术的飞速发展,视频创作创作方式正发生着翻天覆地的变化。今天要介绍的是阿里巴巴推出的黑科技工具——**MotionShop**,它能够一键将视频中的真人替换为3D虚拟角色,为创作者提供了前所未……

AI证件照,一键搞定!

AI证件照,一键搞定!

每到秋季,总是少不了各类考试和报名的繁琐手续,几乎每一个环节都需要你上传一张标准的证件照。今天,我们要介绍一个强大的AI工具——**HivisionIDPhotos**。这个开源的工具不仅能自动生成各……

Star马上破万,这款AI知识库你一定要看看!

Star马上破万,这款AI知识库你一定要看看!

Star马上破万,这款AI知识库你一定要看看 还记得《钢铁侠》电影中,托尼•斯塔克的智能助手贾维斯吗?他能回答各种问题,协助处理复杂任务,简直是每个人都梦寐以求的得力助手。如今,这个梦想正在成为现实。……

超级Prompt!

超级Prompt!

超级Prompt! 最近,一个名为SuperPrompt的GitHub项目在AI圈引起了轰动。这个项目仅仅只有5个Markdown文件,却一下子收获了4000多个星星。 那么,这个神奇的提示词究竟有……

不懂编程也没关系,Cursor AI帮你轻松写代码!

不懂编程也没关系,Cursor AI帮你轻松写代码!

近年来,编程圈子里涌现了不少新的工具和技术,但Cursor AI绝对是其中的佼佼者。朋友们频频提起,说它大大提升了编程效率,有些人甚至笑称已经离不开它了。今天,我就带大家深入了解这款编程神器,帮助你快……

推理能力超博士,OpenAI发布最强模型o1

推理能力超博士,OpenAI发布最强模型o1

昨天凌晨,OpenAI又给我们带来了一个激动人心的消息,他们发布了一款全新的AI模型o1,该模型在性能上远超以往的GPT系列。 告别GPT,开启新纪元 OpenAI选择将新模型命名为”o1……

U2-Net:图像分割中的背景移除技术

U2-Net:图像分割中的背景移除技术

在数字图像处理的世界里,背景移除技术一直是热门话题。无论是在电影制作、广告设计还是医疗影像分析中,这项技术都扮演着至关重要的角色。今天,我们要一起探索一种革命性的技术 — U2-Net,它……

PyTorch宣布去CUDA,Triton时代来临?

PyTorch宣布去CUDA,Triton时代来临?

在人工智能快速发展的今天,芯片技术的革新常常能引发整个行业的地震。就在9月4日,AI领域又传来一个重磅消息:PyTorch官方宣布实现了100%基于OpenAI的Triton语言推理的大语言模型。这一……