AI工具教程

Replicate是一个AI模型在线运行平台，网页上就能跑各种开源AI模型，包括图片生成、视频生成、音频处理，不用自己部署。它为模型提供浏览器里的交互页面，也支持通过API接入自己的程序。新手可...

Together AI是一个大模型API和微调平台，提供上百种开源模型的调用接口，还能对模型做微调，适合需要自定义模型的开发者。你可以先用托管接口快速验证想法，再按任务需求挑选模型；如果现成模...

Groq是一个面向大模型推理的API服务，使用自研LPU芯片运行Llama等模型，主打快速生成，适合实时对话、问答和流式输出。实际速度会受模型、提示词长度、网络和服务负载影响，不宜一概说成比普通...

pgvector是PostgreSQL的向量检索扩展，装好之后就能在熟悉的PostgreSQL里存向量、做相似度搜索，不用额外搭数据库。它适合语义检索、推荐和RAG等场景：先用嵌入模型把文本转成数字向量，再让数...

Chroma是一个轻量级的Python向量数据库，几行代码就能上手，特别适合做AI知识库原型和开发测试。它可以把文本转换成向量并保存，再根据问题的语义找出相关内容。下面从安装、建集合、添加文档...

Qdrant是一个用Rust写的开源向量数据库，适合存储向量并进行相似度检索，可用于AI语义搜索和推荐系统。下面从Docker启动开始，带你完成创建集合、写入向量、配置距离与索引，再用查询和过滤条...

Weaviate是一个开源的AI原生向量数据库，集成了向量搜索和生成式AI，可以给应用快速加语义检索能力。它既能保存文本等数据对象，也能保存对应的向量表示；配置向量化模块后，可在写入时自动生...

Pinecone是一个云端的向量数据库，不用自己部署服务器就能存和搜向量，特别适合给AI应用加记忆和语义搜索。你可以把文本先转换成向量，再交给索引保存；用户提问时，把问题也转换成向量，找出...

Milvus是一个开源的向量数据库，专门用来存储和搜索向量数据，是做AI知识库和推荐系统的核心组件。文本、图片等内容先经模型转换成向量，再交给Milvus存储和检索；它也能保存文本、类别等字段...

vLLM是一个大模型推理加速引擎，适合高吞吐量地运行Llama、Qwen等模型。它通过PagedAttention和连续批处理等机制提升显存利用率与请求处理能力；部署成API服务后，通常能提高整体吞吐量和并发...