PaLM 是什么?Google Gemini 的前身模型
PaLM(Pathways Language Model)是 Google 于 2022 年发布的大语言模型系列,是 Gemini 的直接前身。PaLM 1 拥有 540B 参数,是当时最大的密集型语言模型;PaLM 2 在多语言和推理能力上大幅提升,曾驱动 Bard 和多个 Google 产品。2023 年底 Gemini 发布后,PaLM 系列逐步退役。
阅读时长:约 6 分钟
难度:入门
历史回顾
发布: 更新:
PaLM 1:540B 参数的里程碑
- 发布时间:2022 年 4 月
- 参数规模:540B(5400 亿),当时最大的密集型语言模型
- 训练基础设施:使用 Pathways 系统,在 6144 个 TPU v4 上训练
- 突破性表现:在多项 NLP 基准上刷新纪录,展现"涌现能力"
- 关键能力:多步推理、代码生成、数学解题、常识推理
PaLM 2:更强更高效
- 发布时间:2023 年 5 月(Google I/O 2023)
- 核心改进:多语言能力大幅提升(100+ 语言)、推理更强、代码更好
- 效率提升:参数量更小但性能更强(计算最优缩放)
- 多档位:Gecko(最小)、Otter、Bison、Unicorn(最大)
- 应用:驱动 Bard、Google Workspace AI、Med-PaLM(医疗)、Sec-PaLM(安全)
从 PaLM 到 Gemini 的演进
- 2022.4:PaLM 1 发布,展示大规模语言模型的涌现能力
- 2023.3:PaLM 驱动的 Bard 上线,对标 ChatGPT
- 2023.5:PaLM 2 发布,Bard 升级为 PaLM 2 驱动
- 2023.12:Gemini 1.0 发布,PaLM 开始退役
- 2024.2:Bard 更名 Gemini App,PaLM API 标记为弃用
- 关键区别:PaLM 是纯文本模型;Gemini 是原生多模态模型
PaLM 的技术遗产
Pathways 架构
PaLM 验证了 Pathways 系统的可行性——在数千个 TPU 上高效训练超大模型。这一基础设施后来支撑了 Gemini 的训练。
涌现能力研究
PaLM 的研究揭示了大模型的"涌现能力"——模型规模超过阈值后突然获得新能力(如多步推理)。
专业化变体
Med-PaLM(医疗)、Sec-PaLM(安全)等专业变体证明了大模型在垂直领域的潜力。
实战:使用 Gemini(PaLM 的继任者)
Python 示例
from openai import OpenAI
client = OpenAI(
api_key="你的Key",
base_url="https://api.example.com/v1" # AI的那些事儿中转
)
# PaLM 已退役,使用其继任者 Gemini
# Gemini 2.5 Pro 能力远超 PaLM 2
r = client.chat.completions.create(
model="gemini-2.5-pro",
messages=[
{"role": "user", "content": "用通俗语言解释 Transformer 架构的自注意力机制"}
],
max_tokens=1000
)
print(r.choices[0].message.content)
# 多语言能力(PaLM 2 的强项,Gemini 继承并增强)
r = client.chat.completions.create(
model="gemini-2.5-flash",
messages=[{"role": "user", "content": "Translate to Japanese, Korean, and French: 'AI is transforming the world'"}],
max_tokens=300
)
print(r.choices[0].message.content)
Node.js 示例
import OpenAI from "openai";
const client = new OpenAI({
apiKey: "你的Key",
baseURL: "https://api.example.com/v1",
});
// Gemini 继承了 PaLM 的推理能力并大幅增强
const r = await client.chat.completions.create({
model: "gemini-2.5-pro",
messages: [{ role: "user", content: "解一道数学题:如果 f(x) = x³ - 3x + 1,求 f'(x) = 0 的解" }],
max_tokens: 500,
});
console.log(r.choices[0].message.content);
常见问题
PaLM 是什么?
Google 的大语言模型系列(2022-2023),Gemini 的前身。PaLM 1 有 540B 参数,PaLM 2 在多语言和推理上更强。现已被 Gemini 取代。
PaLM API 还能用吗?
已弃用。Google 建议迁移到 Gemini API。通过 AI的那些事儿 可直接调用 Gemini,能力远超 PaLM。
PaLM 和 Gemini 有什么区别?
PaLM 是纯文本模型;Gemini 是原生多模态(文本+图片+音频+视频)。Gemini 在所有维度上都超越 PaLM。
PaLM 2 的 Gecko/Bison/Unicorn 是什么?
PaLM 2 的不同尺寸:Gecko(最小,可在手机运行)、Otter、Bison(中等)、Unicorn(最大)。类似 Gemini 的 Nano/Flash/Pro 分档。
PaLM 已进化为 Gemini,国内直连
通过 AI的那些事儿调用 Gemini 全系列,体验远超 PaLM 的最新 AI 能力。