Gemini 1.5 是什么?百万 Token 上下文突破

核心突破:百万 Token 上下文

• 100 万 token:约 75 万字中文 / 1 小时视频 / 30000 行代码 / 700 页 PDF
• 200 万 token(扩展版):约 150 万字,可处理整本书或完整代码库
• "大海捞针"测试:在 100 万 token 中检索特定信息,准确率 >99%
• 实际应用:一次性分析整个代码仓库、总结长篇论文集、理解完整视频内容

MoE 架构:效率革命

Gemini 1.5 采用 Mixture-of-Experts(混合专家) 架构:

• 原理:模型由多个"专家"子网络组成,每次推理只激活部分专家
• 优势:总参数量大(知识丰富),但每次计算量小(速度快、成本低)
• 效果:1.5 Pro 性能接近 1.0 Ultra,但推理成本大幅降低
• Flash 版本:进一步优化速度,适合高吞吐、低延迟场景

Pro vs Flash 对比

多模态能力

• 视频理解:可直接处理长达 1 小时的视频,理解画面内容和时间线
• 音频处理:支持语音识别和音频内容理解
• 图片分析:支持多图输入,理解图表、文档扫描件
• 代码理解:可分析整个代码库,理解跨文件依赖关系
• PDF 处理:原生支持 PDF 文件输入,保留格式信息

实战:调用 Gemini 1.5

Python 示例:长文档分析

from openai import OpenAI

client = OpenAI(
    api_key="你的Key",
    base_url="https://api.example.com/v1"  # AI的那些事儿中转
)

# 读取长文档
with open("long_document.txt", "r") as f:
    content = f.read()  # 可以是几十万字

# Gemini 1.5 Pro — 百万 token 上下文
r = client.chat.completions.create(
    model="gemini-1.5-pro",
    messages=[
        {"role": "system", "content": "你是文档分析专家,请详细总结以下文档的核心观点。"},
        {"role": "user", "content": content}
    ],
    max_tokens=2000
)
print(r.choices[0].message.content)

# Gemini 1.5 Flash — 快速摘要
r = client.chat.completions.create(
    model="gemini-1.5-flash",
    messages=[{"role": "user", "content": f"用3句话总结:{content[:50000]}"}],
    max_tokens=200
)
print(r.choices[0].message.content)

Node.js 示例:代码库分析

import OpenAI from "openai";
import fs from "fs";

const client = new OpenAI({
  apiKey: "你的Key",
  baseURL: "https://api.example.com/v1",
});

// 读取多个源文件
const files = ["src/main.ts", "src/utils.ts", "src/api.ts"];
const code = files.map(f => `// ${f}\n${fs.readFileSync(f, "utf-8")}`).join("\n\n");

const r = await client.chat.completions.create({
  model: "gemini-1.5-pro",
  messages: [
    { role: "system", content: "分析以下代码库,找出潜在的 bug 和优化建议。" },
    { role: "user", content: code }
  ],
  max_tokens: 2000,
});
console.log(r.choices[0].message.content);

常见问题

百万 Token 长上下文,国内直连

通过 AI的那些事儿调用 Gemini 1.5 Pro/Flash,处理超长文档和代码库。