大模型多模态专题:7 课从拍照识物到照片绘本(DeepSeek / 通义千问 / 豆包,附 .aia 源码)

返回主页

会让大模型聊天只是开始。手机最大的优势是摄像头:拍一张照片问它是什么、拍一道题让它讲、拍一顿饭让它算热量;反过来,还能让它画图、把照片变成漫画、看一段视频写摘要。

这个专题用 7 个能直接导入的 App,把这些「多模态」用法一个个做出来:

  • 只用国内大模型:DeepSeek、通义千问、豆包,都通过本平台的 LLMAI2Ext 拓展接入,.aia 里已带好拓展。
  • 每课一个完整 App:导入后粘贴自己的 API Key 就能用;页面上的每段积木都和 .aia 里的逐字一致。
  • 难度递进:后一课只比前一课多一两个新概念,最后一课把前面的本事组合起来。
  • 安卓、鸿蒙通用:同一个工程可以编译安卓 APK,也可以编译鸿蒙应用。

下载全部 7 个 .aia(zip)

验证记录

想先了解原来的「实验」抽屉里 ChatBot / ImageBot 去哪了?它们依赖海外服务,在国内用不了。本专题就是它们的国内替代:ChatBot 的对话与识图对应 DeepSeek / 通义千问,ImageBot 的生图与改图对应豆包。

学习路线

课 做出来的 App 新学到的 模型
第 1 课 拍照识物 识图 ChatWithImage、先压缩再发、流式拼接、一张图一个对话、追问 DeepSeek
第 2 课 拍题讲解 思考模式、思考与回答分开显示、提示词规定格式 DeepSeek
第 3 课 拍餐估热量 让模型回 JSON、截取与容错解析、按天记账 通义千问
第 4 课 AI 画图 文生图、图生图接着改、版本管理、下载与分享 豆包
第 5 课 照片变漫画 本地照片 → Base64 图片地址、风格提示词 豆包
第 6 课 视频摘要 视频理解 ChatWithVideoUrl、视频直链的要求、任务下拉框 通义千问
第 7 课 照片绘本 两个模型接力、两个 Key、分清哪一步出错 DeepSeek + 豆包

建议按顺序学;只想做某一个 App,也可以直接看那一课,每课开头都写了前置要求。

7 课一览

界面图由最终 .aia 执行真实积木生成,是布局预览,不是真机截图;AI 的回答、照片与生成的图片都是示意。

开始前:准备 API Key

平台 用在哪几课 去哪里拿
DeepSeek 1、2、7 DeepSeek 开放平台,预付费,先充值
阿里云百炼(通义千问) 3、6 百炼控制台
火山方舟(豆包) 4、5、7 火山方舟控制台,生图模型 Seedream 要先在「开通管理」里开通

每课 App 顶部都有一张「API Key」卡片:粘贴、保存,Key 就存在手机上,下次打开自动读出。不要把 Key 写死在积木里再把 .aia 发给别人——那等于把钱包钥匙送了出去。

7 课学完,你会的套路

套路 一句话 在哪课
识图 ChatWithImage(提示词, 本地图片),换图前 StartNewChat 1、2、3、7
先压缩再发 图片处理「压缩」:识物 1024,读字 1600 1、2
流式拼接 GotStream 里 join(旧文字, part),finished 为真时收尾 1、2、6
思考模式 DeepSeek ThinkingEnabled,思考走 GotReasoning 2
结构化输出 关流式 → 约定 JSON → 截取 {…} → 字典解码 → 校验 3、7
生图与改图 GenerateImage / GenerateImageFromUrl,结果在 GotImage 4、5、7
本地图转地址 join("data:image/jpeg;base64,", 转Base64(压缩(图片))) 5
视频理解 ChatWithVideoUrl(提示词, mp4 直链) 6
模型接力 第一个模型的输出(如画面描述)作为第二个模型的输入 7

还能怎么组合

学完 7 课,换换提示词和组件,就是新的 App:

  • 拍照学英语:第 1 课的提示词改成「用英语说出图中物体的名称,给出音标和一个例句」。
  • 拍票据记账:第 3 课的 JSON 换成「商户、金额、日期、类别」,存进微数据库或云数据库。
  • 植物识别 + 养护提醒:第 3 课的结构化输出 + 通知。
  • 课堂视频出测验:第 6 课的「出 3 道理解题」改成 JSON,再做成答题界面。
  • 故事接龙绘本:第 7 课的「换个结局」改成「续写下一页」,每页一张插画,存成列表翻页看。

更多大模型用法(对话、多轮、思考、错误码)见 LLMAI2Ext 拓展文档。

文档反馈