现在AI大部分都是集中在APP和网页的聊天功能上， 感觉是挺不错，有点用的，但是用途不大。真正有用的需要集成在软件、工具、游戏里面，提供指引等功能。

比如某个软件如何使用，不知道怎么用，在软件中集成一个小助手，可以询问它如何操作，这个是一个软件一个AI，AI如果用厂家自己的服务器，可能是一笔不小的开销，但如果部署在软件使用者的终端上，就不需要增加开销，比如将大模型部署在软件中，用户打开小助手的时候就会启动并加载模型，如果关闭小助手的时候就会释放大模型资源。

比如在游戏中，可以让AI生成某个NPC的对话，这样每个人玩游戏的时候，NPC说的话都有随机性，能使游戏更有趣。还有让AI生成任务，任务是随机生成的，增加游戏可玩性。

或者在操作系统底层增加AI模型，能够给各种提示等信息。或者在主板上集成，这样不消耗CPU、GPU、NPU等设备的算力。

期待当大模型转为高级小模型，本地运行模型普及的时候。