cactus-compute/needle

摘要

Needle 是面向手机、可穿戴、机器人等小设备的自动化基础模型，整个模型为单个 8-29 MB 二进制、2-bit 量化，基于自研的 Simple Attention Network。它支持工具调用、结构化抽取和文本 embedding，在移动端工具调用上超过体量大 10 倍的模型，适合做端侧本地自动化的开发者。