端侧模型

腾讯混元推出HY-1.8B-2Bit模型，等效参数量仅0.3B，内存占用600MB，可在手机、耳机等边缘设备无压力部署，生成速度提升2-3倍。这是首个产业级2Bit端侧量化实践，为端侧AI应用开辟新路...