python通过protobuf通信实现人工智能模型开发板自动化部署
信息详情
1、服务端:socket接收端,包括消息体打包封装传输,大模型的推理过程,主要C++实现
2、客服端:消息接收解析,封装需要执行的模型,并传输,python实现
3、实现模型的批量自动化执行,并获取测试报告
1.95G
4G
4G
4G
4G
4G
4G
4G
4G
6.298G
5552.86MB
6097.91MB
3.8G
3.04G
3.51G
4.49G
4.6G
3.31G
2.62G
3.1G
3.05G
4.51G
4G
3.85G
2.56G
3.03G
3.72G
4G
2.3G
3.8G
3.7G
4.36G
2.71G
5.17G
6.34G
2.92G
4.05G
6.34G