alibaba / MNN

Arthas 是Alibaba开源的Java诊断工具

快速、简洁、解决大文件内存溢出的java处理Excel工具

一个更易于构建云原生应用的动态服务发现、配置管理和服务管理平台。

大模型Grok-1开源

#安卓#ncnn 是一个为手机端极致优化的高性能神经网络前向计算框架

Open-Sora： 完全开源的高效复现类Sora视频生成方案

Facebook 的 LLaMA 模型在 C/C++ 中的移植

#大语言模型#本地化搭建和运行 Llama2 和其他大模型

#计算机科学#ONNX 是一种针对机器学习所设计的开放式的文件格式，用于存储训练好的模型。它使得不同的人工智能框架（如Pytorch、MXNet）可以采用相同格式存储模型数据并交互。

llm deploy project based mnn. This project has merged into MNN.

#计算机科学#PaddlePaddle High Performance Deep Learning Inference Engine for Mobile and Edge (飞桨高性能深度学习端侧推理引擎）

#人脸识别#由腾讯优图实验室开源的高性能、轻量级神经网络推理框架，同时拥有跨平台、高性能、模型压缩、代码裁剪等众多突出优势。

#计算机科学#NVIDIA®TensorRT™是一款用于在NVIDIA GPU上进行高性能深度学习推理的SDK。此存储库包含TensorRT的开源组件。

#计算机科学#校招、秋招、春招、实习好项目！带你从零实现一个高性能的深度学习推理库，支持大模型 llama2 、Unet、Yolov5、Resnet等模型的推理。Implement a high-performance deep learning inference library step by step

用于谷歌Gemma模型的轻量级独立C++推理引擎。

#计算机科学#Open deep learning compiler stack for cpu, gpu and specialized accelerators

#自然语言处理#OpenVINO™ is an open source toolkit for optimizing and deploying AI inference

stable diffusion using mnn

This project aim to reproduce Sora (Open AI T2V model), we wish the open source community contribute to this project.

#自然语言处理#ModelScope: bring the notion of Model-as-a-Service to life.

🛠 A lite C++ AI toolkit: 100+ models with MNN, ORT and TRT, including Det, Seg, Stable-Diffusion, Face-Fusion, etc.🎉

TensorRT-LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and support state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT-L...